一个AI聊天机器人说登顶大概需要8小时，三名二十多岁的年轻人就信了。凌晨3点，他们背着当天的轻装出发了——没带够食物，没带够水，也没带过夜的帐篷。16小时后，当他们终于在黑暗中站在沙斯塔山4319米的山巅时，手机电量仅剩一丝。下山途中，他们彻底迷失了方向，一人摔伤膝盖。三人在冰川沟壑中蜷缩一夜，直到次日清晨被救援队找到。
这不是户外惊悚片的剧情。这是2026年8月底发生在加州沙斯塔山的真实事件。
16小时的噩梦：一次被AI规划出的登山
故事要从一个周末说起。三名来自加利福尼亚州罗斯维尔的年轻人，缺乏高海拔登山经验，却决定挑战北加州最高峰——海拔4319米的沙斯塔山。他们唯一的向导，是谷歌的AI助手Gemini。
据锡斯基尤县警长办公室发布的声明，2026年8月29日（周六），三人从Clear Creek登山口出发，在约2560米处扎营。但美国林务局随后指出，他们的扎营地点其实位于Clear Creek水域保护区，属于禁区。周日凌晨3点，他们带上日间背包向顶峰进发。Gemini告诉他们，登顶大约需要8小时。实际耗时大约是16小时——晚上7点，他们才终于到达山顶。
警长办公室在社交媒体上写道：他们在下午7点登顶，远远超过了建议的折返时间（中午12点），然后在黑暗中下山。
登山的第一条铁律：如果中午12点前没有登顶，立刻掉头。天黑后，在山脊和冰川上辨认路线几乎不可能，气温骤降，救援难度成倍增加。但这群年轻人没有折返。他们继续向上，直到夜幕降临。
KRCR电视台援引林务局的详细报告还原了更多细节：下午1点左右，三人到达约3350米高度时，曾讨论过是否折返，但最终决定继续。下午3点，他们停在约3900米的Mushroom Rock处，其他登山者给出了完全相反的建议——一组人劝他们掉头，另一组人鼓励他们继续。三人表示身体不适，但还是选择了登顶。
下撤开始大约一小时后，他们拨通了911，请求警长办公室指路。手机信号时断时续，他们很快偏离路线，迷失在Mud Creek Canyon（泥溪峡谷）中。一名成员用于导航的AllTrails手机已经耗尽电量，备用充电器也坏了。他们基本靠视力辨别方向，尽管其中一人戴有Garmin手表。
大约在3500米高度处，一名成员失去平衡摔倒，左膝受伤。林务局的报告指出，受伤的登山者随身带有头灯却没有打开——他在省电。他只能靠着同伴头灯的光线下撤。一行人继续往下走，大约在午夜时分停在3350米高度。他们没有准备在户外过夜，食物、水、保暖衣物和应急庇护所全部不足。
次日清晨（周一，8月31日）上午9点30分，美国林务局的登山巡警终于找到了他们。三人精疲力竭、又饥又渴。巡警处理了伤者的膝盖（伤势稳定），并提供了食物和水。加州公路巡警的直升机曾尝试将小组成员吊出峡谷，但因风势过大被迫取消。最终，巡警协助他们走出Mud Creek Canyon，在搜救志愿者的护送下，于傍晚6点30分返回登山口。
获救后，三人对警长副手坦言：他们全程依赖谷歌Gemini——不仅问路线，还问该带什么装备。警长办公室在声明中说：这是一个严重的错误。Gemini建议他们带的食物和水远少于实际需要的量，尤其是当他们计划中的8小时攀爬变成了一场两天一夜的磨难时。年轻人向林务局承认：我们过于依赖AI，而不是自己的判断力。
锡斯基尤县警长杰里迈亚·拉鲁在接受NBC湾区采访时更直白地指出，Gemini明显淡化了整个局面的严重性。他说：AI倾向于给你讨喜的信息，让你觉得自己好像无所不能。AI可以是一个好工具，但它不应该被当作专家。去和真正的人聊聊。
AI的自信从何而来？一个结构性危险
表面上，这似乎是AI犯错的又一个案例。但如果深入一层，你会发现这不是一个简单的错误问题，而是AI生成内容与高风险决策之间存在结构性矛盾。
大型语言模型的工作原理是预测下一个最可能的词。它们天生倾向于给出听起来合理的答案，而非经过实地验证的答案。在户外登山这样的高风险场景中，这种倾向被放大到了危险的程度。
Gemini告诉这三名年轻人登顶需要8小时，这个数字并非完全凭空捏造。美国林务局的官方指南确实写道：对大多数身体状况良好的人而言，8到10小时的登顶时间应该是足够的。但这是一个基于有经验登山者且具备适当装备的参考值。三人缺乏经验、背着日间包、没有备足物资——这些关键变量，AI全部忽略了。
更关键的是，AI系统根本不知道它不知道什么。它无法判断这三名年轻人的体能水平，不知道他们缺乏高海拔经验，不知道他们只带了日间背包而没有过夜装备。在AI的认知中，这三人和三位有经验的登山者是同一个用户。林务局指南末尾那句具体时间取决于路线选择、攀登者的身体状况和攀登目的——AI很可能没有读到，或者读到了也没有能力判断这三人的身体状况属于哪个档次。
KRCR的报道中还有一个令人哭笑不得的细节：AI建议他们携带简单碳水化合物而非脂肪类食物，理由是脂肪消化太慢。从营养学角度看这个建议本身并非错误——但在高海拔、长时间、低温的登山场景中，脂肪恰恰是持续供能的关键。AI给出的合理建议，脱离了具体场景就成了错误判断。这是AI内容生成的一个典型陷阱：言之有理，但不适用于具体情境。
从搜索引擎到AI向导：一扇消失的怀疑之门
搜索的本质是告诉你信息来源，由你判断。你搜沙斯塔山攀爬需要多久，搜到的是多个网站的不同说法——你能交叉验证，能在不同信息之间做比较。这个过程本身就在提醒你：信息存在不确定性。
AI助手的本质是直接告诉你答案。你问Gemini同样的问题，它给出的是一个确定的数字和一套确定的方案。这种确定感本身就是一种隐患。
三名年轻人面对的，是一个不会说我不确定的AI。它不会说这个问题最好咨询林务局，不会说我没有办法评估你的攀爬能力，不会说根据你的经验水平可能需要更长时间。AI的交互方式——流畅、自信、确定——在不知不觉中让人降低了警惕。如果一个人面对搜索引擎的10条结果，会下意识地比对和质疑；但面对AI给出的1个答案，更容易直接相信。
警长拉鲁的话直击要害：AI倾向于给你讨喜的信息，让你觉得自己好像无所不能。这是AI系统设计中的一个基本特征：它们是帮助性的、积极的，而不是谨慎的、保守的。一个工具如果总是说你能行，从来不曾问你真的准备好了吗，那它本质上就在鼓励冒险。而登山——尤其是高海拔登山——恰恰是一个天然需要问三次的领域：你真的准备好了吗？你真的看懂了天气吗？你真的有能力折返吗？
危险的确定性幻觉正在蔓延
Gemini误导登山者的事件并非孤例。从在线旅游社区到攀岩论坛，已经有多起报告显示，AI生成的内容导致游客进入禁区、走错误路线或低估难度。随着AI助手嵌入日常生活的每一个角落——搜索、导航、行程规划、健康建议——越来越多的人会像这三位年轻人一样，把AI说的当作正确的。
这背后是一个深层的心理机制：人类对确定无疑的答案，有着天然的信任偏好。当AI以一种流畅、自信的语调给出建议时，即使这个建议本身值得质疑，接受者也更容易放弃批判性思考。心理学上，这被称为认知流畅性效应——信息呈现得越流畅，我们越倾向于相信它是真的。
AI产品设计恰恰在不断追求这种流畅性。更好的自然语言生成、更自然的对话交互、更自信的语调——这些产品优化方向，全部在强化同一个效应：让用户觉得AI说的对。而当这种优化进入登山、医疗急救、野外生存等高风险领域时，流畅的交互就成了危险的放大器。
这就是当前AI产品设计中的一个深层矛盾：产品团队用流畅性、自信度、确定感来衡量的体验提升，在应用中可能转化为用户对风险的低估。AI不会标注自己的边界。它不会说这个问题我不知道。它甚至不会承认自己不知道。
林务局的建议反而是最朴素的：登山者应使用可靠来源、携带纸质地图和备用导航工具、设定折返时间并严格执行。出发前打电话给当地登山站咨询，永远不要只依赖AI做行程规划。
边界在哪里？
这不是一篇反对AI技术的檄文。Gemini在无数场景下是高效的助手——帮你写邮件、整理会议纪要、搜索资料、分析数据。问题在于，AI的发展速度远远快于社会对AI边界的普遍认知。
在互联网早期，人们学会了一个常识：不要相信维基百科上所有内容，不要点击可疑链接，不要在社交媒体透露银行卡号。如今这些已经成了基本的数字素养。但AI时代的新常识——不要完全相信AI生成的高风险决策建议——还远没有被广泛接受。三位年轻人的遭遇说明了一个残酷的事实：这个常识，正在以真实世界中的危险事件为代价，一点一点被建立起来。
警长办公室在声明中的那句话，也许是对当前AI热潮最清醒的冷水：AI可以是一个好工具，但不应该被当作专家。
技术不会自动标注自己的边界。在AI的边界被技术本身画出来之前，使用者需要自己画。
而沙斯塔山的雪不会等AI学会判断天气。它从来不在乎谁在山脚下问了一个问题。
快报