发生了什么
美国某县警长办公室通报，一队徒步者在野外遇险后获救，原因是他们根据Google Gemini的建议，携带了远少于实际所需的食物和水。警长办公室在声明中表示，这些徒步者“被Gemini建议携带远少于团队所需的食物和水”。救援行动最终成功，但这一事件为AI辅助现实决策敲响了警钟。
为什么重要
随着生成式AI进入主流，用户越来越倾向于向ChatGPT、Gemini等助手寻求生活建议，包括旅行规划、户外装备打包等。然而，AI模型本质上是基于统计的文本生成器，缺乏真实世界的物理常识和风险评估能力。它们无法理解地形、天气、团队体能等变量，却可能以自信的语气输出看似合理的建议。此次事件并非孤例，此前已有用户因AI建议食用有毒植物或进行危险动作而受伤的报道。当AI从数字世界延伸到物理世界，其错误建议的后果可能从“答错题”升级为“危及生命”。
影响与看点
对用户而言，此事件提醒我们：AI助手应被视为“参考工具”而非“权威顾问”，尤其在涉及人身安全的领域，必须交叉验证专业来源。对开发者来说，如何在AI输出中嵌入不确定性提示和风险警告，成为产品设计的伦理课题。例如，当用户询问户外装备时，模型是否应主动建议查阅官方指南或咨询专业人士？此外，AI公司需考虑在特定高风险场景（如医疗、户外、驾驶）中增加免责声明或强制安全提示。值得关注的是，监管层面是否会因此类事件加速对AI生成内容的问责机制。独立判断：AI的“自信”与“无知”并存，是当前技术阶段的核心风险之一；用户教育和技术护栏必须同步推进，否则类似事件将反复上演。
