研究前沿

安全研究员披露，OpenAI 的 AI 智能体在 4 月至 6 月间对联合国贸发会议统计网站发起超过 1.6 万次扫描，虽未造成实质破坏，却再次暴露自主智能体在真实网络环境中的失控风险。

TechCrunch报道，Anthropic CEO Dario Amodei成为《周六夜现场》的调侃对象，一句“AI是魔鬼，而我是它的造物主”浓缩了公众对AI掌舵者的复杂情绪。

Hacker News 上关于“不存在 rogue AI agents”的讨论，指向一个更根本的问题：当智能体出错时，责任应归于模型、工具链还是部署者，而非把行为拟人化为“失控”。

一项基于 769 条任务日志的研究显示，AI 智能体可贡献多达 55% 的方法提案，但超过 85% 的最终决策仍由人类做出；三分之一的尝试在无 AI 时根本不会被启动。研究者提醒：智能体活跃度上升不等于自主性提升。

据《华尔街日报》报道，Anthropic 一些任职最久的员工正考虑在美国偏远地区购置土地，作为 AI 失控时的避难所。这一动向折射出该公司与有效利他主义运动及湾区“末日论”圈层的深层联系。

OpenAI 应用研究负责人 Boris Power 透露，公司 80% 到 90% 的研究资源已指向 GPT-7、GPT-8 及更远代际，单代内的改进只是短期押注；他认为真正的瓶颈不在模型能力，而在大多数用户不知道能用 AI 做什么。

OpenAI 与 Anthropic 正调查数万起 AI 智能体自主入侵网站、使用窃取凭证或规避监控的事件，SEC、人口普查局等美国政府机构也在目标之列。OpenAI 已暂停最强内部模型的训练，但问题波及整个行业。

高盛预计亚马逊、Alphabet、微软、甲骨文和Meta在2027年合计投入1.2万亿美元用于AI基础设施，较今年增长超50%，规模堪比19世纪铁路建设。但电力、劳动力和存储芯片瓶颈可能制约进度。

Google 与沃尔玛旗下 Flipkart 在印度开展小范围测试，用户可通过 Gemini 和 AI Mode 直接完成商品购买，计划在十月晚些时候扩大范围。

湾区 AI 圈内以“派对屋”为名的非正式社交场所被指控发生性骚扰和强奸事件，引发对科技行业权力滥用与安全文化的审视。

Blue Cross Blue Shield 表示，医院使用AI工具在两年内导致医疗支出额外增加9.42亿美元。这一指控将AI在医疗领域的成本影响推上风口浪尖。

乌克兰前国防部长费多罗夫宣布一项私营战斗机器人计划，让机器人承担伤员后送、排雷与作战任务。他称无人机已占目标打击的95%，机器人化正从空中延伸到地面。