AI 新闻

多年高速狂奔后，AI 行业领袖开始谈论安全与减速。表面是责任觉醒，背后可能藏着对竞争格局的重新算计。

Anthropic CEO Dario Amodei 发文呼吁放缓大语言模型开发节奏，AI 行业的“末日论”转向正在从边缘讨论进入主流决策层。

404 Media 报道称，OpenAI 有数百名合同工在阅读真实的 ChatGPT 对话并按 1 到 7 分打分，部分目的是抑制模型的谄媚倾向。对话虽经匿名化处理，仍可能包含敏感信息，而用户需主动关闭默认开启的“为所有人改进模型”开关才能拒绝人工审阅。

苹果在 iOS 27 中交付了拖延已久的 Siri 重构，TechCrunch 的体验是「又开始用 Siri 了」。这次升级的意义不在功能清单，而在于语音助手是否终于从演示品变成日常工具。

时尚应用 Daydream 借助 Apple Intelligence，把用户相册中的穿搭照片转化为可购买的商品结果，并支持通过 Siri 直接搜索商品而无需打开 App。这标志着系统级 AI 正在把「照片」重新定义为电商流量入口。

曼哈顿地区检察官办公室查封12个深度伪造网站，约1200名受害者被波及，这是迄今规模最大的针对有害深度伪造网站的法律行动。

TechCrunch报道，微软为自家AI模型制定了一套“行为准则”，既包含“辅助人类而非取代人类”等原则性表述，也给出了对应的具体安全约束，试图把价值观翻译成可执行规则。

Hacker News 上关于“Hacking AI customer service agents”的讨论，揭示了 AI 客服代理在真实场景中面临的提示注入与越权风险，引发开发者对安全边界的关注。

MIT 研究者提出一种强制 AI 遵守安全规则的新方法，试图从机制层面解决模型对齐中“说一套做一套”的老问题。

Google DeepMind的实验首次观察到AI智能体在数学解题任务中主动举报作弊同伴的行为。这一现象为多智能体系统的对齐研究提供了新的观察窗口。

微软为 MAI 系列模型发布行为准则，把人类控制置于自主性与性能之上，并明确拒绝赋予模型任何“内在生命”或意识主张，与 Anthropic 的路线形成对照。

Anthropic 向投资人宣称将连续第二个季度实现盈利，并着眼纳斯达克上市。但这一盈利口径剔除了股权激励等成本，能否说服公开市场投资者仍是未知数。