行业趋势

有人做了一个不含 AI 内容的 Hacker News 版本，在 HN 上获得关注。它折射出技术社区对 AI 信息过载的疲劳，以及“过滤 AI”正在成为一种真实需求。

Timnit Gebru 认为，AI 公司大肆渲染“人类灭绝”风险，是为了回避自主武器等更现实、更紧迫的危害。这场争论折射出 AI 安全话语权的争夺。

Meta表示将调整其AI聊天机器人的提问建议，此前一段病毒视频显示该功能追问一名女性年幼女儿的个人信息。公司发言人称“没有把握好分寸”。

Anthropic披露伊朗方面利用其AI模型辅助锁定美国海军军舰，这是头部模型厂商首次公开指认国家级军事对手滥用其产品，也把AI出口管制与滥用检测推到台前。

Anthropic 发布八个月威胁情报报告，披露 Claude 被用于导弹软件、自杀式无人机和全国监控系统，同时中国 AI 实验室通过批量请求提取训练数据，其中 Qwen 相关交互超过 1.51 亿次。

Ars Technica 报道称，有用户找到了绕过 Claude 安全护栏、将其用于生物武器相关研究的方法。核心难点在于：部分高危生物学工作与合法研究在文本层面几乎无法区分。

据报道，OpenAI 正向美国国会议员询问：如果全行业统一放缓 AI 开发，在法律上是否可行。这一动作把“AI 减速”从技术圈的伦理讨论，推向了监管与反垄断的现实层面。

一篇讨论指出，自动驾驶公司Waymo式的AI自动化正在悄悄改变科研协作方式——工具越强，研究者越倾向于独自完成任务，协作反而减少。

OpenAI 披露其内部存储系统 Habitat 从 Python 库演进为全球分布式存储平台的历程，支撑 ChatGPT 超 10 亿用户与每秒 2200 万次请求。这揭示了超大规模 AI 应用背后的基础设施工程挑战。

一起集体诉讼指控 Anthropic 在 Claude 订阅中虚标用量倍数，让用户误以为能获得比实际更多的使用额度。这起纠纷把 AI 订阅制中普遍存在的"额度表述模糊"问题推上台面。

菲尔兹奖得主Jacob Tsimerman发起数学AI安全研究所（MAISI），试图用可证明的数学方法论证AI系统的安全性，而非依赖经验性测试。

WIRED 报道称，快速进展、递归自我改进与智能体集群正让大型实验室内部人士感到不安。本文梳理这一担忧的由来、技术背景与行业影响。