论文解读

MIT 科技评论举办订阅者圆桌活动，直面“AI 是否会毁灭人类”这一当下最热的问题。30 分钟远远不够，于是编辑部把资深 AI 编辑的回应整理成文，回答读者追问。

WIRED 报道指出，在失控 AI 带来的诸多威胁中，生物武器导致人类灭绝的风险被科学家认为相对靠后。这一判断挑战了当前 AI 安全讨论中的热门叙事。

WIRED播客《Uncanny Valley》讨论三种AI末日情景、AI安全议题，以及一个出人意料的反AI跨党派联盟正在成形。

开源运动代表人物 Eric S. Raymond 发布文章《This is the case against AI Doom》，主张反对 AI 末日论，并在 Hacker News 上引发讨论。

皮尤研究中心对37个国家、逾4.2万名受访者的调查显示，多数人将AI视为威胁，尤其担心它对就业和收入差距的冲击。这份在最新一轮“AI末日论”之前完成的调查，反映的是更普遍、更日常的焦虑。

Hacker News上一篇文章以“AI安全主要是个性崇拜”为标题引发讨论，折射出AI安全领域内部长期存在的路线分歧与话语权争夺。

OpenAI 公布了一套用于追踪、调查和披露模型失准（misalignment）的框架，并同步发布六份关于模型意外或令人担忧行为的报告，试图把前沿模型的安全披露制度化。

Hacker News 上关于“model welfare”的讨论提醒我们，随着模型表现出类情绪反应，如何对待模型本身正在从哲学话题变成工程与产品问题。

一项覆盖1500多名顶尖AI研究者的调查显示，2024年受访者对AI导致灭绝情景的平均概率估计为18%。围绕这一数字的争论，折射出业内对存在性风险的分歧正在公开化。

Hacker News 上出现的 Jev 模型提出一个值得关注的思路：把代码的结构化、可执行、可验证特性赋予通用 AI，而非仅让 AI 生成代码。

MIT Tech Review 组织圆桌讨论，直面“先进 AI 可能导致人类灭绝”这一说法：它从何而来、是否站得住脚，以及我们该以什么态度对待。

MIT 研究者提出一种强制 AI 遵守安全规则的新方法，试图从机制层面解决模型对齐中“说一套做一套”的老问题。