AI 新闻

微软与美国教师联合会达成协议，为学校AI应用制定安全和隐私原则，此前纽约和洛杉矶学区已禁止学生使用AI。此举反映教育领域对AI伦理的关切，或推动行业标准形成。

OpenAI 宣布 Paul Christiano 加入基金会董事会及安全与安保委员会，其对齐研究背景或为 AI 安全治理带来新视角。

Anthropic一位研究员因担忧自我改进AI的潜在风险而离职，并公开警告AI可能“杀死所有人类”。此事引发对AI安全与自我改进能力的讨论。

Meta 新推出的 AI 工具被指与 Muse 乐队社交媒体账号被盗有关，引发对 AI 安全与账号保护的新担忧。

Google开发的人工智能系统能够评估人类基因组中每一个可能的单碱基变化的影响，区分无害变异与致病突变，为精准医学提供新工具。

AI 能模仿风格、优化流程，但无法习得真正的“品味”——那种基于文化、经验与直觉的原创判断。本文探讨这一论断背后的技术逻辑与创作领域的现实影响。

本文深入探讨“多产性AI精神病”这一新兴概念，分析其定义、成因及对AI安全与治理的深远影响。

AI 公司视超级智能为必然，但近期安全事件表明，当系统能力超越人类控制时，风险不容忽视。本文探讨超级智能部署的伦理与安全挑战。

近期专家警告AI可能在十年内导致人类灭绝，引发热议。本文梳理事件背景，分析其背后的技术逻辑与现实意义，探讨我们应如何理性看待这一风险。

ControlAI联合创始人Connor Leahy警告，超级智能不应被视为可控制的工具，而应视为具有自主性的对手，近期安全事件凸显了失控风险的紧迫性。

Anthropic一位研究员公开表示，AI导致人类灭绝的可能性超过10%，这一观点在技术社区引发热议。本文梳理事件背景，并探讨其背后的行业意义与值得关注的讨论方向。

Anthropic研究员Jacob Coxon因担忧AI灭绝风险而辞职，呼吁实验室之间达成节奏协议。这一事件凸显了AI安全领域内部对技术发展速度的深刻分歧。