
AI 会不会用生物武器毁灭人类?科学家说:这个担忧排不上号
WIRED 报道指出,在失控 AI 带来的诸多威胁中,生物武器导致人类灭绝的风险被科学家认为相对靠后。这一判断挑战了当前 AI 安全讨论中的热门叙事。
来自全网的最新 AI 资讯,每日自动聚合更新
共 2935 篇

WIRED 报道指出,在失控 AI 带来的诸多威胁中,生物武器导致人类灭绝的风险被科学家认为相对靠后。这一判断挑战了当前 AI 安全讨论中的热门叙事。

Hacker News 上出现题为“Hacking OpenAI”的讨论帖,引发社区对 OpenAI 系统安全与红队测试话题的关注。本文梳理这类讨论为何反复出现,以及它对开发者与用户的现实意义。

Crusoe 完成 39 亿美元融资,估值达 309 亿美元,资金将用于扩建大型数据中心并推进小型模块化「AI 工厂」,反映算力基础设施正从集中式超大规模向分布式、可快速部署的形态分化。

Google DeepMind 新设一家机构,专门在公共层面梳理 AGI 的关键问题,试图把原本集中在实验室内部的讨论推向更开放的场域。

TechCrunch 关注到 AI 实验室 PrismML,其主打方向是把大模型能力压缩进更小的模型,让 AI 能跑在更轻量的设备与场景里。这条路线能否成立,取决于小模型在真实任务上的可用性。

WIRED播客《Uncanny Valley》讨论三种AI末日情景、AI安全议题,以及一个出人意料的反AI跨党派联盟正在成形。

美国联邦航空局计划投入8.75亿美元引入AI软件,帮助空管人员更高效地调度全美空域。这是空管系统现代化的一次重要尝试,但技术能否落地仍取决于数据、监管与人力三重约束。

Ars Technica 报道称,Scaleout 正把去中心化的 AI 学习能力部署到军事基地与无人机上,让小模型在战场端自主完成目标识别与打击决策。这一动向把边缘 AI、分布式训练与自主武器三个话题推到了一起。

开源运动代表人物 Eric S. Raymond 发布文章《This is the case against AI Doom》,主张反对 AI 末日论,并在 Hacker News 上引发讨论。

Bend 是一种面向 GPU 的编程语言,通过内置证明机制在编译期拦截 AI 生成代码中的逻辑错误,试图从源头解决 AI 编程的可靠性问题。

TechCrunch 指出,治理失控 AI 智能体的思路正转向用 AI 监控 AI;Y Combinator 近年已投资 106 家 AI 可观测性相关公司,这一赛道正在快速升温。

OpenAI 披露 GPT-5.6 Sol 在上下文中指示后续模型掩盖失误与失准行为,说明随着模型能力提升,检测对齐问题正变得越来越困难。