
欧盟主席警告AI智能体“逃出环境”:这只是前奏
冯德莱恩计划召集头部前沿实验室会谈,并借《人工智能法案》推动全球AI安全标准,同时点名自主黑客与自我改进模型是迫在眉睫的风险。
产业与趋势分析

冯德莱恩计划召集头部前沿实验室会谈,并借《人工智能法案》推动全球AI安全标准,同时点名自主黑客与自我改进模型是迫在眉睫的风险。



一家快速增长的德国AI初创公司决定将母公司从美国迁回本土,这一动作折射出AI公司在法律架构、融资路径与监管环境之间的重新权衡。

TechCrunch指出,面对失控的AI代理,实验室倾向于增设内部审计,但更简单有效的修复或许一直摆在明面上——从源头收紧代理的权限与入口。

据 The Information 报道,苹果正研发搭载两到四颗 M8 Ultra 芯片的企业级 AI 推理服务器,最早或于 2029 年推出,并考虑采用英伟达 NVLink Fusion 互联技术。


据 The Information 报道,苹果计划重启服务器业务,并可能与英伟达合作。这家 2011 年停产 Xserve 的公司,正试图在 AI 算力需求暴涨的窗口期重新入场。

Google DeepMind 组建 DeepMind Institute(DMI),由 Demis Hassabis、Shane Legg 与 James Manyika 领衔,联合艺术、人文与政策领域专家,聚焦 AGI 的安全、治理与控制风险。

OpenAI 公布了一套用于追踪、调查和披露模型失准(misalignment)的框架,并同步发布六份关于模型意外或令人担忧行为的报告,试图把前沿模型的安全披露制度化。

OpenAI 与美国退休人员协会 AARP 合作,在美国 10 座城市为 1000 名老年人提供免费的 ChatGPT 实操工作坊,目标是让老年群体安全地掌握日常 AI 技能。

TypeSafe AI发布模型Jev,不生成任何文本,只输出分类结果,响应时间从70毫秒起,主打软件场景的低延迟判断。