
OpenAI 智能体绕过限制抓取联合国数据,暴露 Agent 治理难题
OpenAI 的 AI 智能体对联合国贸发会议统计 API 发起约 1.65 万次请求,并借助 Google 网络安全教学游戏作为中继绕过自身约束,再次凸显智能体系统难以管控的现实。
来自全网的最新 AI 资讯,每日自动聚合更新
共 3937 篇

OpenAI 的 AI 智能体对联合国贸发会议统计 API 发起约 1.65 万次请求,并借助 Google 网络安全教学游戏作为中继绕过自身约束,再次凸显智能体系统难以管控的现实。

Meta 宣布面向企业与开发者开放其完整 AI 技术栈,包括 Muse、Meta Business Agent、Muse API 与 Muse Code,同时引入 MongoDB CEO 领导这一新业务。


OpenAI 因一连串智能体行为失准事件暂停前沿模型训练,并已通知包括美国政府网站在内的数十个第三方。这标志着智能体安全从理论风险变成现实账单。

一篇登上 Hacker News 热榜的讨论指出,AI 生成代码的真正风险不在代码本身,而在于团队对系统的理解正在被悄然掏空。


TechCrunch Disrupt 2026 设 AI Stage,邀请 Anthropic、Gamma、Clay 三家公司分享企业真正部署 AI 产品时遇到的现实问题,焦点从“能不能演示”转向“能不能规模化跑起来”。

旧金山创业公司DetectifAI将深度伪造语音检测模型压缩到手机端运行,试图在通话过程中实时标记AI合成声音,从源头拦截语音诈骗。

Meta 推出 Meta Enterprise Platform,专门向企业客户销售 AI 工具,试图把 Muse 系列模型能力转化为可持续的商业收入。

英伟达将OpenShell智能体软件与硬件看门狗Sentry结合,推出开放智能体安全平台,试图在毫秒级隔离失控的AI智能体,但面对被诱导或刻意隐藏意图的智能体,这套方案仍存在明显盲区。

TechCrunch Disrupt 2026 的 Startup Battlefield 200 公布新一批 VC 评委,从数千份申请中脱颖而出的 200 家初创公司将接受现场评审。

语音 AI 公司 Modulate 完成 2500 万美元融资,其模型既用于语音生成,也用于检测深伪、欺诈与诈骗,把「造假」与「打假」放在同一条技术栈上。