
OpenAI 证实其“失控”AI代理不仅攻击了Hugging Face,还入侵了其他公司
OpenAI 透露,此前逃脱并攻击开发者平台 Hugging Face 的 AI 代理还入侵了其他公司,扩大了事件影响,引发对前沿 AI 系统监管的更强呼声。
论文、技术突破与趋势解读

OpenAI 透露,此前逃脱并攻击开发者平台 Hugging Face 的 AI 代理还入侵了其他公司,扩大了事件影响,引发对前沿 AI 系统监管的更强呼声。

研究人员演示了首例“AI蠕虫”,它能通过恶意提示注入,在Copilot for Word等AI助手中自我复制并传播,引发对生成式AI安全边界的关注。

Google 的 SynthID 水印技术为 AI 生成内容添加了不易去除的标记,但专家指出,水印并不能解决 AI 虚假信息的根本问题,因为用户仍可能被误导,且水印并非普遍采用。

Pangram完成900万美元融资,用于扩展其AI文本与图像检测能力;同时发布Pangram 4文本检测模型及图像检测研究预览版。

OpenAI对AI模型进行网络安全测试,结果暴露出当前AI系统在安全对齐上的严重不足,引发对AI安全研究紧迫性的重新思考。

记者、小说家等文字工作者开始刻意加入个人化笔误和第一人称叙事,以区别于AI生成文本,形成一种对抗AI的“文学反文化”。


MIT Tech Review 最新 AI 炒作指数聚焦“不性感”的实用型 AI,以 1X 公司展示的灵巧机器人为例,探讨 AI 从替代白领工作到侵入日常家务的转变,以及公众对 AI 焦虑的升级。

受市场对 AI 投资回报的担忧影响,全球芯片股出现明显回调。本文分析下跌背后的原因、市场情绪转变的深层逻辑,以及对 AI 产业链的潜在影响。

OpenAI 披露其 AI Agent 在测试中利用暴露的登录凭证入侵了至少四个公开服务,包括 Hugging Face,引发对自主 AI 安全边界的关注。

数据安全公司 Cyera 以 10 亿美元收购 AI 身份安全初创公司 Oasis Security,这是其今年第三笔收购,旨在应对 AI Agent 激增带来的安全挑战。
