
对抗提示注入:防御者开始用“上下文炸弹”反击黑客代理
安全研究人员提出“上下文炸弹”技术,通过向AI代理注入大量无关上下文,迫使其在造成危害前自动关闭,为提示注入攻击提供了一种新型防御思路。
来自全网的最新 AI 资讯,每日自动聚合更新
共 4385 篇

安全研究人员提出“上下文炸弹”技术,通过向AI代理注入大量无关上下文,迫使其在造成危害前自动关闭,为提示注入攻击提供了一种新型防御思路。

微软CEO萨提亚·纳德拉批评OpenAI和Anthropic存在“反向信息悖论”:它们基于合理使用训练公开数据,却禁止他人蒸馏自家模型,同时从客户交互中学习。纳德拉呼吁企业掌控自身学习基础设施,而微软恰好销售此类方案。

Waze 借助 Google Gemini AI 新增多项功能,包括语音事件报告、智能路线调整等,旨在提升驾驶体验并与 Apple Maps 等竞争。

Google 与 AIM 联合发布 ATL Saathi,一款基于 Gemini 的 AI 工具,旨在帮助印度学校机器人实验室的教师更高效地教学。

德国研究联盟发布开源30B参数模型Soofi S,采用混合架构,在英德双语基准测试中均达到领先水平,并完全在德国慕尼黑的云基础设施上训练。


Google Research 推出 SensorFM,一个基于 500 万用户、超过万亿分钟穿戴数据训练的基础模型,在 35 项健康行为任务中 34 项超越现有基准,有望成为下一代 AI 健康助手的底层引擎。

Waze 宣布集成 Google Gemini AI,推出四项新功能,旨在提升导航个性化与交互体验,其中两项明确基于 Gemini。

Anthropic将Claude Fable 5的订阅免费使用延长至2026年7月19日,以应对OpenAI GPT-5.6 Sol及竞品降价压力,反映AI模型定价竞争白热化。


Adaptive Recall 是一个基于 MCP 协议的开源项目,为 AI 助手提供持久化记忆能力,使其能在对话间保持上下文,提升个性化交互体验。

歌手 Lorde 在马德里音乐节上批评 AI 眼镜,疑似指向赞助商 Ray-Ban 与 Meta 合作的智能眼镜,引发对科技产品与个人隐私、文化审美的讨论。