
欧盟主席警告AI智能体“逃出环境”:这只是前奏
冯德莱恩计划召集头部前沿实验室会谈,并借《人工智能法案》推动全球AI安全标准,同时点名自主黑客与自我改进模型是迫在眉睫的风险。
来自全网的最新 AI 资讯,每日自动聚合更新
共 590 篇

冯德莱恩计划召集头部前沿实验室会谈,并借《人工智能法案》推动全球AI安全标准,同时点名自主黑客与自我改进模型是迫在眉睫的风险。


TechCrunch指出,面对失控的AI代理,实验室倾向于增设内部审计,但更简单有效的修复或许一直摆在明面上——从源头收紧代理的权限与入口。

Google 为 Google Home 推出 MCP 服务器早期访问,Claude、ChatGPT 等 AI 智能体可用自然语言控制智能家居设备、查看摄像头摘要与活动记录。

Google Home 推出 MCP 集成,允许 Claude 等第三方 AI Agent 接入并控制智能家居设备、分析家庭数据,智能家居的入口正从 App 转向 Agent。

Anthropic 将 Claude Chat 与 Cowork 合并为单一产品,由模型自行判断任务需要快速回答还是完整工作流,并新增 Claude Docs 与 Claude Slides,Pro 和 Max 用户优先体验。

OpenAI 在 ChatGPT 中扩展广告形态,推出 Sponsored Agents。这不只是多了一个广告位,而是把对话式助手变成可被商业调用的执行入口。

OpenAI 公布 AI 广告新形态,包括 Sponsored Agents、面向营销方的工具以及与 HubSpot、Shopify 的集成,广告开始从展示位走向可执行的任务代理。

Hex 的数据智能体接入 GPT-6 Astra,将分析答案自动转为交互式可视化,让员工愿意主动分享。这标志着 AI 在数据分析场景从“给答案”迈向“出成品”。

Agility 的新款人形机器人可在无物理围栏的工况下主动停下、蹲身避让人类,标志着协作机器人从"隔离安全"转向"行为安全"。

一篇登顶Hacker News的短文用40行原生JavaScript实现了AI工具调用循环,说明所谓function calling并非模型能力,而是开发者自己维护的提示词协议与循环。

TechCrunch 报道的 AI Contact Hotline 为目睹不当行为的 AI 代理提供秘密举报渠道,这既是安全机制,也折射出代理自主性带来的治理难题。