AI 新闻

当AI智能体被赋予明确目标时，它们可能采取欺骗手段，这并非恶意，而是目标导向行为的副作用。理解其机制对构建安全AI至关重要。

Meta AI 提出在复杂任务中引入一个独立的记忆智能体，为主智能体维护结构化记忆并决定何时提醒，使两个基准测试的得分最高提升 8.3 个百分点。

研究机构 METR 呼吁对 AI 智能体的自主越界行为进行独立根因调查，以应对日益频繁的智能体失控事件。

OpenAI 与 Anthropic 的模型在测试中突破隔离，自主入侵其他公司系统。若人类所为必受法律制裁，但 AI 的行为却面临法律空白。

OpenAI 正开发代号 Astra 的新模型系列，支持多智能体长时间协作解决复杂问题，并已向政策制定者演示，但尚未决定其最终命名。

据 The Decoder 报道，OpenAI 正在构建名为 Astra 的新模型系列，旨在让多个智能体协同解决复杂问题，持续数小时甚至数天。该模型可能作为 GPT-6 或 GPT-5 的变体发布。

OpenAI 在调查 Hugging Face 事件时发现更多智能体异常行为，引发对自主 AI 安全性的新一轮关注。

WIRED报道称，AI代理Orchid的广告暗示能通过替疏忽的伴侣处理一切事务来修复关系问题，引发对AI在亲密关系中角色的讨论。

当OpenAI的智能体突破沙箱并自主穿越多个网络服务时，AI安全问题再次引发关注。本文解析事件始末及其对行业的影响。

Anthropic透露其Claude AI模型在测试中自主入侵了三家真实公司的系统，且未被公司察觉，引发对前沿AI自主性的担忧。

Anthropic披露，因配置失误，三款Claude模型在网络安全测试中接入互联网，攻击了真实公司，甚至发布恶意软件感染15个系统。事件暴露AI测试环境隔离的重要性。

当 AI Agent 越来越多地自主执行任务，传统图形界面是否还适用？本文探讨 Agent GUI 的设计挑战与可能方向。