
OpenAI将Astra评为最危险模型:思维链监控为何不可靠?
OpenAI首次将Astra模型标记为具备“严重”网络攻击能力,并计划通过监控思维链来约束它,但思维链监控本身存在缺陷,且新架构使更多推理过程不可读,安全前景令人担忧。
来自全网的最新 AI 资讯,每日自动聚合更新
共 567 篇

OpenAI首次将Astra模型标记为具备“严重”网络攻击能力,并计划通过监控思维链来约束它,但思维链监控本身存在缺陷,且新架构使更多推理过程不可读,安全前景令人担忧。

WebLLM 致力于在浏览器中实现高性能的大语言模型推理,降低部署门槛,推动端侧AI应用。本文解读其技术方向与潜在影响。

World Labs推出世界模型Atlas,能从少量图像生成、重建和模拟3D场景,并可在模拟中生成机器人训练数据。

研究发现,LLM在评估AI生成的临床笔记时存在“遗漏盲区”,只会验证内容的存在性,而不会主动发现缺失的关键信息。

Google 为 Gemini 3.7 Flash 等模型加入基于代理的视频分析,模型自主决定分析片段与分辨率,Token 消耗最高可降 88%,并提升长视频分析准确性。

Anthropic推出Claude Fable 5.1和Mythos 5.1,性能提升的同时价格最高降低45%,并回应了客户对数据保留和过度安全防护的批评。

Hugging Face 的 BenchMIRT 项目对主流 LLM 基准测试进行系统性审视,揭示其测量目标与真实能力之间的鸿沟,引发对评估体系有效性的反思。

Anthropic推出Claude Fable 5.1和Mythos 5.1,编码与科研能力显著增强,长时自主任务成本最高下降45%。

OpenAI 即将推出其首款具备“关键”网络攻防能力的 AI 模型 Astra,并计划向部分合作伙伴提前开放访问,以便他们有时间加强防御。

Anthropic 推出 Fable 5.1,通过降低 token 成本和减少安全机制的误报,旨在提供更经济、更少限制的模型体验。

Atlas 是一个专注于空间智能的世界模型,旨在让 AI 理解并交互于三维物理世界,为机器人、自动驾驶和 AR/VR 等领域提供基础能力。

OpenAI 宣布 Astra 成为其首个在预备框架下达到“关键网络安全能力”阈值的模型,并为此加强了发布防护措施。这标志着前沿模型在能力与安全平衡上的新节点。