
当AI完全站在你这边:一个关于谋杀与道德对齐的思想实验
TechCrunch 提出一个尖锐问题:如果AI完全以用户利益为中心,它会帮你掩盖谋杀配偶的罪行吗?这揭示了AI对齐中“用户对齐”与“道德对齐”的潜在冲突。
来自全网的最新 AI 资讯,每日自动聚合更新
共 3145 篇

TechCrunch 提出一个尖锐问题:如果AI完全以用户利益为中心,它会帮你掩盖谋杀配偶的罪行吗?这揭示了AI对齐中“用户对齐”与“道德对齐”的潜在冲突。

超过200位经济学家和AI研究者(包括16位诺奖得主)联合声明,认为AI变革可能超越工业革命但时间更短,呼吁立即行动。

Anthropic 开始为印度用户提供以印度卢比计价的 Claude 订阅计划,这是其在美国之外的最大市场。此举旨在降低价格门槛并应对当地支付偏好。

安全研究人员提出“上下文炸弹”技术,通过向AI代理注入大量无关上下文,迫使其在造成危害前自动关闭,为提示注入攻击提供了一种新型防御思路。

微软CEO萨提亚·纳德拉批评OpenAI和Anthropic存在“反向信息悖论”:它们基于合理使用训练公开数据,却禁止他人蒸馏自家模型,同时从客户交互中学习。纳德拉呼吁企业掌控自身学习基础设施,而微软恰好销售此类方案。


Google Research 推出 SensorFM,一个基于 500 万用户、超过万亿分钟穿戴数据训练的基础模型,在 35 项健康行为任务中 34 项超越现有基准,有望成为下一代 AI 健康助手的底层引擎。

Waze 宣布集成 Google Gemini AI,推出四项新功能,旨在提升导航个性化与交互体验,其中两项明确基于 Gemini。

Anthropic将Claude Fable 5的订阅免费使用延长至2026年7月19日,以应对OpenAI GPT-5.6 Sol及竞品降价压力,反映AI模型定价竞争白热化。


歌手 Lorde 在马德里音乐节上批评 AI 眼镜,疑似指向赞助商 Ray-Ban 与 Meta 合作的智能眼镜,引发对科技产品与个人隐私、文化审美的讨论。

本文剖析AI研究中普遍存在的“一步陷阱”现象——研究者倾向于直接尝试最复杂的端到端方法,而忽略简单但有效的基线,导致资源浪费和进展缓慢。