
布里斯托大学提出“Learning Ensemble”:医疗AI安全审查,该向药品审批学什么
布里斯托大学研究者提出 Learning Ensemble 框架,借鉴药品审批机制,从系统边界、患者群体公平性、临床适配度三个维度审查医疗AI,目标是拦住那些技术指标合格、临床却可能出错甚至危险的模型。
重要论文与方法

布里斯托大学研究者提出 Learning Ensemble 框架,借鉴药品审批机制,从系统边界、患者群体公平性、临床适配度三个维度审查医疗AI,目标是拦住那些技术指标合格、临床却可能出错甚至危险的模型。

一项新研究把大模型的结构剪枝转化为伊辛优化问题,用物理学的组合优化视角决定该删掉哪些模块,为剪枝方法提供了新的理论框架。

OpenAI 宣布与一个独立的数学与人工智能顾问组合作,用于指导新兴 AI 成果的评审与对外沟通。这标志着前沿实验室开始把「结果可信度」的裁决权部分外移。

Hacker News 上一条讨论指出,并非所有 AI 工作者都相信技术会杀死所有人。这背后是实验室安全文化与工程实践之间的认知分裂。


一篇引发讨论的文章指出,生成式 AI 对开放创作生态的攫取正在瓦解「创作公地」——当模型把公共知识转化为私有产品,开放共享的激励结构被根本动摇。

ICLR 2027 收到的投稿摘要约达5万篇,较上一届的1.95万篇大幅攀升。AI 降低写作门槛、企业考核与发表挂钩,共同推高了投稿量,也让评审与质量危机进一步恶化。

WIRED报道指出,强大AI模型对数学研究构成存在性风险,但研究者因其实用性而无法停止依赖——这种矛盾正在重塑学术工作的底层逻辑。

NASA 与 IBM 联合开源面向月球的地理空间基础模型,把地球观测领域成熟的基础模型范式搬到月球场景,为遥感解译与科研协作提供新底座。

Anthropic CEO称AI安全的关键在于理解模型如何“思考”,但现有可解释性证据并不乐观。当行业一边强调风险、一边加速发布,安全叙事与商业节奏之间的张力正在放大。

Google DeepMind指出,让AI模型「说出思考过程」的可见思维链正面临消失风险,这种透明度本是重要的安全优势。

42位英国皇家学会院士(含菲尔兹奖得主)联名发出公开信,警告AI生存风险真实且紧迫,并指出顶尖模型已在数月内解决开放数学难题,同样的能力可能被用于网络与生物武器。