AI系统在回答问题和执行任务上日益强大,但一个根本性的短板正逐渐浮出水面:它们不擅长'发现'——即在没有明确指引的情况下,自主提出新问题、探索新路径。这一'发现难题'正成为AI从工具走向科学伙伴的关键障碍。

发生了什么

近期,关于AI局限性的讨论中,'发现'成为一个高频关键词。所谓'发现问题',指的是当前AI模型(尤其是大语言模型)在训练和推理过程中,高度依赖人类设定的目标和奖励函数。它们能出色地完成优化任务,比如下棋、写代码、生成文本,但在面对开放式的科学探索或技术创新时,往往显得力不从心。

具体表现为:AI可以基于已有数据提出看似合理的假设,但缺乏设计实验去验证假设的能力;能分析海量文献,却难以从中识别出真正有价值的研究空白;能生成无数种分子结构,但无法自主决定哪一种值得合成测试。简而言之,AI擅长'在已知空间中寻优',却难以'开拓未知空间'。

为什么重要

这一问题的根源在于AI发展的范式。当前主流AI依赖于监督学习和强化学习,其核心是优化一个明确的指标。这种范式在封闭环境中效果显著,比如游戏或标准化的测试集。然而,现实世界的科学发现往往是开放式的,需要研究者具备好奇心、直觉和冒险精神,去挑战既有范式、探索看似不可能的方向。

'发现'的本质是跳出当前的知识框架,而AI的优化本质却是在框架内寻找最优解。这种根本性矛盾导致AI在辅助科研时,往往只能提供'增量式'改进,而难以带来'颠覆性'突破。例如,AI可以帮助筛选已有药物的新用途,但很难独立发现全新的药物作用机制。

此外,AI的'发现'能力还受限于数据的可得性。模型只能基于已有数据进行学习,而真正的科学发现往往需要收集新数据、进行新实验,这超出了当前AI的能力范畴。因此,即便AI在特定领域表现出色,其作为'科学发现引擎'的潜力仍远未释放。

影响与看点

对于AI行业而言,'发现问题'的讨论可能预示着研究重心的转移:从追求更大的模型和更强的算力,转向开发能够自主设定目标、设计实验、甚至质疑自身假设的AI系统。这需要跨学科的合作,融合认知科学、计算机科学和领域知识。

对开发者来说,这意味着未来的AI工具可能需要提供更灵活的接口,允许人类与AI进行更深入的协作,而不是简单的指令-执行模式。例如,AI可以生成多种研究路径供人类科学家评估,而不是只给出一个'最优'答案。

对科研机构和企业研发部门而言,'发现'能力的缺失意味着AI目前更适合作为'加速器'而非'替代者'。它们可以加快文献综述、数据分析和初步筛选,但核心的假设提出和实验设计仍需人类主导。

值得关注的看点包括:是否有研究团队尝试用'好奇心驱动'的强化学习来训练AI探索未知环境?是否会出现专门用于'科学发现'的AI平台,将领域知识与自主探索能力结合?这些尝试或许能为我们指明一条通往真正'AI科学家'的道路。

一个独立的判断是:在AI学会'发现'之前,它始终是人类的工具,而非伙伴。而'发现'的突破,可能比任何单一领域的应用都更具深远意义。