导语

AI代理正成为网络攻击的新工具，这一共同威胁或许能让中美两国在AI安全领域找到合作空间。

发生了什么

WIRED资深编辑Will Knight在最新一期“Uncanny Valley”播客中，分享了他近期访问中国的经历，并与主持人讨论了AI代理（AI agents）被用于攻击系统的现象。他指出，AI代理不仅能自主执行任务，还可能被恶意利用，进行网络攻击、数据窃取等行为。这一趋势引发了对AI安全性的广泛担忧，也让国际社会意识到，AI风险无国界。

为什么重要

AI代理的兴起标志着AI从被动响应走向主动行动，其自主性和不可预测性带来了全新的安全挑战。过去，网络安全主要依赖规则和签名，而AI代理能学习、适应并绕过传统防御。这种新型威胁不仅影响企业，还可能波及关键基础设施，甚至国家安全。中美作为AI领域的领先者，都面临类似风险。尽管两国在技术竞争上存在分歧，但共同的安全威胁可能成为合作的催化剂。历史上，美苏在冷战期间也曾因核风险管控而合作，AI安全或可类比。

影响与看点

对于行业而言，AI代理的安全问题将推动安全技术革新，如对抗性训练、行为监控和可解释AI。开发者需要重新思考AI系统的设计，内置安全机制而非事后补救。用户则需提高警惕，了解AI代理的潜在风险。值得关注的是，中美能否在AI安全领域建立对话机制，例如共享威胁情报、制定行为准则或联合研究。这需要政治意愿和技术信任，但至少，像Will Knight这样的交流是第一步。我的判断是，AI安全合作不会一蹴而就，但技术社区的交流与共识积累，可能为官方合作铺路。