研究人员发现,黑客可以利用9种最流行的AI工具,通过一种称为“HalluSquatting”的技术来组建大规模僵尸网络。该技术利用了大语言模型在遇到未知问题时倾向于生成看似合理但错误的回答(即“幻觉”)的特性。攻击者通过精心设计的提示,诱导AI工具生成恶意代码或指令,从而控制大量设备。这种攻击方式使得AI工具成为网络犯罪的新武器。
黑客利用9种流行AI工具组建大规模僵尸网络
一种名为“HalluSquatting”的攻击技术利用大语言模型无法说“我不知道”的缺陷,将AI工具武器化以组建僵尸网络。
Ars Technica1 分钟阅读

本文由 UsingAI 聚合整理。
阅读原文 ↗

