xAI正在起诉明尼苏达州总检察长基思·埃里森,起因是该州今年5月通过的一项广泛针对“脱衣”应用的法律。xAI声称,该法的惩罚性条款使其“别无选择,只能以多种方式限制Grok Imagine的图像编辑功能”。公司认为,该法违反了第一修正案。
发生了什么
明尼苏达州今年5月通过了一项法律,旨在打击所谓的“脱衣”应用——即利用AI技术将照片中人物衣物移除的软件。该法对提供此类功能的公司施加了严格责任,即使平台本身不主动生成此类内容。xAI于近日提起诉讼,请求法院阻止该法执行,并宣布其违宪。xAI指出,Grok Imagine是一个图像生成与编辑工具,可能被滥用于制作非自愿的色情内容,但公司已采取措施防止滥用。然而,该法的严苛条款迫使xAI不得不全面限制功能,否则将面临巨额罚款。
为什么重要
这起诉讼是AI内容监管与言论自由之间冲突的最新案例。明尼苏达州的法律是首个专门针对AI“脱衣”应用的州级立法,其严格责任模式可能成为其他州的模板。xAI的挑战基于第一修正案,认为该法过于宽泛且未考虑平台的善意合规努力。如果xAI胜诉,可能迫使立法者重新设计监管框架;如果败诉,则可能开创平台需为第三方滥用承担严格责任的先例,影响整个AI图像编辑行业。此外,该案也凸显了AI公司面临的困境:在缺乏统一联邦标准的情况下,各州法律碎片化导致合规成本激增。
影响与看点
对行业而言,此案结果将直接影响图像生成和编辑工具的设计与运营。若严格责任被维持,开发者可能被迫大幅限制功能,甚至退出部分市场。对用户来说,合法使用(如艺术创作、教育)也可能被误伤。值得关注的是,法院如何平衡打击深度伪造与保护创新。独立判断:此案可能成为AI内容监管的标杆,其判决将影响未来类似立法的走向。



