AI在内容审核中扮演重要角色，但面对复杂的人类语境和恶意规避，单纯依赖AI远远不够。
发生了什么
Ars Technica的一篇文章指出，AI在保护社交社区免受有害内容侵害方面存在明显局限。尽管AI可以快速识别明显的违规内容，但在处理微妙语境、文化差异和新型攻击时，经常失效。文章强调，人类审核员仍然是必要的，他们能够理解复杂的社会线索，做出AI难以企及的判断。
为什么重要
随着社交平台规模扩大，AI审核被广泛采用以降低成本和提高效率。然而，AI的局限性逐渐暴露：它可能误判正常内容，也可能被精心设计的对抗性样本绕过。同时，人类审核员面临心理压力和职业倦怠，导致人员流失。这形成了一个恶性循环：平台过度依赖AI，而AI又无法独立承担重任。因此，人机协作成为必然趋势，但如何平衡效率、成本和准确性，是行业面临的共同挑战。
影响与看点
对开发者而言，需要设计更好的AI辅助工具，让人类审核员能高效处理AI标记的疑难案例。对平台来说，应建立透明的审核机制，并重视审核员的心理健康。未来，我们可能看到更精细的AI模型，但核心判断仍需人类参与。值得关注的是，AI与人类审核的协作模式将如何演变，以及能否在保护言论自由和社区安全之间找到平衡。独立来看，AI审核的瓶颈不在于技术，而在于对人类语境的深层理解，这注定需要人类在场。
