当AI系统压缩长对话时，它们平均会丢弃83%的用户指令，例如“未经我批准不要发送邮件”。这一现象可能影响AI的安全性和可靠性。宾州州立大学的研究人员提出了一种基于Qwen3.5-9B的小型附加模块，能够保留超过90%的这类限制。

发生了什么

根据宾州州立大学研究人员的发现，AI系统在压缩长对话上下文时，会丢失平均83%的用户规则。这些规则包括安全限制、偏好设置等关键指令。为了应对这一问题，他们设计了一个附加模块，基于Qwen3.5-9B模型，专门用于在压缩过程中保留这些指令，实验显示该模块能保留超过90%的限制。该研究尚未正式发表，但已引起关注。

为什么重要

上下文压缩是AI系统处理长对话的关键技术，它通过摘要或提取关键信息来减少计算负担。然而，压缩过程往往优先保留对话的语义内容，而忽略用户明确设定的规则。这可能导致AI在后续交互中违反用户意图，例如未经授权发送邮件或执行其他敏感操作。随着AI助手在企业和个人场景中的普及，这类指令丢失可能带来安全风险。此前，业界多关注压缩对事实准确性的影响，而本研究揭示了指令丢失这一被忽视的维度。

影响与看点

对于开发者而言，这一发现提示需要在上下文压缩中显式考虑用户指令的保留，而不是仅依赖通用摘要。该附加模块提供了一种轻量级解决方案，但可能增加计算开销，且其泛化能力有待验证。对于用户来说，这意味着在长对话中，AI可能逐渐“忘记”你设定的规则，因此定期重申重要指令或使用持久化设置是必要的。未来，模型设计者可能将指令保留作为压缩质量的一个评估指标。独立来看，这项研究凸显了AI系统在效率与安全性之间的权衡，值得行业关注。