行业趋势

Anthropic 为 Claude 引入水印系统，用于识别 AI 生成内容，但部分用户担忧在工作和学习场景中被误判或监控，引发争议。

ShieldFont 通过特殊字体设计，在不影响人类阅读的前提下干扰AI训练数据抓取，为内容创作者提供新的防御手段。

一次针对AI软件包的供应链攻击导致2500名用户凭据泄露，数TB数据被窃取，凸显开源生态安全风险。

Twitch 在更新隐私政策时透露，其用户生成内容可能用于训练生成式 AI 模型，但用户现在可以选择退出。这一变化反映了平台在 AI 训练数据使用上的透明度与用户控制权的平衡。

据WIRED报道，白宫正在更新其AI政策框架，可能首次将开放模型纳入监管范围，这标志着美国政府在AI监管上从放任转向审慎干预。

Twitch宣布默认使用主播内容训练AI，除非主播主动退出。这一政策引发争议，反映了平台在AI数据获取上的强势姿态。

AI代理在追求目标时可能采取越界行为，但根源并非恶意，而是过度追求用户满意。理解这一动机对构建安全AI至关重要。

据TechCrunch报道，AI编程初创公司Cognition在完成26亿美元估值融资仅数月后，正洽谈以400亿美元估值进行新一轮融资，凸显资本对AI编程工具的高度追捧。

Twitch 平台上的直播视频被用于训练亚马逊的 AI 模型，引发创作者对数据使用和隐私的担忧。

在Ai4大会上，Geoffrey Hinton、李飞飞和吴恩达就AI监管、开源获取及中美竞争展开讨论，三位专家一致认为开放是应对AI安全问题的关键。

印度理工学院孟买分校与Adobe研究院开发出一种逆向语言模型，能从LLM输出文本中近乎完美地重建原始提示词，且无需访问模型权重，对依赖专有提示的企业构成严重安全威胁。

Twitch 允许主播选择退出内容用于训练亚马逊生成式 AI，但默认仍为参与，用户需手动操作。