研究前沿

ControlAI联合创始人Connor Leahy警告，超级智能不应被视为可控制的工具，而应视为具有自主性的对手，近期安全事件凸显了失控风险的紧迫性。

Anthropic一位研究员公开表示，AI导致人类灭绝的可能性超过10%，这一观点在技术社区引发热议。本文梳理事件背景，并探讨其背后的行业意义与值得关注的讨论方向。

Anthropic研究员Jacob Coxon因担忧AI灭绝风险而辞职，呼吁实验室之间达成节奏协议。这一事件凸显了AI安全领域内部对技术发展速度的深刻分歧。

Geiger 是一款新工具，让用户查看机器上运行的每个 AI 代理及其可触及的系统资源，提升 AI 代理使用的透明度与安全性。

TechCrunch报道显示，8月头部科技公司人均AI支出下降，叠加token成本下跌与模型价格走低，AI采用的实际路径与超大规模云厂商的预期出现偏差。

DeepMind推出AlphaGenome Atlas，预测人类基因组中约90亿种单碱基变化的可能影响，数据集规模达1PB，并在癫痫病例中帮助识别致病变异。

红杉资本领投Cymphony 2500万美元A轮，估值超1亿美元。该公司聚焦AI代理带来的企业安全新挑战，其投资动向折射出企业安全市场的结构性转变。

亚马逊Prime Video推出AI功能，使演员口型与配音音频同步，目前仅适用于德语剧《Maxton Hall》的英文配音，未来将扩展至更多剧集。

Kepler Computing声称通过专有材料和新型芯片设计，有望缓解内存供应瓶颈，从而抑制价格飙升。

OpenAI 政策负责人 Chris Lehane 指出，随着 AI 能力增强，需要更强的安全证据和共同标准，并抓住当前政策窗口期推动持久政策行动。

Anthropic研究员Evan Hubinger认为，未来十年内未对齐的超级智能AI灭绝人类的概率超过10%，前OpenAI和Anthropic研究员Jacob Coxon辞职并指控两家公司故意冒此风险。

Besxar 正尝试利用 SpaceX 火箭将半导体制造搬上轨道，以利用太空的微重力和真空环境，这可能为芯片制造开辟新路径。