
AI安全护栏如何阻碍进攻型网络安全研究者的工作
进攻型网络安全研究者发现,OpenAI和Anthropic等公司设置的AI安全护栏,限制了他们在漏洞挖掘和利用工具开发中的工作,可能导致安全研究效率下降。
来自全网的最新 AI 资讯,每日自动聚合更新
共 4290 篇

进攻型网络安全研究者发现,OpenAI和Anthropic等公司设置的AI安全护栏,限制了他们在漏洞挖掘和利用工具开发中的工作,可能导致安全研究效率下降。

澳大利亚政府提出新规,要求 AI 数据中心产生的清洁能源必须超过其消耗,同时禁止 AI 公司未经许可抓取出版商内容,旨在平衡 AI 发展与能源、版权保护。

Oracle 宣布裁员 21000 人,主要源于其激进押注 AI 云服务但未能实现预期回报,反映出科技巨头在 AI 转型中的风险。

亚马逊为 Alexa Plus 推出更新,使其能自动将指令路由到正确的智能家居设备,并支持博世、iRobot 等更多品牌,提升复杂场景下的语音控制体验。

AMD 推出 Helios 机架级 AI 系统,计划今年晚些时候发货,直接对标英伟达的同类产品,标志着 AI 基础设施竞争进入系统级阶段。

OpenAI 在美国推出“Health in ChatGPT”功能,连接 Apple Health 等健康数据源,但付费用户可使用更强模型获得更佳回答,免费用户则受限。

美国新提案赋予国土安全部长在认定 AI 系统构成威胁时下令关停的权力,引发对政府干预 AI 安全边界的讨论。

Anthropic 宣布其高级模型 Opus 和 Sonnet 现已支持语音模式,同时语音功能也扩展至 Gmail、Slack 等第三方应用。此举将语音交互从轻量模型带向更强大的推理模型,有望提升实际工作流中的使用体验。

Anthropic 为 Claude 语音模式引入更强大的模型,支持日程调整、邮件起草等复杂任务,提升交互体验。

Meta 发布了一则以大卫·鲍伊歌曲《Five Years》为背景的 AI 广告,通过末日意象传递“连接”价值,但引发对 AI 技术伦理与商业动机的讨论。

AegisAI由前谷歌安全高管创立,完成3600万美元A轮融资,累计4900万美元,旨在利用AI技术防御日益复杂的AI驱动鱼叉式钓鱼攻击。

Patreon 宣布裁员约 93 人(占员工总数 20%),CEO 强调裁员不是因为 AI 取代人类,但承认 AI 已根本改变科技行业的工作方式。