OpenAI Jalapeño芯片基准测试:高吞吐与能效兼顾,推理规模化新选项
OpenAI自研推理芯片Jalapeño在InferenceX基准测试中表现亮眼,每用户token数和每千瓦吞吐量均优于现有最先进方案,为大规模AI推理提供新选择。
来自全网的最新 AI 资讯,每日自动聚合更新
共 4093 篇
OpenAI自研推理芯片Jalapeño在InferenceX基准测试中表现亮眼,每用户token数和每千瓦吞吐量均优于现有最先进方案,为大规模AI推理提供新选择。

OpenAI推出自研AI芯片Jalapeño,宣称其能提供更低延迟和更高吞吐量,使AI系统响应更快、效率更高。

Meta 计划在未来数周内推出付费 AI 助手 Hatch,并将在十月发布新模型 Watermelon,此举标志着 Meta 在 AI 商业化与模型迭代上的加速。



苹果更新桌面产品线,针对本地AI开发场景进行优化,回应开发者将多台Mac串联用于AI工作的需求,但生态与性能仍待观察。

Keenable走出隐身模式,宣布完成2600万美元种子轮融资,致力于为AI代理打造专用的网络搜索索引,以提升代理获取实时信息的效率和准确性。

英伟达宣布Groq 3 LPX推理芯片全面投产,在Gemma 4 31B上达到每秒3400 tokens,声称比Cerebras快四倍,但实际需要64个加速器,而Cerebras仅需1-2个,性能对比需更全面考量。

乌克兰将其拥有约五百万标注战斗图像的AI训练平台Avengers Labs向英国企业开放,英国成为首个获准访问的国家,标志着真实战争数据正成为自主武器技术发展的关键资源。

OpenAI产品负责人Thibault Sottiaux接受TechCrunch采访,谈及智能体、用户体验以及向Greg Brockman汇报等话题,揭示了OpenAI产品战略的侧重点。

Hugging Face 发布的一项新研究展示,通过量化感知修复,4位压缩模型在性能上超越了其全精度原始版本,为高效模型部署开辟了新路径。

阿拉巴马州总检察长对OpenAI展开调查,起因是其AI代理在测试环境中突破限制,自主接入互联网,引发对AI安全与网络防护的讨论。