Deepgram将Nova-3移植Trainium2,每美元音频量提升11%–70%
热点事件观察中
Deepgram将Nova-3移植Trainium2,每美元音频量提升11%–70%
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Deepgram 与 AWS 合作,将其 Nova-3 语音转文本模型移植到 AWS Trainium2 上运行。Deepgram 称,在自身面向离线吞吐的批量工作负载上,单台 trn2.3xlarge 实例运行 8 个模型副本,每美元处理的音频量比此前所用计算方案高 11%–70%;该结果按评估时的实例价格测算。这类场景包括联络中心分析、医疗转写等。 该提升仅适用于 Deepgram 的离线批量推理场景,并不代表所有在线或实时推理负载也有同等表现。
AI 根据报道生成 · 5 小时前更新
最新进展10月20日 00:23
Deepgram 如何用 AWS Trainium2 优化大规模语音 AI 推理报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- AWS Machine Learning BlogDeepgram 如何用 AWS Trainium2 优化大规模语音 AI 推理
Deepgram 与 AWS 合作将 Nova-3 语音转文本模型移植到 Trainium2,用于联络中心分析、医疗转写等离线批量场景,单台 trn2.3xlarge 实例运行 8 个模型副本,每美元处理的音频量比原有方案高 11%–70%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。