混合专家架构驱动最强前沿 AI 模型,在 NVIDIA Blackwell NVL72 上运行快 10 倍、Token 成本降至 1/10
NVIDIA 官方博客称,当前排名前十的智能开源模型均采用混合专家(MoE)架构,并举例 Kimi K2 Thinking、DeepSeek-R1、Mistral Large 3 等模型在 NVIDIA GB200 NVL72 上运行速度提升 10 倍,使每 Token 成本降至十分之一。
具体内容
NVIDIA 官方博客称,当前排名前十的智能开源模型均采用混合专家(MoE)架构,并举例 Kimi K2 Thinking、DeepSeek-R1、Mistral Large 3 等模型在 NVIDIA GB200 NVL72 上运行速度提升 10 倍,使每 Token 成本降至十分之一。文章表示将剖析前沿模型普遍采用的 MoE 架构。上述性能与成本数字为发布方说法,材料未提供独立验证细节。
- 发布方称前十智能开源模型均采用 MoE 架构。
- 举例包括 Kimi K2 Thinking、DeepSeek-R1、Mistral Large 3。
- 称在 GB200 NVL72 上快 10 倍、每 Token 成本为 1/10。
依据官方原始发布记录整理;当时的推出范围和限制请以原文为准。
用户标记:未标记
固定编号:6a5943bd59dcf37a
原文来源