NVIDIA加速Google DeepMind的DiffusionGemma以支持本地AI
Google DeepMind发布实验性开放模型DiffusionGemma,面向极快文本生成。
具体内容
Google DeepMind发布实验性开放模型DiffusionGemma,面向极快文本生成。NVIDIA称已对其优化,使其在GeForce RTX GPU、RTX PRO平台和DGX Spark系统上运行更快,覆盖本地PC到云端。该模型不逐词生成,而是并行生成多个词、整块输出文本,发布称这为开发者等单用户工作负载开辟低延迟方向。现有材料未给出速度、质量等具体指标。
- DiffusionGemma是Google DeepMind发布的实验性开放模型,主打快速文本生成
- 模型并行生成多个词并整块输出文本,而非逐词生成
- NVIDIA称已优化其在RTX GPU、RTX PRO和DGX Spark上的运行
依据官方原始发布记录整理;当时的推出范围和限制请以原文为准。
用户标记:未标记
固定编号:96f4964d46fd41ca
原文来源