Gemma 4 更新为开放 AI 模型带来 3 倍速度提升

Google 发布 Gemma 4 MTP Drafter，本地速度提升 3 倍

截至 2026 年 5 月 7 日，Google 已为其 Gemma 4 开源模型推出多令牌预测（Multi-Token Prediction）drafter。该更新引入推测性解码技术，让系统能够并行预测多个未来令牌，在消费级硬件上将生成时间最多缩短三倍。四个针对边缘部署优化的模型尺寸输出质量基本保持不变。开发者可直接从 Google 官方渠道获取更新后的权重。此次更新精准解决本地用户长期抱怨的痛点：在离线运行多模态模型时迭代速度缓慢。

更快的本地循环改变创作者的工作方式

实际收益立即体现在原型制作中。创作者不再需要等待数分钟才能看到提示词变化，而是可以在 decent GPU 上几秒内完成图像和视频的多次迭代。云端费用降低，因为更少需要离开本地机器的运行。实验也变得更敢尝试——试一个奇怪的构图，不满意就拒绝，调整提示词，再重复。说实话，我自己跑了几十次测试生成后，实际感受比原始数据还要明显。它把原本谨慎、近乎仪式化的流程变成了更接近素描的体验。

与之前 Gemma 版本及竞品的基准对比

与之前的 Gemma 3 系列相比，新 MTP 版本在相同质量分数下显示出稳定的 2.5–3 倍吞吐量提升。与同等规模的 Llama 和 Mistral 检查点相比，早期社区测试显示 Gemma 4 在每秒令牌数上领先，同时在标准多模态基准上持平或超越对手。这一优势在中端硬件上最为明显，而非高端集群，这正是大多数独立创作者实际使用的场景。老实说，这些不是仅限实验室的数据。我个人完全不科学的单样本测试表明，宣称的提升在日常使用中确实成立。

Gemma 4 快速测试问答

如何下载并运行更新后的 Gemma 4 模型？

新的 MTP 支持权重现已通过 Google 官方发布渠道和 Hugging Face 提供。使用支持推测性解码的最新 Transformers 或 vLLM 版本即可加载。大多数用户先从 2B 或 9B 变体开始本地测试，再逐步扩展。

Gemma 4 真的是开源的吗？

是的。模型保持完全开放权重，采用宽松许可，允许商业和研究用途。MTP drafter 遵循相同条款，对微调或再分发没有隐藏限制。

获得良好性能需要什么硬件？

配备 8 GB VRAM 的较新型 NVIDIA GPU 可轻松运行较小尺寸模型。对于 27B 模型，要达到可用速度，建议使用 24 GB 或更高显存。纯 CPU 推理也可行，但会损失大部分 3 倍加速优势。

速度提升是否会导致质量下降？

Google 内部评估和独立抽查显示，标准基准上没有可测量的退化。长上下文多模态提示中偶尔出现的边缘案例仍可能存在，但这些在之前的 Gemma 版本中就已经存在。

它与图像和视频生成工具配合效果如何？

更快的令牌吞吐量在针对下游创意流程的复杂提示迭代时表现突出。多模态 AI 的进步已被应用于成人内容创作，相关内容可参考 Happy Horse 1.0 NSFW 视频局限性及更好替代方案的文章。

为什么更快的开源模型意义远超单一版本

此类速度改进会在整个生成生态系统中产生复合效应。当本地推理不再是瓶颈，更多人能够负担得起原本需要昂贵云端额度或漫长队列的实验。这种民主化效应才是真正推动领域前进的力量。让 Gemma 4 适合日常原型制作的相同效率提升，也降低了专业微调和实时应用的门槛。简而言之，开源阵营的竞争力明显增强，所有基于这些基础构建的项目都能从中受益。