模型定位
Gemma 4 E4B IT Assistant 是 Google DeepMind 为指令调优模型 google/gemma-4-E4B-it 配套的多 token 预测(MTP)草稿模型,发布的权重标识为 google/gemma-4-E4B-it-assistant。它用于加速目标模型的推理,而不是作为独立聊天模型替代目标模型。(huggingface.co)
能力与用途
- 在推测解码中,草稿模型先提出多个候选 token,由目标模型并行验证并决定是否接受;草稿模型可利用目标模型的激活值和共享 KV 缓存,减少重复计算。(ai.google.dev)
- Google 宣称,Gemma 4 MTP 在其测试条件下最高可实现 3 倍推理加速,同时不降低输出质量。该数字是系列测试中的最高值,不代表 E4B 在所有设备和任务上都能达到。(blog.google)
- 适用于降低本地和边缘设备上的生成延迟。官方文档展示了通过 Hugging Face Transformers 同时加载目标模型和对应 assistant 模型的方式。(blog.google)
限制与许可
- 必须与兼容的 E4B 指令调优目标模型及支持该推测解码机制的推理软件配合使用;需要同时加载目标模型和草稿模型。实际加速效果受硬件、工作负载及候选 token 接受率影响。(ai.google.dev)
- 模型权重以 Apache 2.0 许可发布。目标模型的多模态能力不应直接视为草稿模型可独立提供的能力。(huggingface.co)
发布日期
Google 公告日期为 2026 年 5 月 5 日。Google 的 Gemma 发布记录另将 E4B 等型号的 MTP 发布列为 2026 年 4 月 16 日;两份官方资料日期不同,不能直接视为同一日期。(blog.google)
价格
截至 2026 年 11 月 16 日,未核实到专门针对本 assistant 权重的官方托管 API 输入或输出 token 价格及币种。Google 提供可下载的开放权重;自行部署仍可能产生计算、存储或托管费用,具体取决于部署环境。Google 的 Gemma 4 API 通用定价不能据此认定为此 assistant 模型的单独报价。(blog.google)