模型定位
Gemma 4 E2B IT Assistant 是与 Gemma 4 E2B 指令微调目标模型配合使用的轻量级多 Token 预测(MTP)草稿模型,而非独立的通用聊天模型。Google 的示例将它与 google/gemma-4-E2B-it 配对加载;该草稿模型有 4 层。输入中的发布标识为 google/gemma-4-E2B-it-assistant,不是已核实的 API 模型 ID。(ai.google.dev)
能力与用途
- 采用推测解码:草稿模型先提出多个候选 token,目标模型再验证并决定接受哪些候选,从而减少目标模型逐 token 解码的开销。它可利用目标模型的激活值和 KV 缓存。(ai.google.dev)
- 适合降低 Gemma 4 E2B 推理延迟,包括端侧和其他低延迟应用。Google 报告 Gemma 4 系列 MTP 在其测试条件下最高可实现约 3 倍加速;这不是对 E2B 所有设备和任务的保证。(blog.google)
- 可通过 Hugging Face Transformers 将目标模型和草稿模型一起加载,并在生成时传入 assistant 模型。模型权重以 Apache 2.0 许可发布。(ai.google.dev)
限制
需要配套目标模型及支持该机制的推理实现。实际加速取决于硬件、运行环境和候选 token 的接受率;草稿过长而被拒绝时可能浪费计算。目标模型仍可能产生错误或不安全的回答,推测解码不应被视为提升基础模型准确性的保证。(ai.google.dev)
发布日期
所给 Google 官方公告发表于 2026 年 5 月 5 日。但 Google 的 Gemma 发布记录将适用于 E2B 等型号的 Gemma 4 MTP 发布日期列为 2026 年 4 月 16 日;两份官方来源日期不一致,不能仅凭现有证据确定差异原因。(blog.google)
价格
截至 2026 年 11 月 16 日,未核实到专门针对该 assistant 模型的官方 API 输入或输出计费价格及币种。Google Cloud 定价页面列出的其他 Gemma 型号价格不能直接套用于本模型;自行部署仍可能产生计算、存储等费用。(cloud.google.com)