← 全部模型

Gemma 4 31B IT Assistant

发布时间 发布主体 Google

模型定位

Gemma 4 31B IT Assistant 是与 google/gemma-4-31B-it 配套的多令牌预测(MTP)草稿模型,用于加速目标模型的推理,而非独立的 31B 对话模型。其权重仓库标识为 google/gemma-4-31B-it-assistant;该标识不应视为已核实的 API ID。模型权重采用 Apache 2.0 许可。(huggingface.co)

能力与用途

  • 草稿模型先预测多个候选 token,再由目标模型并行验证,实现推测性解码。Google 表示,在所测试的 Gemma 4 系列配置中,生成速度最高可提升 3 倍,且不降低输出质量;这不是对所有硬件或该具体配对的速度保证。(blog.google)
  • 可用于降低聊天、编程助手和智能体工作流的生成延迟,也可用于本地或设备端推理。官方提供了通过 Transformers 加载目标模型和对应 assistant 的示例。(blog.google)
  • 配套的 31B 目标模型支持文本和图像输入、文本输出,上下文窗口为 256K token;31B 版本不支持原生音频输入。这些是目标模型的能力,不应理解为 assistant 可独立完成上述任务。(huggingface.co)

限制

  • assistant 依赖配套目标模型:它共享目标模型的输入嵌入,并使用其最后一层的激活,需在支持该推测性解码架构的环境中运行。(ai.google.dev)
  • 实际加速效果取决于硬件、运行框架和负载;目标模型仍可能产生不准确或有偏差的内容,复杂任务仍需核验。(blog.google)

价格

截至 2026-11-16,未核实到该 assistant 专属的 Google 官方 API 输入或输出计费价格,币种及计费单位均未核实。开放权重可自行部署,但计算和托管成本取决于部署环境。Google 的 Gemini API 文档列出的是配套的 gemma-4-31b-it 目标模型,而不是该 assistant;不能将目标模型的价格直接视为 assistant 的价格。(huggingface.co)

发布日期与官方来源