← Alle Modelle

Gemma 4 31B IT Assistant

Veröffentlicht Herausgeber Google

Einordnung

Gemma 4 31B IT Assistant ist ein offenes Multi-Token-Prediction-Entwurfsmodell (MTP-Drafter) zur Beschleunigung des zugehörigen Zielmodells google/gemma-4-31B-it. Die Kennung des veröffentlichten Assistant-Checkpoints lautet google/gemma-4-31B-it-assistant; sie ist keine verifizierte API-Modell-ID. (huggingface.co)

Fähigkeiten und Einsatz

Der Assistant schlägt beim spekulativen Decoding mehrere Tokens vor, die das größere Zielmodell parallel überprüft. Google berichtet für die Gemma-4-MTP-Familie unter getesteten Bedingungen von einer bis zu dreifachen Generierungsgeschwindigkeit ohne Qualitätsverlust. Das Verfahren eignet sich insbesondere für Anwendungen mit niedriger Latenz und lokale Inferenz. Das Modell kann beispielsweise mit Hugging Face Transformers zusammen mit dem Zielmodell geladen werden. (blog.google)

Einschränkungen

Der Assistant ist kein eigenständiger Ersatz für das vollständige 31B-Instruct-Modell: Für den vorgesehenen Einsatz werden beide Modelle und eine kompatible Implementierung benötigt. Die tatsächliche Beschleunigung hängt unter anderem von Hardware, Laufzeitumgebung und Arbeitslast ab; der genannte Höchstwert ist nicht garantiert. Die Qualität und Grenzen der erzeugten Antworten bleiben vom Zielmodell abhängig. (blog.google)

Veröffentlichung und Lizenz

Google kündigte die Gemma-4-MTP-Drafter am 5. Mai 2026 an. Die Modellgewichte stehen laut Google unter der Apache-2.0-Lizenz. (blog.google)

Preise

Ein separater offizieller API-Preis für diesen Assistant konnte nicht verifiziert werden. Daher sind weder ein Preis für Eingabe-Tokens noch einer für Ausgabe-Tokens oder eine Abrechnungswährung bestätigt. Beim eigenen Betrieb können Infrastrukturkosten entstehen. Stand der Recherche: 16. November 2026.

Offizielle Quellen