← Alle Modelle

Gemma 4 26B A4B IT Assistant

Veröffentlicht Herausgeber Google

Einordnung

Gemma 4 26B A4B IT Assistant ist ein MTP-Draftmodell zur Beschleunigung der Inferenz des zugehörigen instruktionsabgestimmten Zielmodells google/gemma-4-26B-A4B-it. Die Modellkennung des veröffentlichten Checkpoints lautet google/gemma-4-26B-A4B-it-assistant; sie ist nicht als API-Modell-ID bestätigt. Der Assistant ist kein eigenständiger Ersatz für das Zielmodell. (huggingface.co)

Fähigkeiten und Einsatz

  • Der Assistant schlägt mehrere Tokens vor, die das Zielmodell parallel überprüft. Er nutzt dabei unter anderem Aktivierungen und den KV-Cache des Zielmodells. Google beschreibt die Ausgabequalität bei diesem Verfahren als unverändert gegenüber der regulären Generierung. (blog.google)
  • Geeignete Anwendungen sind etwa latenzarme Chats, lokale Programmierumgebungen und agentische Workflows. Google meldet für die Gemma-4-MTP-Familie Beschleunigungen von bis zu 3×; dies ist kein garantierter Wert für jede Konfiguration. Für das 26B-MoE-Modell nennt Google auf Apple Silicon bei Batch-Größen von 4 bis 8 lokal bis zu etwa 2,2×. (blog.google)
  • Das zugehörige Zielmodell verarbeitet Text und Bilder und erzeugt Text. Seine Angaben von rund 25,2 Milliarden Gesamtparametern, 3,8 Milliarden aktiven Parametern und 256K Tokens Kontext beziehen sich auf das Zielmodell, nicht auf die Größe des Assistants. (huggingface.co)

Grenzen und Bereitstellung

Das Draftmodell muss zusammen mit dem passenden Zielmodell und einer unterstützten Inferenzumgebung verwendet werden. Der tatsächliche Geschwindigkeitsgewinn hängt von Hardware, Batch-Größe und Akzeptanz der vorgeschlagenen Tokens ab. Bei Batch-Größe 1 kann die MoE-Architektur auf Hardware mit geringer Parallelität dazu führen, dass keine Beschleunigung erreicht wird. Das Zielmodell kann weiterhin fehlerhafte oder unangemessene Ausgaben erzeugen. (ai.google.dev)

Google stellt die MTP-Modelle unter der Apache-2.0-Lizenz bereit. (blog.google)

Veröffentlichung

Die angegebene offizielle Ankündigung ist vom 5. Mai 2026. Googles Gemma-Versionsübersicht nennt für Gemma 4 MTP einschließlich 26B A4B dagegen den 16. April 2026; die offiziellen Datumsangaben weichen somit voneinander ab. (blog.google)

Preis

Ein separater offizieller API-Preis für diesen Assistant-Checkpoint konnte nicht verifiziert werden; weder eine Währung noch Eingabe- oder Ausgabetoken-Preise sind hierfür bestätigt. Bei eigener Bereitstellung können Infrastrukturkosten entstehen. Preise des Zielmodells sind nicht automatisch Preise des Assistants. Recherchestand: 16. November 2026.

Offizielle Quellen