Ключевые возможности Gemma 4
Долгий контекст (Long Context)
MAX 256K токелей для всех моделей. Гибридное внимание: локальное скользящее окно + глобальное внимание в финальном слое.
Усиленное рассуждение (Reasoning)
Встроенный режим "Thinking" с конфигурируемыми шагами. Поддержка токена <|think|> для структурированного мышления перед ответом.
Мультимодальность
Обработка текста, изображений (с поддержкой переменного соотношения сторон), видео и аудио (включая ASR).
Coding & Agents
Улучшения в бенчмарках кода. Нативная поддержка вызова функций (function-calling) для автономных агентов.
Оптимизация для устройств (On-Device)
MODELS E2B и E4B оптимизированы для мобильных устройств с использованием Per-Layer Embeddings (PLE) для снижения количества эффективных параметров.
Многоязычность
Поддержка более 140 языков. Нативная поддержка системных промптов для структурированных диалогов.
Технические характеристики моделей
Data: Google DeepMind| Модель | Параметры (Effective) | Слои | Контекст | Модальности |
|---|---|---|---|---|
| E2B (Dense) | 2.3 B | 35 | 128K | Text, Image, Audio |
| E4B (Dense) | 4.5 B | 42 | 128K | Text, Image, Audio |
| 26B A4B (MoE) | 3.8 B (Active) | 30 | 256K | Text, Image |
| 31B Dense | 30.7 B | 60 | 256K | Text, Image |