DiffusionGemma: новая модель генерации текста

Что произошло

Google выпустила новую модель генерации текста под названием DiffusionGemma, которая демонстрирует высокую производительность: 857 токенов в секунду и задержку API 4,4 секунды для 2 409 токенов.

Детали

• Производительность: 857 токенов в секунду
• Задержка API: 4,4 секунды для 2 409 токенов
• Модель доступна на платформе Hugging Face

Что это значит

Новая модель генерации текста от Google может быть использована в различных приложениях, таких как чат-боты или системы автоматического ответа на запросы.

Модель DiffusionGemma демонстрирует высокую производительность: 857 токенов в секунду и задержку API 4,4 секунды для 2 409 токенов.