Сбер запускает GigaChat Lite и мощные модели для бизнеса

Сбер открыл доступ к языковой модели GigaChat Lite и модели GigaEmbeddings-instruct, признанной наиболее мощной на русском языке по бенчмарку ruMTEB. Об этом сообщил Федор Минькин, технический директор GigaChat, на международной конференции AI Journey, состоявшейся 13 декабря 2024 года.

Вся линейка больших языковых моделей (LLM), включая мощнейшую GigaChat MAX, доступна для бизнеса через облачный API. GigaChat Lite можно использовать в проектах в открытом доступе, а российское AI-сообщество сможет работать с моделями GigaEmbeddings-instruct и GigaAM (Giga Acoustic Model), которые не требуют значительных вычислительных ресурсов.

Новая версия open-source моделей машинного распознавания речи и эмоций GigaAM также получила обновления. Усовершенствованы подготовка данных и технологии предобучения, что способствовало снижению ошибок при распознавании русскоязычных запросов. Для самой мощной из моделей GigaAM-RNNT показатель ошибок улучшился на 25% по сравнению с предыдущей версией и на 56% превышает модель OpenAI-Whisper-large-v3.

Кроме этого, благодаря переходу на новое позиционное кодирование, обновленная линейка GigaAM теперь поддерживает дообучение и инференс при помощи Flash Attention, что ускоряет обработку данных на современных видеокартах. Для улучшения доступности моделей команда разработчиков упростила код, сократила количество зависимостей и подготовила конвертацию в формат ONNX. Новые модели публикуются под лицензией MIT, что позволяет их коммерческое использование.