Yandex выложил в открытый доступ модель семейства нейросетей YandexGPT 5

Yandex выложил в открытый доступ огромную языковую модель (LLM) YandexGPT 5 Lite Pretrain. Новенькая модель на 8 миллиардов характеристик с поддержкой контекста в 32 тыс. токенов будет полезна разрабам и представителям бизнеса. Компании могут дообучить ее под задачки, не растрачивая время на создание своей модели.

Pretrain-версия имеет необъятные познания о мире, соображает контекст и закономерности языка. Модель учили при помощи технологий Yandex’а в два шага.

На первом шаге употребляли русские и англоязычные тексты, код, вычисления и остальные данные общим объемом 15 трлн токенов. На втором шаге модель учили на качественных данных объемом 320 миллиардов токенов.

Базисную (Pretrain) версию модели можно адаптировать под любые нужды. Она имеет очень обширное применение и быть может применена в разработке, бизнесе и научных исследовательских работах. Не считая того, благодаря собственной компактности YandexGPT 5 Lite Pretrain не просит огромных вычислительных мощностей и будет полезна тем, кому нужна маленькая русская модель, – говорится в сообщении Yandex’а.

YandexGPT 5 Lite Pretrain заходит в новое поколение нейросетей Yandex’а – YandexGPT 5 – и доступна безвозмездно на HuggingFace. 2-ая модель семейства, YandexGPT 5 Pro, доступна представителям бизнеса на пасмурной платформе Yandex Cloud, а юзерам – в чате с Алисой.

Напомним, в крайний раз Yandex выкладывал в открытый доступ огромную языковую модель в 2022 году – это была YaLM-100B.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *