Получите все материалы CNews по ключевому слову
СалютДевайсы GigaChat ruGPT Russian Generative Pretrained Transformer нейросетевая модель генерации текста для русского языка
Дообученная версия нейросетевой модели генерации текста для русского языка ruGPT лежит в основе сервиса GigaChat - это современная модель генерации текста для русского языка на основе доработанной исследователями Сбера архитектуры GPT-3 от OpenAI.
- Модель ruGPT-3.5 13B содержит 13 миллиардов параметров и умеет продолжать тексты на русском и английском языках, а также на языках программирования. Длина контекста модели составляет 2048 токенов. Она обучена на текстовом корпусе размером около 1 Тб, в который, помимо уже использованной для обучения ruGPT-3 большой коллекции текстовых данных из открытых источников, вошли, например, часть открытого сета с кодом The Stack от коллаборации исследователей BigCode и корпусы новостных текстов. Финальный чекпоинт модели — это базовый претрейн для дальнейших экспериментов.
СОБЫТИЯ
Опубликовать описание системы — book@cnews.ru
Обработан архив публикаций портала CNews.ru c 11.1998 до 10.2025 годы.
Ключевых фраз выявлено - 1395741, в очереди разбора - 732097.
Создано именных указателей - 184942.
Редакция Индексной книги CNews - book@cnews.ru
Читатели CNews — это руководители и сотрудники одной из самых успешных отраслей российской экономики: индустрии информационных технологий. Ядро аудитории составляют топ-менеджеры и технические специалисты департаментов информатизации федеральных и региональных органов государственной власти, банков, промышленных компаний, розничных сетей, а также руководители и сотрудники компаний-поставщиков информационных технологий и услуг связи.



