Как я собрал русскоязычную GPT на 112 млн параметров с нуля на PyTorch: претрейн, SFT, Telegram-бот
Когда смотришь на современную LLM, легко решить, что всё сводится к вызову API. Но многие разработчики, которые часто используют LLM в работе или в своих проектах, рано или поздно хотят действительно разобраться, как они работают. …
Коротко
- Что: Как я собрал русскоязычную GPT на 112 млн параметров с нуля на PyTorch: претрейн, SFT, Telegram-бот
- Когда: 23 октября 2026 в 17:35
- Источник: Хабр · Искусственный интеллект (сообщество)
- Тема: Бизнес и деньги
По теме в библиотеке
- Бенчмарк — Бенчмарк - набор задач, на котором сравнивают ИИ-модели
- Hugging Face
- Токенизатор — Токенизатор разбивает входной текст на элементы словаря, которые модель может обрабатывать, а выходные идентификаторы обратно преобразует в строку.
Материал подготовлен редакцией Tarasov Code Ильи Тарасова по сообщению Хабр · Искусственный интеллект.
