Однобитная Bonsai по весам: что видно при сравнении с Qwen и как получить такую модель дистилляцией
Хотели бы вы запустить большую языковую модель на видеокарте с небольшим объёмом памяти? Модель с 27 миллиардами параметров, упакованными в 16 бит, занимает около 54 ГБ. …
Коротко
- Что: Однобитная Bonsai по весам: что видно при сравнении с Qwen и как получить такую модель дистилляцией
- Когда: 17 октября 2026 в 15:34
- Источник: Хабр · Машинное обучение (сообщество)
- Тема: Модели
Материал подготовлен редакцией Tarasov Code Ильи Тарасова по сообщению Хабр · Машинное обучение.
