Словарь терминов
Что такое дообучение (fine-tuning)
Определение
Дообучение это дополнительная тренировка готовой модели на ваших примерах. Так она точнее решает конкретную задачу.
Дообучение меняет поведение готовой модели под ваши данные. Часто вместо него хватает хорошего промпта, о чем есть запись в словаре терминов.
Когда это нужно
Дообучение это дополнительная тренировка готовой модели на ваших примерах. Так она точнее решает конкретную задачу.
Оно помогает, когда нужен особый стиль или формат на большом числе примеров. Часто вместо него хватает системного промпта.
- Нужен устойчивый стиль ответов.
- Есть много готовых примеров.
- Обычный промпт уже не помогает.
Простое сравнение
Это похоже на повара, который уже умеет готовить. Он осваивает фирменные блюда одного ресторана по его рецептам, а не учится с нуля.
Что важно учесть
Нужны чистые и проверенные примеры, иначе модель просто научится вашим ошибкам. Базовые приемы запросов есть в гайде написание запросов.
Дообучение требует времени, данных и проверки результата, поэтому начинать стоит с более простых решений.
Совет. Сначала выжмите максимум из обычного и системного промпта, а уже потом считайте, нужно ли дообучение.
Где с этим столкнетесь
О дообучении думают там, где одну и ту же узкую задачу решают часто и нужен стабильный единый стиль.
- В поддержке: ответы в едином тоне по сотням типовых обращений.
- В работе с документами компании, как в задачах из гайда ChatGPT для бизнеса.
- В нишевых задачах с особым жаргоном.
Частые недопонимания
Дообучение это не способ дать модели свежие новости. Для актуальных данных лучше подходит поиск с генерацией.
Дообучение не делает модель умнее во всем. Оно затачивает ее под узкую задачу, а не повышает общий уровень знаний.
Первый шаг
- Соберите чистые пары запрос и ответ.
- Аккуратно обучите модель на этих примерах.
- Сравните результат до и после на новых примерах, а термины смотрите в словаре терминов.
Пример
Компания дообучает модель на своих письмах, чтобы ответы были в нужном стиле.
Дообучение кратко
| Вопрос | Ответ |
|---|---|
| Что это | Тренировка модели на ваших примерах |
| Зачем | Точнее решать узкую задачу |
| Что нужно | Чистые примеры |
| Альтернатива | Хороший промпт |
Когда думают о дообучении (простая иллюстрация)
Как проходит дообучение
Соберите примеры
Подготовьте чистые пары запрос и ответ.
Запустите обучение
Модель учится на этих примерах.
Проверьте результат
Сравните ответы до и после.
Связанные термины
Частые вопросы
Это тренировка готовой модели на ваших примерах под конкретную узкую задачу.
Нет. Часто достаточно хорошего промпта или системного промпта.
Чистые проверенные примеры и немного времени на обучение и проверку результата.
Нет. Для актуальных данных лучше подходит поиск по документам, то есть RAG.
Оно затачивает ее под узкую задачу, но не повышает общий уровень.
Источники
Мы опираемся на официальную документацию. Цены и состав моделей могут меняться, проверяйте важные факты по первоисточникам.