Файн-тюнинг, RAG или промптинг: что выбрать?
Автоматический перевод
Эта статья была автоматически переведена с оригинальной английской версии.
Используйте промптинг, чтобы уточнить задачу, генерацию с дополнением из найденных источников (RAG) — чтобы предоставить актуальные или закрытые знания, а файн-тюнинг — чтобы изменить воспроизводимое поведение модели. Эти методы решают разные задачи и часто используются в одной системе.
Начните с базового варианта промпта и измерьте его результаты. Добавляйте RAG, когда ответам нужны внешние подтверждения или часто меняющиеся факты. Рассматривайте файн-тюнинг для устойчивых ошибок в тоне, классификации, tool use или предметной терминологии, если у вас есть достаточно проверенных примеров. При ошибках в формате ответа сначала попробуйте structured output с ограничениями по схеме.
Выбирайте на основе наблюдаемых ошибок, частоты изменения фактов и данных, доступных для проверки исправления.
Таблица выбора
| Проблема | Первое действие | Почему |
|---|---|---|
| Инструкции неясны или отсутствуют примеры | Промптинг | Это позволяет проверить, устранят ли наблюдаемые ошибки более понятные инструкции и примеры. |
| Факты закрыты, требуют цитирования или часто меняются | RAG | Retrieval обновляет знания без переобучения и может сохранять сведения о происхождении источников. |
| Устойчивое поведение остаётся ошибочным после проверки промптов | Рассмотреть файн-тюнинг | Проверенные примеры могут научить стилю, меткам или поведению при работе с инструментами; сравните результат с базовым вариантом промпта. |
| Даже тщательно подготовленный базовый вариант промпта не работает | Протестировать другую модель или дизайн системы | Сравните альтернативы на одних и тех же случаях; один лишь сбой промпта не показывает, поможет ли тюнинг. |
| Ответам нужны актуальные факты и специализированное поведение | RAG плюс файн-тюнинг | Retrieval предоставляет подтверждения, а тюнинг меняет способ их использования моделью. |
Сначала используйте промптинг
Промптинг — это способ диагностировать ошибки с небольшими начальными затратами. Определите задачу, контракт выходных данных, примеры, разрешённые инструменты и условия отказа. Перед добавлением дополнительной инфраструктуры соберите небольшой набор для оценки. Если более сильный промпт исправляет репрезентативные ошибки, на этом можно остановиться.
Если растущий промпт становится сложнее поддерживать, выясните, что было добавлено. Меняющиеся сведения о продукте можно передавать через retrieval. Повторяющиеся примеры поведения могут подойти для обучения. Сама по себе длина промпта не доказывает, что любое из этих изменений улучшит результат.
Используйте RAG для знаний и сведений о происхождении источников
RAG подходит для руководств по продуктам, политик, внутренних документов, последних событий и ответов, в которых необходимо цитировать источник. В оригинальной статье о RAG генератор объединён с найденными фрагментами; найденные подтверждения передаются во время запроса. Качество зависит от парсинга, чанкинга, retrieval, ранжирования, прав доступа и поддержки цитирования. Простое изменение генератора не добавит источник, который retrieval не нашёл.
RAG не является методом обучения поведению. Он может показать модели пример или правило, но не сделает такое поведение стабильным для каждого запроса.
Для ассистента поддержки устаревший ответ о гарантии указывает на отсутствие актуальных правил: предоставьте их через retrieval. Если правильные правила уже есть, но ассистент неоднократно присваивает жалобе неверную категорию, сначала проверьте более понятные примеры. Файн-тюнинг стоит рассмотреть, если эта устойчивая ошибка классификации сохраняется и есть проверенные обучающие примеры.
Используйте файн-тюнинг для воспроизводимого поведения
Файн-тюнинг с учителем обучает модель на примерах входных и выходных данных, как описано в руководстве по обучению TRL. Его можно рассмотреть для классификации, стиля извлечения данных, структуры ответа, предметной терминологии и повторяющихся схем tool use. Если проблема касается только формата, сначала попробуйте structured output с ограничениями по схеме, если ваш рантайм это поддерживает. Даже корректная структура требует проверки правильности значений полей.
Для файн-тюнинга нужны проверенные обучающие данные, отложенный набор для оценки, версионирование моделей и возможность отката. Не выполняйте файн-тюнинг фактов, которые часто меняются, если retrieval может предоставить их во время запроса.
Практическая последовательность
- Определите критерии успеха и соберите репрезентативный набор для оценки.
- Создайте базовый вариант только с промптом, используя сильнейшую приемлемую модель.
- Добавьте RAG, если ошибки вызваны отсутствующими или изменяющимися подтверждениями.
- Соберите и проверьте примеры устойчивых ошибок, которые сохранились.
- Выполняйте файн-тюнинг только в том случае, если выигрыш в качестве, латентности или стоимости оправдывает дополнительные затраты на данные и операции с моделью.
- Повторяйте ту же оценку после каждого изменения промпта, индекса, модели или адаптера.
Дополнительные материалы
- Файн-тюнинг LLMs — о данных, LoRA, оценке и деплое.
- Метрики оценки RAG — о поиске ошибок на разных этапах пайплайна.
- Контекст-инжиниринг для ИИ-агентов — о контексте рантайма вокруг промптов и retrieval.