Fine-Tuning vs RAG vs Prompting: что выбрать?
Автоматический перевод Эта статья была автоматически переведена с оригинальной английской версии.
Используйте prompting, чтобы уточнить задачу, retrieval-augmented generation (RAG) — чтобы предоставлять актуальные или приватные знания, а fine-tuning — чтобы менять устойчивое поведение модели. Эти техники решают разные задачи и часто применяются в одной системе.
Начните с измеримого baseline для промпта. Добавляйте RAG, когда ответам нужны внешние доказательства или часто меняющиеся факты. Выполняйте fine-tuning, если оставшиеся ошибки связаны с устойчивым поведением — например, форматом, тоном, границами классификации, tool use или предметной терминологией — и у вас достаточно проверенных примеров.
Last reviewed: 2026-08-10. При выборе учитывайте тип ошибок, потребность в доказательствах, качество данных, частоту обновлений, латентность, операционные затраты и возможность оценивать регрессии.
Таблица решений
| Проблема | Первое вмешательство | Почему |
|---|---|---|
| Инструкции неясны или отсутствуют примеры | Prompting | Это самый быстрый способ проверить, обладает ли базовая модель нужной способностью. |
| Факты приватны, требуют цитирования или часто меняются | RAG | Retrieval обновляет знания без повторного обучения и может сохранять provenance источников. |
| Поведение модели стабильно некорректно | Fine-tuning | Проверенные примеры могут обучить устойчивому формату, стилю, меткам или поведению при работе с инструментами. |
| Модели не хватает базовой способности | Изменить модель или дизайн системы | Prompting и fine-tuning не могут надежно создать отсутствующую емкость. |
| Ответам нужны актуальные факты и специализированное поведение | RAG плюс fine-tuning | Retrieval предоставляет доказательства, а fine-tuning меняет способ их использования моделью. |
Сначала используйте prompting
Prompting — самый дешевый диагностический инструмент. Определите задачу, контракт вывода, примеры, разрешенные инструменты и условия отказа. До добавления дополнительной инфраструктуры соберите небольшой набор для эвала. Если более сильный промпт устраняет типичные ошибки, на этом можно остановиться.
Prompting становится хрупким, когда промпт содержит большую базу знаний, множество повторяющихся исключений или длинные демонстрации. Это сигнал перенести знания в retrieval, а поведение — в обучающие данные, а не продолжать расширять один блок инструкций.
Используйте RAG для знаний и provenance
RAG подходит для руководств по продуктам, политик, внутренних документов, недавних событий и любых ответов, в которых нужно цитировать источник. Качество зависит от парсинга, чанкинга, retrieval, ранжирования, прав доступа и поддержки цитирования. Более крупный генератор не сможет восстановить доказательства, которые retrieval не нашел.
RAG не предназначен для обучения поведению. Он может показать модели пример или правило, но не делает такое поведение устойчивым для каждого запроса.
Используйте fine-tuning для устойчивого поведения
Fine-tuning подходит для классификации, стиля извлечения данных, структуры ответа, предметной терминологии и повторяющихся паттернов tool use. Для него нужны проверенные обучающие данные, отложенный набор для эвала, версионирование артефактов и возможность отката. Не выполняйте fine-tuning фактов, которые часто меняются, если retrieval может предоставить их во время обработки запроса.
Практическая последовательность
- Определите критерии успеха и соберите репрезентативный набор для эвала.
- Создайте baseline только с промптом, используя самую сильную приемлемую модель.
- Добавьте RAG, если ошибки вызваны отсутствующими или меняющимися доказательствами.
- Соберите и проверьте примеры устойчивых ошибок, которые остались.
- Выполняйте fine-tuning только если прирост качества, снижение латентности или стоимости перевешивает дополнительные затраты на данные и эксплуатацию модели.
- Повторяйте тот же эвал после каждого изменения промпта, индекса, модели или адаптера.
Дополнительные материалы
- Fine-Tuning LLMs — данные, LoRA, эвал и деплой.
- RAG Evaluation Metrics — поиск ошибок на разных этапах пайплайна.
- Context Engineering for AI Agents — контекст рантайма вокруг промптов и retrieval.