Fine-tuning vs RAG vs prompting: wat moet je gebruiken?
Automatische vertaling
Dit artikel is automatisch vertaald vanuit de oorspronkelijke Engelse versie.
Gebruik prompting om de taak te verduidelijken, retrieval-augmented generation (RAG) om actuele of privékennis aan te leveren, en fine-tuning om herhaalbaar modelgedrag te veranderen. Deze technieken lossen verschillende problemen op en horen vaak in hetzelfde systeem thuis.
Begin met een gemeten prompt-baseline. Voeg RAG toe wanneer antwoorden externe onderbouwing of regelmatig veranderende feiten nodig hebben. Overweeg fine-tuning voor hardnekkige fouten in toon, classificatie, tool use of domeintaal wanneer er voldoende gecontroleerde voorbeelden beschikbaar zijn. Probeer bij fouten in het antwoordformaat eerst structured output met schemabeperkingen.
Kies op basis van waargenomen fouten, hoe vaak de feiten veranderen en de beschikbare data waarmee je een oplossing kunt testen.
Beslissingstabel
| Probleem | Eerste interventie | Waarom |
|---|---|---|
| Instructies zijn onduidelijk of voorbeelden ontbreken | Prompting | Hiermee test je of duidelijkere instructies en voorbeelden de geconstateerde fouten oplossen. |
| Feiten zijn privé, moeten worden geciteerd of veranderen vaak | RAG | Retrieval werkt kennis bij zonder retraining en kan de herkomst van bronnen behouden. |
| Stabiel gedrag blijft onjuist na het testen van prompts | Fine-tuning overwegen | Gecontroleerde voorbeelden kunnen stijl, labels of toolgedrag aanleren; vergelijk het resultaat met de prompt-baseline. |
| Een zorgvuldige prompt-baseline blijft falen | Test een ander model of systeemontwerp | Vergelijk alternatieven op dezelfde gevallen; falen van prompting alleen toont niet aan of tuning zou helpen. |
| Antwoorden hebben actuele feiten en gespecialiseerd gedrag nodig | RAG plus fine-tuning | Retrieval levert bewijs, terwijl tuning verandert hoe het model dit gebruikt. |
Gebruik eerst prompting
Prompting is een aanpak met weinig setup om fouten te diagnosticeren. Definieer de taak, het outputcontract, voorbeelden, toegestane tools en voorwaarden voor weigering. Stel een kleine eval-set samen voordat je meer infrastructuur toevoegt. Als een sterkere prompt de representatieve fouten oplost, kun je daar stoppen.
Als een groeiende prompt moeilijker te onderhouden wordt, ga dan na wat er is toegevoegd. Veranderende productinformatie kan beter via retrieval worden aangeleverd. Herhaalde gedragsvoorbeelden kunnen geschikt zijn als trainingsdata. De lengte van een prompt bewijst op zichzelf niet dat een van beide wijzigingen het resultaat verbetert.
Gebruik RAG voor kennis en bronherkomst
RAG past bij producthandleidingen, beleidsdocumenten, interne documenten, recente gebeurtenissen en antwoorden die een bron moeten citeren. De oorspronkelijke RAG-paper combineert een generator met opgehaalde passages; het opgehaalde bewijs wordt bij het verzoek aangeleverd. De kwaliteit hangt af van parsing, chunking, retrieval, ranking, toegangsrechten en ondersteuning voor citaten. Alleen de generator veranderen levert geen bron aan die retrieval heeft weggelaten.
RAG is geen methode voor gedragstraining. Het kan het model een voorbeeld of regel tonen, maar maakt dat gedrag niet stabiel voor elk verzoek.
Bij een supportassistent wijst een verouderd antwoord over garantie op ontbrekend actueel beleid: lever dat beleid aan via retrieval. Als het juiste beleid al aanwezig is, maar de assistent herhaaldelijk de verkeerde klachtcategorie toewijst, test dan eerst duidelijkere voorbeelden. Fine-tuning komt in aanmerking als die aanhoudende classificatiefout blijft bestaan en er gecontroleerde trainingsvoorbeelden beschikbaar zijn.
Gebruik fine-tuning voor herhaalbaar gedrag
Supervised fine-tuning traint op input/output-voorbeelden, zoals beschreven in de TRL-trainingsgids. Het is een kandidaat voor classificatie, extractiestijl, antwoordstructuur, domeinterminologie en terugkerende tool-usepatronen. Probeer bij fouten die alleen het format betreffen eerst structured output met schemabeperkingen als je runtime dit ondersteunt. Een geldige structuur vereist nog steeds controles op de juistheid van veldwaarden.
Fine-tuning vereist gecontroleerde trainingsdata, een apart gehouden evaluatieset, modelversiebeheer en een rollbackpad. Fine-tune geen feiten die vaak veranderen als retrieval ze bij het verzoek kan aanleveren.
Een praktische volgorde
- Definieer succes en stel een representatieve evaluatieset samen.
- Stel een baseline met alleen prompts vast met het sterkste model dat aanvaardbaar is.
- Voeg RAG toe als fouten voortkomen uit ontbrekend of veranderend bewijs.
- Verzamel en beoordeel voorbeelden van de stabiele fouten die overblijven.
- Voer alleen fine-tuning uit als de winst in kwaliteit, latency of kosten opweegt tegen de extra data en modeloperaties.
- Voer na elke wijziging aan prompts, index, model of adapter dezelfde evaluatie opnieuw uit.
Verder lezen
- Fine-tuning van LLMs behandelt data, LoRA, evaluatie en deployment.
- RAG-evaluatiemetrieken laat zien hoe je fouten per pipelinefase lokaliseert.
- Context engineering voor AI agents behandelt de runtime-context rond prompts en retrieval.