Wat is fine-tuning?

Definitie: Fine-tuning is het verder trainen van een bestaand AI-model op een eigen, specifieke dataset, zodat het model zich beter gedraagt voor een bepaalde taak, stijl of vakgebied. Het model leert daarbij van voorbeelden, in plaats van dat het bij elke vraag extra informatie krijgt aangereikt.

In het kort

• Bij fine-tuning pas je de interne gewichten van een taalmodel aan met honderden tot duizenden voorbeelden van gewenste invoer en uitvoer.
• Fine-tuning is sterk voor een vaste toon, een vast formaat, classificatie en specialistisch taalgebruik.
• Voor actuele of veranderende kennis, zoals productinformatie of beleid, is RAG meestal geschikter.
• Technieken als LoRA maken fine-tuning goedkoper, omdat maar een klein deel van het model wordt aangepast.

Wat is fine-tuning?

Grote taalmodellen worden eerst getraind op enorme hoeveelheden algemene tekst. Daardoor kunnen ze schrijven, samenvatten, vertalen en redeneren over vrijwel elk onderwerp. Maar ze weten niet hoe jouw bedrijf schrijft, welke indeling jouw rapporten hebben of hoe jouw vakjargon werkt.

Fine-tuning lost dat op door het model een tweede, kleinere training te geven. Je laat het voorbeelden zien: deze vraag hoort bij dit antwoord, deze tekst hoort in deze categorie, deze notities worden dit verslag. Het model past zijn interne instellingen aan, zodat het dat gedrag daarna uit zichzelf laat zien, ook bij nieuwe invoer.

Hoe werkt fine-tuning?

1. Doel bepalen. Welk gedrag wil je dat het model beter beheerst?
2. Dataset maken. Verzamel voorbeelden van invoer en de gewenste uitvoer. Kwaliteit is belangrijker dan hoeveelheid.
3. Basismodel kiezen. Een model van een aanbieder met een fine-tuningdienst, of een open model dat je zelf traint.
4. Trainen. Het model leert van de voorbeelden. Bij grote modellen gebeurt dit op krachtige GPU’s.
5. Evalueren. Test het model op voorbeelden die het niet heeft gezien, en vergelijk het met het basismodel.
6. In gebruik nemen en blijven meten, want gedrag kan bij nieuwe soorten invoer anders uitpakken.

Soorten fine-tuning

LoRA staat voor Low-Rank Adaptation. Volgens Vellum kan deze techniek de kosten van fine-tuning met meer dan 90 procent verlagen ten opzichte van volledige fine-tuning, omdat maar een fractie van het model wordt getraind.

Een voorbeeld: verslagen in een vaste indeling

Stel dat een adviesbureau na elk klantgesprek een verslag maakt in een vaste indeling: aanleiding, besproken punten, afspraken, vervolgstappen en open vragen. Een algemeen taalmodel kan op basis van gespreksnotities prima een samenvatting schrijven, maar houdt zich niet altijd aan de indeling, gebruikt andere woorden dan het bureau gewend is en laat soms afspraken weg.

Met goede instructies en een paar voorbeelden in de prompt kom je al ver. Blijft het resultaat wisselvallig, dan kan fine-tuning helpen. Het bureau verzamelt een paar honderd bestaande verslagen met de bijbehorende notities, controleert of ze kloppen, en traint een model op die combinaties. Daarna levert het model verslagen die consistenter de indeling en het taalgebruik volgen. De inhoud van het verslag komt nog steeds uit de notities van dat specifieke gesprek: het model heeft geleerd hoe het moet schrijven, niet wat er in elk gesprek is besproken.

Fine-tuning of RAG?

De vuistregel die veel bronnen hanteren: gebruik RAG als het model iets moet weten, en fine-tuning als het model iets op een bepaalde manier moet doen. In de praktijk worden ze ook gecombineerd: een model dat via fine-tuning de juiste stijl en structuur heeft geleerd, en via RAG de actuele informatie krijgt.

Wat fine-tuning niet doet

Een veelvoorkomend misverstand is dat je met fine-tuning een model “je eigen kennis” leert, zodat het daarna alle vragen over je bedrijf correct beantwoordt. Dat werkt in de praktijk slecht. Een model dat op een set documenten is getraind, onthoudt feiten niet betrouwbaar en kan ze door elkaar halen of aanvullen met verzonnen details. Bovendien kan het niet aangeven waar een antwoord vandaan komt. Voor vragen over feiten, prijzen, voorwaarden of procedures is het daarom beter om het model de relevante informatie per vraag aan te reiken via RAG, en fine-tuning in te zetten voor het gedrag.

Fine-tuning of een goede prompt?

Voordat je gaat fine-tunen, is het verstandig om te kijken hoe ver je komt met goede instructies en voorbeelden in de prompt. Moderne taalmodellen zijn zeer goed in het opvolgen van instructies, en een paar voorbeelden in de prompt (few-shot) lossen veel problemen al op. Fine-tuning wordt interessant als:

• De prompt erg lang wordt door alle voorbeelden en instructies, wat elke aanroep duurder en trager maakt.
• Het gedrag ondanks goede instructies niet consistent genoeg is.
• Je een kleiner, goedkoper model wilt laten presteren als een groter model voor één specifieke taak.
• Je duizenden of miljoenen aanroepen doet, waardoor elke besparing per aanroep telt.

Hoe ziet een dataset voor fine-tuning eruit?

Een dataset voor fine-tuning bestaat uit voorbeelden van gesprekken of opdrachten met het gewenste antwoord. Bij een model dat klantmails moet classificeren, ziet één voorbeeld er schematisch zo uit:

Belangrijke eigenschappen van een goede dataset:

• Representatief. De voorbeelden lijken op wat het model in de praktijk krijgt, inclusief lastige gevallen.
• Consistent. Hetzelfde soort invoer krijgt dezelfde soort uitvoer. Als twee mensen voorbeelden anders beoordelen, leert het model twijfel.
• Gecontroleerd. Iemand met kennis van de taak heeft de voorbeelden nagekeken.
• Gebalanceerd. Zeldzame categorieën zijn voldoende vertegenwoordigd.
• Zonder onnodige persoonsgegevens.

Voor veel taken is een paar honderd tot enkele duizenden goede voorbeelden een gangbaar vertrekpunt. Meer voorbeelden helpen alleen als ze van goede kwaliteit zijn.

Hoe meet je of fine-tuning werkt?

Zonder meting weet je niet of het model beter is geworden. Maak daarom vooraf een testset die het model tijdens de training niet ziet. Meet daarop hoe vaak het antwoord klopt, of het formaat correct is en hoe het model omgaat met ongebruikelijke invoer. Vergelijk de uitkomst met het basismodel met een goede prompt. Pas als het gefinetunede model duidelijk beter presteert, of dezelfde kwaliteit levert tegen lagere kosten, is de investering zinvol.

Toepassingen van fine-tuning

• Vaste schrijfstijl, bijvoorbeeld klantmails of productteksten in de toon van een merk.
• Vaste structuur, zoals verslagen, samenvattingen of JSON-uitvoer in een exact formaat.
• Classificatie, zoals tickets of documenten indelen in vaste categorieën.
• Vakjargon, bijvoorbeeld juridische, medische of technische terminologie.
• Kleinere modellen die voor één taak bijna zo goed presteren als een groot model, tegen lagere kosten.

Waar kun je fine-tunen?

• Via de API van een modelaanbieder. Grote aanbieders bieden voor een deel van hun modellen een fine-tuningdienst. Je uploadt een dataset, de training draait bij de aanbieder en je gebruikt het resultaat via dezelfde API.
• Met open modellen. Modellen met openbare gewichten kun je zelf fine-tunen op eigen hardware of gehuurde GPU’s in de cloud, vaak met LoRA. Je hebt dan meer controle over gegevens en kosten, maar ook meer technisch werk.
• Via gespecialiseerde platforms die training, hosting en evaluatie van open modellen als dienst aanbieden.

De keuze hangt af van privacy-eisen, budget, technische kennis en hoe afhankelijk je wilt zijn van één aanbieder.

Wat kost fine-tuning?

De kosten bestaan uit drie delen. Ten eerste de dataset: het verzamelen, opschonen en controleren van voorbeelden. Volgens Together AI kost dat vaak meer dan de rekentijd zelf. Ten tweede de training: via een API betaal je per verwerkt token, bij eigen training betaal je voor GPU-tijd. Ten derde het gebruik: een gefinetuned model kan per aanroep duurder zijn dan het basismodel, afhankelijk van de aanbieder. Daar staat tegenover dat kortere prompts en kleinere modellen per aanroep geld kunnen besparen.

Risico’s en aandachtspunten

• Slechte data, slecht model. Fouten, inconsistenties en vooroordelen in de dataset worden aangeleerd.
• Vergeten. Een model kan na fine-tuning slechter worden in andere taken dan waarvoor het getraind is.
• Verouderen. Kennis die via fine-tuning is aangeleerd, verandert niet vanzelf mee. Bij nieuwe informatie moet je opnieuw trainen.
• Privacy. Persoonsgegevens in de trainingsdata kunnen in het model terechtkomen. Anonimiseer waar mogelijk.
• Afhankelijkheid. Een gefinetuned model is gekoppeld aan het basismodel van een aanbieder. Verdwijnt dat basismodel, dan moet je opnieuw trainen.
• Evaluatie. Zonder een vaste testset weet je niet of het model echt beter is geworden.
• Onderhoud. Als je werkwijze, producten of huisstijl veranderen, moet de dataset mee veranderen en het model opnieuw worden getraind. Reken die terugkerende inspanning mee in de afweging.
• Overschatting. Een gefinetuned model maakt nog steeds fouten. Controle blijft nodig waar een fout gevolgen heeft.

Stappenplan voor een eerste fine-tuningproject

1. Probeer eerst prompts en RAG. Leg vast waar die tekortschieten.
2. Kies één afgebakende taak met een duidelijk goed of fout antwoord.
3. Maak een testset van voorbeelden die je niet gebruikt voor de training.
4. Bouw een dataset van een paar honderd zorgvuldig gecontroleerde voorbeelden.
5. Train via een API of met LoRA op een open model.
6. Vergelijk het resultaat met het basismodel op dezelfde testset.
7. Breid uit als de verbetering de kosten en het onderhoud rechtvaardigt.

Wat betekent dit voor jouw project?

Bij Contentooo, een workflow met intake, klantprofiel, onderzoek, conceptgeneratie, controle en klantakkoord, geldt een eenvoudige les: goede invoer bepaalt wat een volgende stap oplevert. Bij fine-tuning is dat misschien nog sterker. De voorbeelden waarop je een model traint, bepalen wat het model daarna doet.

Daarom begin ik bij een AI-toepassing niet bij de techniek, maar bij de vraag welke taak beter moet en hoe je ziet of het beter gaat. Vaak blijkt dan dat goede instructies, een paar voorbeelden of een koppeling met de juiste documenten al genoeg zijn.

Wil je dat een AI-model werkt zoals jouw bedrijf werkt? Stuur me welke taak het moet uitvoeren, met een paar voorbeelden van goed werk. Dan bepalen we samen de logische eerste stap.

Veelgestelde vragen over fine-tuning

Wat is fine-tuning?

Fine-tuning is het verder trainen van een bestaand AI-model op een eigen dataset, zodat het zich beter gedraagt voor een specifieke taak, stijl of vakgebied. Het model leert van voorbeelden van gewenste invoer en uitvoer.

Wat is het verschil tussen RAG en fine-tuning?

Bij fine-tuning verandert het model zelf, zodat het een taak op een bepaalde manier uitvoert. Bij RAG blijft het model gelijk en krijgt het per vraag relevante informatie uit documenten. RAG past bij actuele kennis, fine-tuning bij toon, formaat en vaste taken.

Wat is LoRA?

LoRA staat voor Low-Rank Adaptation, een techniek waarbij maar een klein aantal extra parameters van het model wordt getraind. Daardoor is fine-tuning veel goedkoper en sneller dan wanneer alle gewichten worden aangepast.

Verwante termen

RAG (Retrieval Augmented Generation) · Large Language Model (LLM) · Chatbot op eigen data · Prompt engineering · AI-agent · Machine learning