Wat is een LLM (Large Language Model)?

Definitie: Een large language model (LLM), in het Nederlands een groot taalmodel, is een AI-model dat is getraind op enorme hoeveelheden tekst en daardoor taal kan begrijpen en genereren. Het voorspelt telkens welk stukje tekst het meest waarschijnlijk volgt, en kan zo vragen beantwoorden, teksten schrijven, samenvatten, vertalen en code maken.

In het kort

• Een LLM is een neuraal netwerk met miljarden parameters, gebaseerd op de transformer-architectuur die Google-onderzoekers in 2017 beschreven.
• Bekende LLM’s zijn GPT van OpenAI, Gemini van Google, Llama van Meta en Claude van Anthropic. ChatGPT maakte de techniek in 2022 bij een breed publiek bekend.
• Een LLM weet niets van jouw bedrijf, tenzij je die informatie meegeeft. Het kan ook overtuigend klinkende fouten maken.
• In een bedrijfsapplicatie gebruik je een LLM meestal via een API, als onderdeel van een groter proces met controle door mensen.

Wat is een LLM precies?

Een LLM is een taalmodel op grote schaal. De letters staan voor large language model. “Large” slaat op twee dingen: de hoeveelheid tekst waarop het model is getraind en het aantal parameters, de interne getallen die het model tijdens de training bijstelt. Moderne modellen hebben er tientallen tot honderden miljarden. GPT-3 had er volgens FlowHunt 175 miljard.

Het principe is verrassend eenvoudig. Een LLM krijgt een stuk tekst en berekent welk volgend stukje tekst het meest waarschijnlijk is. Dat herhaalt het, steeds opnieuw, tot er een antwoord staat. Omdat het model tijdens de training patronen uit miljarden zinnen heeft opgepikt, zijn die voorspellingen vaak bruikbaar: grammaticaal correct, logisch opgebouwd en passend bij de vraag.

Een LLM is daarmee geen database en geen zoekmachine. Het slaat geen feiten op als losse records, maar heeft taalpatronen en verbanden geleerd. Dat verklaart zowel de kracht als de zwakte. Het model kan vrijwel elk onderwerp in vloeiende taal bespreken, maar het kan ook een bron, cijfer of naam bedenken die niet bestaat.

Waar komt het LLM vandaan?

Onderzoek naar computers en taal is veel ouder dan ChatGPT. Volgens Oracle is natural language processing al sinds de jaren zestig een onderzoeksveld. Lange tijd werkte dat met regels en later met statistische modellen die woordreeksen telden.

De doorbraak kwam in 2017 met het artikel “Attention Is All You Need” van onderzoekers van Google. Daarin werd de transformer geïntroduceerd: een architectuur die een hele tekst tegelijk verwerkt en via een aandachtsmechanisme bepaalt welke woorden voor elkaar belangrijk zijn. Daardoor konden modellen veel groter worden en beter met context omgaan.

Sindsdien volgen nieuwe modellen elkaar snel op. Elke paar maanden verschijnt een versie die beter redeneert, langere teksten aankan of ook beelden en geluid verwerkt.

Hoe werkt een LLM?

Je hoeft de wiskunde niet te kennen om een LLM goed in te zetten. Een paar begrippen helpen wel om te begrijpen wat er gebeurt.

Tokens

Een LLM leest geen woorden maar tokens: stukjes tekst van een paar tekens. Een kort woord is vaak één token, een lang Nederlands woord kan uit meerdere tokens bestaan. Tokens zijn ook de eenheid waarin de meeste aanbieders rekenen. Je betaalt per hoeveelheid tokens die je naar het model stuurt en per hoeveelheid die het terugstuurt.

Contextvenster

Het contextvenster is de hoeveelheid tekst die een model in één keer kan meenemen: jouw vraag, de instructies, eventuele documenten en het antwoord. Wat buiten dat venster valt, ziet het model niet. Nieuwere modellen hebben grote vensters, maar meer tekst meesturen betekent ook meer kosten en soms minder focus.

Training

De training verloopt grofweg in fasen:

1. Voortraining. Het model leest enorme hoeveelheden tekst en leert het volgende token te voorspellen. Dit kost veel rekenkracht en energie.
2. Bijsturing met voorbeelden. Het model leert vragen te beantwoorden en instructies te volgen aan de hand van voorbeeldgesprekken.
3. Feedback van mensen. Beoordelaars geven aan welke antwoorden beter zijn. Die techniek heet reinforcement learning from human feedback (RLHF).

Na de training staat de kennis van het model vast. Wat daarna gebeurt, weet het niet, tenzij je die informatie meestuurt of het model toegang geeft tot actuele bronnen.

Temperatuur

Bij het kiezen van het volgende token zit een element van toeval. Met de instelling temperatuur bepaal je hoeveel. Een lage temperatuur geeft voorspelbare, consistente antwoorden. Een hogere temperatuur geeft meer variatie, wat handig kan zijn bij creatief schrijfwerk.

Welke LLM’s zijn er?

Er zijn grofweg twee soorten: gesloten modellen die je via een dienst gebruikt en open modellen die je zelf kunt draaien.

Gesloten modellen zijn meestal het krachtigst en eenvoudig te gebruiken. Open modellen geven meer controle over waar gegevens blijven, maar vragen eigen hardware of hosting en meer technische kennis. Welke het beste past, hangt af van de taak, het budget en de eisen aan privacy.

Wat kun je met een LLM?

LLM’s zijn breed inzetbaar. Typische toepassingen in bedrijven:

• Teksten opstellen, zoals conceptmails, productbeschrijvingen, verslagen en offertes.
• Samenvatten van lange documenten, gesprekken of klantvragen.
• Classificeren, bijvoorbeeld binnenkomende berichten indelen naar onderwerp of urgentie.
• Gegevens uit tekst halen, zoals namen, bedragen en datums uit e-mails of formulieren.
• Vragen beantwoorden op basis van eigen documenten, met een techniek als RAG.
• Vertalen tussen talen, met behoud van toon.
• Code schrijven en uitleggen voor ontwikkelaars.
• Chatbots en assistenten die klanten of medewerkers helpen.

Wat deze toepassingen gemeen hebben: er komt tekst binnen en er moet tekst of een beslissing uitkomen. Hoe beter afgebakend die taak is, hoe beter een LLM presteert.

LLM, AI en chatbot: wat is het verschil?

De termen lopen in de praktijk door elkaar. Deze tabel zet ze naast elkaar.

ChatGPT is dus geen LLM, maar een toepassing die bovenop een LLM draait. Datzelfde model kun je via een API ook in je eigen software gebruiken.

Wat zijn de beperkingen van een LLM?

Een LLM is krachtig, maar niet onfeilbaar. Wie het in een bedrijfsproces inzet, moet de beperkingen kennen.

• Hallucinaties. Een model kan feiten, bronnen of cijfers verzinnen die overtuigend klinken.
• Geen actuele kennis. De kennis loopt tot het moment van training, tenzij je actuele informatie meegeeft.
• Geen kennis van jouw bedrijf. Interne afspraken, klantgegevens en producten kent het model niet vanzelf.
• Wisselende uitkomsten. Dezelfde vraag kan verschillende antwoorden opleveren.
• Vooringenomenheid. Patronen uit de trainingsdata kunnen in antwoorden terugkomen.
• Privacy. Wat je naar een externe dienst stuurt, verlaat je eigen omgeving. Controleer de voorwaarden en de locatie van verwerking.
• Kosten bij schaal. Losse vragen zijn goedkoop, maar duizenden documenten per dag tellen op.

Veel van deze punten zijn op te vangen met een goed ontwerp: duidelijke instructies, eigen bronnen meesturen, uitkomsten controleren en een mens laten beslissen waar het ertoe doet.

Hoe gebruik je een LLM in je eigen software?

Er zijn verschillende manieren om een LLM aan je bedrijf te koppelen, van eenvoudig naar uitgebreid.

1. Losse chattool. Medewerkers gebruiken een zakelijke versie van een chatdienst. Snel, maar zonder koppeling met je processen.
2. API-koppeling. Je software stuurt een vraag naar het model en verwerkt het antwoord, bijvoorbeeld om binnenkomende mails samen te vatten.
3. Eigen bronnen meesturen. Met RAG zoekt de applicatie eerst relevante documenten op en geeft die mee, zodat het antwoord op jouw informatie is gebaseerd.
4. Tools en acties. Het model mag functies aanroepen, zoals een klant opzoeken of een taak aanmaken. Dit is de basis van AI-agents.
5. Fine-tuning of een lokaal model. Voor specifieke taken of strenge eisen aan gegevens train je een model bij of draai je het in eigen beheer.

Begin bij de eenvoudigste route die de taak oplost. Een goed geschreven prompt en een API-koppeling brengen je vaak verder dan je verwacht.

Wat kost het gebruik van een LLM?

De kosten bestaan uit een paar onderdelen. Bij een API betaal je per token, met aparte prijzen voor invoer en uitvoer. Krachtige modellen zijn duurder dan kleine, snelle modellen. Daarnaast zijn er kosten voor de software eromheen: de koppeling, opslag van documenten, controle en beheer. Bij een lokaal model vervallen de kosten per token, maar betaal je voor hardware of hosting en onderhoud.

Omdat prijzen per aanbieder en per model vaak veranderen, is het verstandig om bij een project eerst te meten hoeveel tekst een taak gebruikt. Dan kun je per verwerkt document of per gesprek inschatten wat het kost.

Een voorbeeld van een LLM-taak in stappen

Neem een veelvoorkomende taak: binnenkomende klantmails indelen en een conceptantwoord klaarzetten. Zo ziet dat er in een applicatie uit:

1. Een nieuwe mail komt binnen en wordt opgeslagen.
2. De applicatie stuurt de tekst naar het model met een vaste instructie: bepaal het onderwerp, de urgentie en de klant.
3. Het model geeft een gestructureerd antwoord terug, bijvoorbeeld in JSON, dat de software kan lezen.
4. De applicatie zoekt de klant op en zet de mail in de juiste wachtrij.
5. Een tweede verzoek maakt een conceptantwoord op basis van de mail en relevante informatie.
6. Een medewerker controleert het concept, past aan waar nodig en verstuurt.

Het model doet hier twee afgebakende dingen. De rest is gewone software: opslaan, opzoeken, toewijzen en tonen. Dat is typisch voor een goede toepassing.

Hoe kies je een LLM voor een toepassing?

Er is geen beste model voor alles. De keuze hangt af van de taak en de randvoorwaarden. Deze criteria helpen bij de afweging:

Een praktische aanpak is om een kleine set echte voorbeelden te verzamelen, met het gewenste antwoord erbij. Laat twee of drie modellen die set verwerken en vergelijk de uitkomsten. Vaak blijkt een kleiner, goedkoper model voor een afgebakende taak goed genoeg, terwijl een krachtiger model alleen nodig is voor de moeilijke gevallen.

Bouw de koppeling zo dat het model te vervangen is. Modellen verbeteren snel, en een aanbieder kan prijzen of voorwaarden wijzigen. Als de rest van de applicatie niet afhangt van één specifiek model, houd je die keuze open.

Veelgemaakte fouten bij het inzetten van een LLM

• Beginnen bij de techniek. “We willen iets met AI” is geen taak. Begin bij een concreet probleem dat steeds terugkomt.
• Geen voorbeelden van goed werk. Zonder vooraf vastgelegde voorbeelden kun je niet beoordelen of het model het goed doet.
• Uitkomsten direct doorzetten. Een gegenereerde tekst of beslissing die zonder controle naar een klant gaat, is een risico.
• Te veel in één prompt. Eén verzoek dat tien dingen tegelijk moet doen, levert wisselende resultaten. Splits de taak op.
• Persoonsgegevens zonder afspraken. Stuur geen klantgegevens naar een externe dienst zonder verwerkersovereenkomst en duidelijke voorwaarden.
• Geen logboek. Bewaar wat er naar het model ging en wat terugkwam, zodat je fouten kunt terugzien en verbeteren.
• Kosten niet meten. Een proef met tien documenten zegt weinig over de rekening bij tienduizend.

LLM’s en regelgeving

Wie een LLM in bedrijfsprocessen gebruikt, heeft te maken met bestaande regels. De AVG geldt zodra er persoonsgegevens in de teksten zitten. Dan moet duidelijk zijn op welke grondslag je ze verwerkt, waar de verwerking plaatsvindt en welke afspraken er met de aanbieder zijn. Daarnaast stelt de Europese AI-verordening eisen aan AI-systemen, afhankelijk van het risico van de toepassing. Een interne samenvattingstool valt in een andere categorie dan een systeem dat over sollicitanten of kredieten beslist.

Praktisch betekent dit: houd bij welke gegevens naar het model gaan, beperk die tot wat nodig is, en laat mensen beslissen bij keuzes met gevolgen voor anderen. Wees ook open tegenover klanten en medewerkers wanneer een tekst of antwoord door AI is opgesteld.

Wat betekent dit voor jouw project?

Bij Contentooo loopt een workflow van intake, klantprofiel en onderzoek via conceptgeneratie naar controle, vrijgave en klantakkoord. Daar zie je goed waar een taalmodel helpt en waar niet. Goede invoer bepaalt wat een volgende stap kan opleveren. En inhoudelijke controle blijft nodig voordat iets naar een klant gaat.

Bij Elevtr, mijn eigen software voor het voorbereiden en publiceren van LinkedIn-content, is het onderscheid tussen input, voorstel, keuze en uitvoering de kern. Een gebruiker moet begrijpen wat de software voorbereidt en wat er echt gepubliceerd wordt. Dat onderscheid vind ik bij elke toepassing van een LLM belangrijk.

Bij een nieuw idee begin ik daarom niet bij het model, maar bij de vraag: wie gaat het gebruiken, en welke taak moet die persoon als eerste kunnen afronden? Pas daarna kijk ik of een LLM die taak beter maakt, en op welke plek in het proces een mens het laatste woord houdt.

Vraag? Stuur me welke terugkerende taak met tekst bij jullie veel tijd kost en wie ermee werkt. Dan bepalen we samen of een taalmodel daar logisch past en wat de eerste stap is.

Veelgestelde vragen over LLM’s

Wat is een LLM?

Een LLM, of large language model, is een AI-model dat op grote hoeveelheden tekst is getraind en daardoor taal kan begrijpen en genereren. Het voorspelt steeds het meest waarschijnlijke volgende stukje tekst en kan zo schrijven, samenvatten, vertalen en vragen beantwoorden.

Wat is het verschil tussen ChatGPT en een LLM?

ChatGPT is een toepassing van OpenAI die bovenop een LLM uit de GPT-familie draait. Het LLM is het onderliggende model; ChatGPT voegt een chatinterface, instructies en extra functies toe. Hetzelfde soort model kan via een API ook in andere software worden gebruikt.

Is een LLM altijd betrouwbaar?

Nee. Een LLM kan feiten, bronnen of cijfers verzinnen die overtuigend klinken, en heeft geen actuele kennis na de training. Betrouwbaarheid neemt toe met duidelijke instructies, eigen bronnen en controle door mensen.

Verwante termen

Prompt engineering · RAG · Fine-tuning · AI-hallucinatie · Embeddings · Lokale LLM · AI-agent · AI-chatbot