Wat is een AI-hallucinatie?

Definitie: Een AI-hallucinatie is een antwoord van een AI-model dat overtuigend en vloeiend klinkt, maar feitelijk onjuist, verzonnen of niet onderbouwd is. Het model presenteert dan bijvoorbeeld niet-bestaande bronnen, verkeerde cijfers of gebeurtenissen die nooit hebben plaatsgevonden als waarheid.

In het kort

• Hallucinaties ontstaan doordat taalmodellen voorspellen welke tekst waarschijnlijk is, niet wat waar is.
• Bekende voorbeelden zijn de Amerikaanse advocaat die in 2023 door ChatGPT verzonnen rechtszaken indiende, en de zaak waarin Air Canada in 2024 aansprakelijk werd gesteld voor onjuiste informatie van zijn chatbot.
• Het Cambridge Dictionary koos “hallucinate” in 2023 tot woord van het jaar, vanwege deze nieuwe betekenis.
• Je verkleint de kans op hallucinaties met betrouwbare bronnen via RAG, duidelijke instructies, controle door een mens en een systeem dat mag zeggen dat het iets niet weet.

Wat is een AI-hallucinatie?

Een taalmodel zoals ChatGPT, Claude of Gemini is getraind om tekst te maken die past bij de vraag en de context. Het heeft geleerd hoe taal werkt, welke woorden en zinnen bij elkaar horen en hoe een goed antwoord eruitziet. Maar het heeft geen ingebouwde controle op de waarheid. Als het model het antwoord niet zeker weet, maakt het vaak toch een antwoord dat er plausibel uitziet. Dat noemen we hallucineren.

Het lastige is dat een hallucinatie er precies hetzelfde uitziet als een juist antwoord. Dezelfde zelfverzekerde toon, dezelfde vloeiende zinnen, soms zelfs met een bronvermelding die echt lijkt. Daardoor is een hallucinatie moeilijk te herkennen voor wie het onderwerp niet zelf kent. Juist bij vragen waarop je het antwoord zelf niet weet, ben je dus het kwetsbaarst.

Soorten hallucinaties

Waarom hallucineren AI-modellen?

• Voorspellen in plaats van weten. Een taalmodel voorspelt het meest waarschijnlijke volgende woord. Waarschijnlijk is niet hetzelfde als waar.
• Gaten in de trainingsdata. Over onderwerpen die weinig voorkomen of na de trainingsdatum zijn gebeurd, heeft het model weinig of geen informatie.
• Druk om te antwoorden. Modellen zijn getraind om behulpzaam te zijn en geven liever een antwoord dan “ik weet het niet”.
• Onduidelijke vragen. Een vage of dubbelzinnige vraag geeft het model meer ruimte om iets in te vullen.
• Lange of complexe taken. Bij veel stappen of lange documenten neemt de kans op fouten toe.
• Verkeerde context. Als een RAG-systeem de verkeerde documenten aanlevert, baseert het model zich op de verkeerde informatie.

Waarom de term hallucinatie?

De term is ontleend aan de psychologie, waar een hallucinatie een waarneming is van iets dat er niet is. Bij AI wordt het woord gebruikt omdat het model iets presenteert dat niet bestaat, met de overtuiging alsof het echt is. Er is ook kritiek op de term. Sommige onderzoekers vinden dat hij te veel menselijke eigenschappen aan een model toeschrijft, en spreken liever van confabulatie of simpelweg van fouten. In het dagelijkse spraakgebruik is hallucinatie inmiddels de gangbare term.

Instellingen die meespelen

Naast de kwaliteit van het model en de bronnen spelen ook instellingen een rol. Bij veel modellen kun je de zogeheten temperatuur instellen: een lage temperatuur maakt antwoorden voorspelbaarder en feitelijker, een hoge temperatuur maakt ze creatiever en gevarieerder. Voor feitelijke taken, zoals vragen beantwoorden op basis van documenten of gegevens uitlezen, is een lage temperatuur meestal verstandiger. Daarnaast helpt het om het model een vast antwoordformaat te geven, bijvoorbeeld een antwoord met daaronder de gebruikte bron, of een expliciet veld voor “niet gevonden” bij het uitlezen van documenten.

Bekende voorbeelden

• Verzonnen jurisprudentie (2023). In de Amerikaanse zaak Mata tegen Avianca diende een advocaat een stuk in met verwijzingen naar rechtszaken die door ChatGPT waren verzonnen. De rechter ontdekte dat de zaken niet bestonden, en de advocaten werden gesanctioneerd.
• Air Canada (2024). De chatbot van Air Canada gaf een klant onjuiste informatie over een kortingsregeling bij een rouwreis. Een Canadees tribunaal oordeelde dat de luchtvaartmaatschappij verantwoordelijk was voor wat haar chatbot zei.
• Woord van het jaar. Het Cambridge Dictionary koos “hallucinate” in 2023 tot woord van het jaar, en voegde de betekenis toe van een AI die onjuiste informatie produceert.

Deze voorbeelden laten zien dat de gevolgen van een hallucinatie niet alleen technisch zijn. Een organisatie blijft verantwoordelijk voor wat haar AI-toepassing zegt.

Een voorbeeld uit de praktijk van een chatbot

Stel dat een webshop een chatbot heeft die vragen over bestellingen beantwoordt. Een klant vraagt: “Kan ik mijn bestelling na 60 dagen nog retourneren?” De retourtermijn is 30 dagen, maar die staat niet in de informatie die de chatbot heeft gekregen. Zonder duidelijke instructie kan het model een antwoord geven dat gebruikelijk klinkt, zoals “Ja, je hebt 60 dagen bedenktijd.” Dat antwoord is verzonnen, en de klant gaat ervan uit dat het klopt.

Met een betere opzet krijgt de chatbot het retourbeleid als bron mee, de instructie om alleen op basis van die bron te antwoorden, en de opdracht om bij twijfel door te verwijzen naar de klantenservice. Het antwoord wordt dan: “Je kunt een bestelling binnen 30 dagen na ontvangst retourneren, volgens ons retourbeleid. Voor een uitzondering kun je contact opnemen met de klantenservice.”

Hoe herken je een hallucinatie?

• Controleer bronnen. Bestaat het artikel, de wet of de rechtszaak echt? Klopt de link?
• Let op opvallende precisie. Zeer specifieke cijfers of citaten zonder bron verdienen extra controle.
• Vraag door. Vraag het model waar de informatie vandaan komt, of stel dezelfde vraag anders. Wisselende antwoorden zijn een signaal.
• Vergelijk met de brontekst. Bij een samenvatting: staat dit echt in het document?
• Gebruik je eigen kennis. Klinkt het te mooi, te stellig of net niet helemaal juist? Ga het na.

Hoe voorkom of beperk je hallucinaties?

1. Geef betrouwbare bronnen mee. Met RAG baseert het model zijn antwoord op documenten die jij aanlevert, in plaats van op zijn eigen geheugen.
2. Vraag om bronvermelding. Laat het model per bewering aangeven uit welk document het komt.
3. Sta “ik weet het niet” toe. Geef in de instructies expliciet aan dat het model mag zeggen dat het iets niet weet of dat de bron het antwoord niet bevat.
4. Wees specifiek. Een duidelijke vraag met context laat het model minder ruimte om zelf iets aan te vullen.
5. Beperk het onderwerp. Een chatbot die alleen over je eigen producten mag praten, hallucineert minder dan een chatbot die over alles mag praten.
6. Laat controleren. Gebruik een tweede stap, door een mens of een ander model, die het antwoord toetst aan de bron.
7. Houd een mens in de loop bij antwoorden met gevolgen, zoals juridische, medische of financiële informatie.
8. Test met lastige vragen, inclusief vragen waarop het antwoord niet in de bronnen staat.
9. Houd bronnen actueel. Verouderde documenten leiden tot antwoorden die ooit klopten, maar nu niet meer.
10. Lees gesprekken terug. Steekproeven uit echte gesprekken laten zien waar het model de fout in gaat, zodat je instructies en bronnen gericht kunt verbeteren.

Hallucinaties in bedrijfstoepassingen

In een bedrijf zijn de gevolgen van een hallucinatie anders dan bij persoonlijk gebruik. Een paar situaties waarin het risico groot is:

• Klantenservice. Een chatbot die een verkeerde levertijd, prijs of voorwaarde noemt, kan leiden tot klachten of zelfs aansprakelijkheid.
• Offertes en contracten. Een AI die een clausule of bedrag verkeerd samenvat, kan tot verkeerde afspraken leiden.
• Documentverwerking. Een model dat een factuurbedrag of rekeningnummer verzint als het veld onleesbaar is, veroorzaakt fouten in de administratie.
• Rapportages. Een samenvatting die conclusies toevoegt die niet in de cijfers staan, kan tot verkeerde beslissingen leiden.
• Interne kennis. Een assistent die een procedure verkeerd uitlegt, kan leiden tot fouten in de uitvoering.

Hoe groter de gevolgen van een fout, hoe belangrijker controle, bronvermelding en een duidelijke grens van wat de AI zelfstandig mag doen.

RAG helpt, maar is niet waterdicht

RAG verkleint het risico op hallucinaties flink, omdat het model werkt met aangeleverde documenten in plaats van met zijn eigen geheugen. Toch kan het misgaan. Het zoeksysteem kan de verkeerde passage vinden, een document kan verouderd zijn, of het model kan informatie uit twee documenten verkeerd combineren. Ook kan het model iets toevoegen dat niet in de bron staat, vooral als de vraag verder gaat dan wat de bron behandelt. Daarom blijft het belangrijk om bronvermelding te tonen, zodat de gebruiker kan nagaan waar een antwoord op is gebaseerd, en om regelmatig te testen met echte vragen.

Checklist voor medewerkers die AI gebruiken

• Gebruik AI als hulpmiddel, niet als enige bron.
• Controleer feiten, cijfers, namen en bronnen voordat je ze overneemt.
• Wees extra kritisch bij juridische, medische, financiële en technische informatie.
• Geef de AI de juiste context en bronnen mee, in plaats van te vertrouwen op wat het model zelf weet.
• Vraag om bronnen, en controleer of ze bestaan.
• Deel geen vertrouwelijke gegevens met een AI-dienst zonder dat daar afspraken over zijn.
• Meld opvallende fouten, zodat instructies en bronnen kunnen worden verbeterd.

Verantwoordelijkheid en regelgeving

De zaak van Air Canada maakt duidelijk dat een organisatie verantwoordelijk blijft voor wat haar AI zegt. Je kunt je niet verschuilen achter het argument dat het de chatbot was. Daarnaast stelt de Europese AI Act eisen aan transparantie: gebruikers moeten weten dat ze met een AI-systeem communiceren. Voor toepassingen met grote gevolgen voor mensen gelden zwaardere eisen aan menselijk toezicht en documentatie. Leg daarom vast waar AI wordt ingezet, welke controles er zijn en wie verantwoordelijk is.

Kun je hallucinaties helemaal voorkomen?

Nee. Ook met de beste technieken blijft er een kans op fouten. Nieuwere modellen hallucineren in veel tests minder dan oudere, en technieken als RAG en bronvermelding verkleinen het risico flink. Toch is het verstandig om AI-toepassingen zo te ontwerpen dat een fout wordt opgemerkt voordat hij schade doet. Dat betekent: duidelijk zijn naar gebruikers dat het om AI gaat, bronnen tonen, en voor belangrijke beslissingen een mens laten meekijken.

Wat betekent dit voor jouw project?

Bij Contentooo, een workflow met intake, onderzoek, conceptgeneratie, controle, vrijgave en klantakkoord, zit controle als vaste stap in het proces. Een concept wordt niet automatisch verstuurd, maar eerst gecontroleerd en vrijgegeven. Dat is precies hoe je met het risico op hallucinaties omgaat: AI bereidt voor, een mens controleert waar een fout gevolgen heeft.

Ook bij QualiLeads, een bouwproject rond een chatwidget, geldt dat je moet ontwerpen wat er na het gesprek gebeurt. Een chatbot die een vraag niet zeker kan beantwoorden, moet het gesprek kunnen doorzetten naar iemand die het wel weet.

Wil je AI inzetten zonder dat onjuiste antwoorden bij klanten terechtkomen? Stuur me waar de AI voor moet worden gebruikt, op welke informatie hij zich moet baseren en wie meekijkt. Dan bepalen we samen de logische eerste stap.

Veelgestelde vragen over AI-hallucinaties

Wat is een AI-hallucinatie?

Een AI-hallucinatie is een antwoord van een AI-model dat overtuigend klinkt, maar onjuist, verzonnen of niet onderbouwd is, zoals een niet-bestaande bron of een verkeerd cijfer dat als waarheid wordt gepresenteerd.

Waarom hallucineert ChatGPT?

ChatGPT voorspelt welke tekst waarschijnlijk past bij een vraag, maar controleert niet of die tekst waar is. Bij gaten in de kennis of een onduidelijke vraag maakt het model daardoor soms een plausibel maar onjuist antwoord.

Hoe voorkom je AI-hallucinaties?

Je beperkt hallucinaties door betrouwbare bronnen mee te geven via RAG, om bronvermelding te vragen, het model toe te staan te zeggen dat het iets niet weet, het onderwerp te beperken en belangrijke antwoorden door een mens te laten controleren.

Verwante termen

RAG (Retrieval Augmented Generation) · Chatbot op eigen data · AI-chatbot · Prompt engineering · Large Language Model (LLM) · AI-guardrails