Definitie: AI-guardrails zijn controles en regels rond een AI-systeem die bepalen welke invoer het model krijgt, welke uitvoer het mag geven en welke acties het mag uitvoeren. Ze beschermen gebruikers en organisaties tegen onder meer schadelijke inhoud, gelekte gegevens, verzonnen antwoorden en ongewenste handelingen.
In het kort
- AI-guardrails werken als vangrails: ze laten het AI-systeem zijn werk doen, maar houden het binnen afgesproken grenzen.
- Ze zitten op meerdere plekken: bij de invoer, bij de uitvoer, bij de acties die een AI-agent uitvoert en in het toezicht door mensen.
- Bekende hulpmiddelen zijn Guardrails AI, NVIDIA NeMo Guardrails, Llama Guard van Meta, Amazon Bedrock Guardrails en Azure AI Content Safety.
- Volgens DataCamp voegen moderne guardrailsystemen ongeveer 50 tot 200 milliseconden vertraging toe per aanvraag.
Wat zijn AI-guardrails?
AI-guardrails zijn de veiligheidsmaatregelen die je om een AI-toepassing heen bouwt. Een taalmodel zoals GPT, Claude of Llama is krachtig, maar onvoorspelbaar: dezelfde vraag levert niet altijd hetzelfde antwoord op, en een model kan overtuigend klinkende onzin produceren, gevoelige gegevens herhalen of ingaan op een vraag die buiten zijn taak valt. Guardrails vangen dat op.
De term komt van de vangrail langs de snelweg. Die bepaalt niet waar je heen rijdt, maar voorkomt dat je van de weg raakt. Zo werken AI-guardrails ook: ze sturen niet elk antwoord, maar grijpen in als het systeem buiten de afgesproken grenzen dreigt te gaan.
Guardrails zijn geen onderdeel van het taalmodel zelf. Aanbieders bouwen wel eigen veiligheidsfilters in hun modellen, maar die zijn algemeen. Een bedrijf dat AI inzet in een eigen toepassing, heeft daarnaast eigen regels nodig: over welke onderwerpen de assistent praat, welke gegevens nooit naar buiten mogen en welke acties alleen na goedkeuring mogen gebeuren.
Waarom zijn AI-guardrails nodig?
Zonder guardrails kan een AI-toepassing op verschillende manieren misgaan. Een bekend voorbeeld is de chatbot Tay, die Microsoft in 2016 op Twitter lanceerde. Volgens Unite.AI ging Tay binnen enkele uren aanstootgevende berichten plaatsen, nadat gebruikers hem bewust met haatdragende invoer hadden gevoed.
De risico’s waartegen guardrails beschermen:
- Schadelijke of ongepaste inhoud, zoals beledigingen, discriminatie of gevaarlijk advies.
- Gelekte gegevens. Een model kan persoonsgegevens of vertrouwelijke informatie uit zijn context in een antwoord verwerken.
- Hallucinaties. Het model verzint feiten, bronnen of cijfers die niet kloppen.
- Prompt injection en jailbreaks. Gebruikers of documenten proberen het model met slimme instructies zijn regels te laten negeren.
- Ongewenste acties. Een AI-agent die e-mails verstuurt, bestellingen plaatst of gegevens wijzigt, kan iets doen wat niet de bedoeling was.
- Afwijken van het doel. Een klantenservicebot die ineens juridisch of medisch advies geeft, of praat over onderwerpen die niets met het bedrijf te maken hebben.
IBM wijst in zijn uitleg op cijfers uit het eigen Cost of a Data Breach Report 2025: volgens dat rapport vond 97 procent van de AI-gerelateerde datalekken plaats in omgevingen zonder goede toegangscontrole. Guardrails zijn daarmee niet alleen een kwestie van fatsoenlijke antwoorden, maar ook van beveiliging.
Welke soorten AI-guardrails zijn er?
McKinsey deelt guardrails in naar het risico waartegen ze beschermen:
| Soort | Waar het tegen beschermt | Voorbeeld |
|---|---|---|
| Gepastheid | Schadelijke, beledigende of bevooroordeelde inhoud | Een filter dat grof taalgebruik of discriminerende uitspraken tegenhoudt |
| Hallucinatie | Feitelijke fouten en verzonnen informatie | Controle of een antwoord steun vindt in de aangeleverde documenten |
| Regelgeving | Strijdigheid met wet- en regelgeving | Geen persoonlijk financieel advies zonder de vereiste toetsing |
| Afstemming | Antwoorden die niet passen bij merk, toon of doel | De assistent blijft bij vragen over het eigen product |
| Validatie | Uitvoer die niet aan specifieke eisen voldoet | Controle of een gegenereerd document alle verplichte velden bevat |
IBM kijkt vooral naar de plek in het systeem: guardrails op de gegevenslaag, de modellaag, de applicatielaag en de infrastructuur, met AI-governance als basis daaronder. Salesforce onderscheidt ethische, operationele en technische guardrails. De indelingen verschillen, maar komen op hetzelfde neer: je hebt controles nodig op wat erin gaat, wat eruit komt en wat het systeem mag doen.
Hoe werken AI-guardrails?
Een guardrailsysteem bestaat volgens McKinsey uit vier onderdelen:
- Checker. Controleert invoer of uitvoer, bijvoorbeeld op persoonsgegevens, scheldwoorden of onderwerpen buiten de taak.
- Corrector. Past de uitvoer aan als de checker iets vindt, bijvoorbeeld door een naam of telefoonnummer te maskeren.
- Rail. De beleidsregels zelf, vaak vastgelegd in een configuratiebestand.
- Guard. Coördineert het geheel, beslist of een antwoord wordt doorgelaten, aangepast of geweigerd en legt vast wat er gebeurde.
In een applicatie zien de stappen er zo uit:
- Een gebruiker stelt een vraag.
- Invoercontrole: de vraag wordt gecontroleerd op prompt injection, gevoelige gegevens en onderwerpen buiten de taak.
- Het taalmodel maakt een antwoord.
- Uitvoercontrole: het antwoord wordt gecontroleerd op ongepaste inhoud, gelekte gegevens en aansluiting bij de bronnen.
- Actiecontrole: wil het systeem iets uitvoeren, zoals een bericht versturen of een record wijzigen, dan wordt eerst gecontroleerd of dat is toegestaan, en soms is goedkeuring van een mens nodig.
- Logging: alles wordt vastgelegd, zodat achteraf te zien is wat er gebeurde en waarom.
Regels of AI: deterministische en probabilistische guardrails
Er zijn twee manieren om te controleren. DataCamp zet ze naast elkaar:
| Deterministisch (regels) | Probabilistisch (AI-model) | |
|---|---|---|
| Hoe | Vaste regels, lijsten en patronen | Een apart model beoordeelt de tekst |
| Voorbeeld | Een IBAN-patroon herkennen en maskeren | Beoordelen of een antwoord kwetsend of misleidend is |
| Voordeel | Voorspelbaar, snel en goed uit te leggen | Herkent nuance en nieuwe varianten |
| Nadeel | Mist alles wat niet in de regels staat | Kan zich vergissen en is minder voorspelbaar |
DataCamp adviseert voor productiesystemen een combinatie. Gebruik vaste regels voor wat precies te omschrijven is, zoals formaten van gegevens en toegestane acties, en een model voor wat context vraagt, zoals toon en gepastheid.
Welke tools zijn er voor AI-guardrails?
| Tool | Maker | Kenmerk |
|---|---|---|
| Guardrails AI | Open source project | Validatie van uitvoer met een eigen specificatietaal en een verzameling kant-en-klare controles |
| NeMo Guardrails | NVIDIA | Open source, gericht op gesprekken, met de eigen taal Colang |
| Llama Guard | Meta | Open source veiligheidsmodel dat invoer en uitvoer classificeert |
| Amazon Bedrock Guardrails | Amazon Web Services | Beheerde dienst binnen het AWS-platform |
| Azure AI Content Safety | Microsoft | Beheerde dienst met ernstniveaus en detectie van jailbreaks |
| OpenAI Moderation | OpenAI | Controle van tekst op schadelijke categorieën |
Een tool lost niet alles op. De regels zelf, welke onderwerpen wel en niet, welke acties na goedkeuring, welke gegevens nooit naar buiten, moet je als organisatie zelf bepalen.
Voorbeelden van AI-guardrails in de praktijk
Guardrails zien er per sector en toepassing anders uit. De bronnen noemen onder meer deze voorbeelden:
| Situatie | Guardrail | Bron |
|---|---|---|
| Bank met een AI-chatbot | Gevoelige informatie en riskant advies worden gefilterd, zodat de chatbot binnen de regels blijft | McKinsey over ING |
| Klantenservice van een telecombedrijf | Een boze of gefrustreerde klant wordt doorgezet naar een medewerker | DataCamp |
| Zorg | Patiëntgegevens worden afgeschermd en de uitvoer wordt getoetst aan privacyregels | DataCamp, Salesforce |
| Financiële dienstverlening | Beslissingen boven een drempelwaarde gaan naar een mens ter beoordeling | Salesforce |
| Juridische diensten | Uitvoer met juridische gevolgen loopt eerst via een beoordelaar | Salesforce |
Het patroon is steeds hetzelfde. De AI doet het voorbereidende werk, de guardrail bewaakt de grens, en waar de gevolgen groot zijn beslist een mens.
Guardrails bij een chatbot op eigen data
Veel bedrijven beginnen met een chatbot die vragen beantwoordt op basis van eigen documenten, zoals handleidingen, voorwaarden of een kennisbank. Ook daar zijn guardrails nodig, maar met eigen accenten:
- Alleen antwoorden uit de bronnen. Laat de chatbot aangeven dat hij het antwoord niet weet als de documenten geen antwoord bevatten, in plaats van iets te verzinnen.
- Bronvermelding tonen. Laat zien uit welk document een antwoord komt, zodat de gebruiker het kan controleren.
- Rechten respecteren. Een medewerker of klant mag via de chatbot alleen informatie zien waar hij ook zonder chatbot toegang toe heeft.
- Instructies in documenten negeren. Een geüpload document kan tekst bevatten die het model probeert te sturen. Behandel inhoud van documenten als gegevens, niet als opdracht.
- Doorverwijzen. Bij vragen buiten de taak, klachten of twijfel verwijst de chatbot naar een medewerker.
Wat kosten AI-guardrails?
Er zijn geen vaste prijzen voor guardrails, omdat ze uit verschillende onderdelen bestaan. Open source tools zoals Guardrails AI, NeMo Guardrails en Llama Guard zijn gratis te gebruiken, maar vragen tijd om in te richten en een server om op te draaien. Beheerde diensten van AWS en Microsoft rekenen per gebruik. Daarnaast kost elke extra controle met een taalmodel rekenkracht en tijd. Volgens DataCamp gaat het om ongeveer 50 tot 200 milliseconden per aanvraag. De grootste kostenpost is meestal niet de tool, maar het bepalen, testen en bijhouden van de regels.
Guardrails bij AI-agents
Bij een chatbot gaat het vooral om tekst. Bij een AI-agent, die zelfstandig taken uitvoert, gaat het ook om handelingen. Salesforce wijst erop dat een inhoudsfilter dan niet genoeg is: je moet ook bepalen welke tools en gegevensbronnen een agent mag gebruiken en wanneer een mens moet meekijken.
Praktische guardrails voor agents:
- Beperk de rechten. Een agent krijgt alleen toegang tot de systemen en gegevens die voor zijn taak nodig zijn.
- Maak onderscheid tussen voorbereiden en uitvoeren. Laat de agent een voorstel doen en laat een mens het versturen of goedkeuren.
- Stel drempels in. Boven een bepaald bedrag, aantal of risico gaat de beslissing naar een mens.
- Leg alles vast. Een logboek laat zien welke actie de agent uitvoerde, op basis van welke informatie.
- Bouw een noodrem. Het moet mogelijk zijn een agent direct stil te zetten.
Guardrails en regelgeving
Guardrails helpen ook bij het naleven van regels. DataCamp en IBM noemen de Europese AI-verordening (AI Act), die voor AI-systemen met een hoog risico technische en organisatorische maatregelen verplicht stelt. Daarnaast speelt de AVG een rol zodra persoonsgegevens door een AI-systeem gaan. Guardrails zijn geen vervanging van een juridische toets, maar maken de afspraken uit beleid en wetgeving wel controleerbaar in de software zelf.
Zo zet je AI-guardrails op
- Beschrijf de taak. Wat moet de AI-toepassing doen, en wat uitdrukkelijk niet?
- Breng de risico’s in kaart. Welke gegevens gaan erin, wie leest de uitvoer en welke acties kan het systeem uitvoeren?
- Kies de controles. Bepaal per risico of een vaste regel, een controlemodel of menselijke goedkeuring past.
- Test met lastige invoer. Probeer het systeem bewust te misleiden met jailbreakpogingen, vragen buiten de taak en gevoelige gegevens.
- Meet en stel bij. Houd bij hoe vaak een guardrail ingrijpt en of dat terecht was. Te strenge regels blokkeren nuttige antwoorden; te losse regels laten fouten door.
- Beheer de guardrails als onderdeel van de applicatie. Nieuwe functies, modellen en risico’s vragen om aanpassing van de regels.
Veelgemaakte fouten
- Vertrouwen op het model alleen. De ingebouwde filters van een aanbieder zijn algemeen en kennen jouw bedrijfsregels niet.
- Alleen de uitvoer controleren. Ook invoer en acties vragen controle, zeker bij agents.
- Te streng afstellen. Een assistent die bij elke tweede vraag weigert, wordt niet gebruikt.
- Geen logging. Zonder vastlegging kun je niet nagaan wat er misging.
- Eenmalig instellen. Guardrails moeten mee veranderen met het gebruik en met nieuwe manieren van misbruik.
- Geen eigenaar. Iemand moet verantwoordelijk zijn voor de regels, de meldingen en het bijstellen ervan. Anders blijft een melding liggen en weet niemand of een blokkade terecht was.
- Gebruikers niet informeren. Leg uit waarom een vraag niet wordt beantwoord en waar iemand dan wel terechtkan, zodat een weigering niet als fout voelt.
Wat betekent dit voor jouw project?
Bij AI-toepassingen kijk ik eerst naar het proces: wat komt binnen, wie moet ermee verder en welke informatie heeft die persoon nodig? Daaruit volgt vanzelf waar een controle hoort. Een AI die een concept voorbereidt, vraagt andere grenzen dan een AI die zelfstandig iets verstuurt.
Bij Elevtr, mijn eigen live LinkedIn-software voor het voorbereiden en publiceren van content, is de bouwles het onderscheid tussen input, voorstel, keuze en uitvoering. Een gebruiker moet begrijpen wat de software voorbereidt en wat er daadwerkelijk wordt gepubliceerd. Bij Marketooo, een eigen platform in actieve ontwikkeling rond onder meer campagnes en Meta Ads, is de les vergelijkbaar: maak verantwoordelijkheden zichtbaar voordat een systeem iets uitvoert. Dat zijn in de kern ook guardrails: duidelijke grenzen tussen wat het systeem doet en wat een mens beslist.
Wil je AI inzetten in een proces, maar wel grip houden op wat er gebeurt? Stuur me wat de toepassing moet doen, welke gegevens erin gaan en wie het resultaat gebruikt. Dan bepalen we samen waar de grenzen liggen en wat een logische eerste versie is.
Veelgestelde vragen over AI-guardrails
Wat zijn AI-guardrails?
AI-guardrails zijn controles en regels rond een AI-systeem die bepalen welke invoer het model krijgt, welke uitvoer het mag geven en welke acties het mag uitvoeren. Ze beschermen tegen schadelijke inhoud, gelekte gegevens, hallucinaties en ongewenste handelingen.
Welke tools zijn er voor AI-guardrails?
Bekende tools zijn Guardrails AI, NVIDIA NeMo Guardrails, Llama Guard van Meta, Amazon Bedrock Guardrails en Azure AI Content Safety. De regels zelf moet een organisatie nog steeds zelf bepalen.
Maken AI-guardrails een toepassing trager?
Guardrails voegen een kleine vertraging toe, omdat invoer en uitvoer extra worden gecontroleerd. Volgens DataCamp gaat het bij moderne systemen om ongeveer 50 tot 200 milliseconden per aanvraag.
Verwante termen
AI-hallucinatie · AI-agent · Agentic AI · Prompt engineering · Privacy by design · AI-chatbot
← Terug naar de kennisbank