Wat is een open-source LLM?

Definitie: Een open-source LLM is een groot taalmodel waarvan de gewichten, en soms ook de code en trainingsinformatie, openbaar beschikbaar zijn, zodat je het model zelf kunt downloaden, draaien en aanpassen. Bekende voorbeelden zijn Llama van Meta, de modellen van Mistral AI, Gemma van Google, Qwen van Alibaba en DeepSeek.

In het kort

• Bij een open-source LLM krijg je het model zelf in handen, in plaats van alleen toegang via de API van een aanbieder zoals OpenAI of Anthropic.
• Niet elk “open” model is echt open source: de licenties verschillen sterk, van Apache 2.0 tot eigen licenties met voorwaarden voor commercieel gebruik.
• Volgens een overzicht van n8n lopen open modellen uiteen van ongeveer 1 miljard tot honderden miljarden parameters, zoals DeepSeek V3 met 671 miljard.
• Je kiest een open model meestal voor controle, privacy, aanpasbaarheid of voorspelbare kosten, en accepteert daarbij meer eigen beheer.

Wat is een open-source LLM?

Een open-source LLM is een large language model dat je niet alleen kunt gebruiken, maar ook zelf kunt bezitten en inzetten. Bij een gesloten model, zoals GPT van OpenAI, Gemini van Google of Claude van Anthropic, stuur je een vraag naar de servers van de aanbieder en krijg je een antwoord terug. Je ziet het model zelf nooit. Bij een open model download je de modelbestanden, meestal via Hugging Face of de website van de maker, en draai je het op een server naar keuze.

Een taalmodel bestaat in de kern uit miljarden getallen: de gewichten. Die getallen zijn tijdens de training vastgelegd en bepalen hoe het model tekst voorspelt. Wie de gewichten heeft, kan het model laten draaien zonder tussenkomst van de maker. Bijna alle moderne taalmodellen bouwen voort op de transformer-architectuur, die onderzoekers van Google in 2017 beschreven in het artikel “Attention Is All You Need”. Open en gesloten modellen werken technisch dus op een vergelijkbare manier; het verschil zit vooral in wie er toegang toe heeft en onder welke voorwaarden.

Open source, open weights of gesloten: wat is het verschil?

De term open source wordt in de AI-wereld ruim gebruikt. Bij gewone software betekent open source dat de broncode openbaar is en dat je die mag gebruiken, aanpassen en verspreiden. Bij taalmodellen ligt het ingewikkelder, omdat een model meer is dan code: er horen ook gewichten, trainingsdata en trainingsmethoden bij.

Veel modellen die als open source worden aangeduid, zijn strikt genomen open weights: je mag de gewichten gebruiken, maar niet alles over de training is openbaar en de licentie stelt voorwaarden. Voor de meeste bedrijfstoepassingen is dat geen probleem, zolang je de licentie leest voordat je het model in een product verwerkt.

Welke open-source LLM’s zijn er?

Het aanbod verandert snel, maar een aantal families komt in vrijwel elk overzicht terug. Onderstaande tabel is gebaseerd op het overzicht van n8n; controleer voor actuele versies altijd de model card van de maker.

Daarnaast zijn er oudere en gespecialiseerde modellen. AI21 noemt onder meer GPT-J en GPT-Neo van EleutherAI, BLOOM van BigScience en StableLM van Stability AI. StarCoder is gericht op programmeercode; andere modellen zijn getraind voor een specifiek domein, zoals financiële analyse. Red Hat wijst op de Granite-modellen, die het in zijn eigen AI-platform gebruikt.

Let op het verschil in licenties. Command R valt volgens het overzicht onder een niet-commerciële licentie, terwijl StarCoder2 en een deel van Qwen onder Apache 2.0 vallen. Dat bepaalt of je een model zonder meer in een betaald product mag gebruiken.

Hoe werkt een open-source LLM in de praktijk?

Het gebruik van een open model verloopt in een paar stappen:

1. Model kiezen. Je kiest een model op basis van taak, taal, grootte en licentie.
2. Gewichten downloaden. De modelbestanden staan meestal op Hugging Face, vaak in meerdere varianten en formaten.
3. Draaiomgeving kiezen. Je draait het model op een eigen server, een gehuurde GPU-server of bij een cloudaanbieder die open modellen host.
4. Model laden. Het model moet in het werkgeheugen of het videogeheugen passen. Volgens n8n hangt de benodigde hoeveelheid af van de grootte, de compressie (kwantisatie) en het gebruik.
5. Aanroepen vanuit je applicatie. Je applicatie stuurt vragen naar het model via een interne API, net zoals bij een commercieel model.
6. Eventueel aanpassen. Met fine-tuning of met retrieval-augmented generation (RAG) maak je het model geschikter voor je eigen taak of gegevens.

Kleine modellen draaien volgens n8n al op een systeem met ongeveer 4 GB vrij geheugen, terwijl de grootste modellen zware serverhardware nodig hebben. Fine-tuning vraagt meer geheugen dan alleen gebruiken, omdat tussenstappen tijdelijk worden opgeslagen.

Waar draai je een open model?

Een open-source LLM betekent niet automatisch dat het model op je eigen kantoor staat. Er zijn grofweg drie routes:

De laatste route, een lokale LLM, heeft een eigen artikel in de kennisbank. Voor veel bedrijven is een gehoste versie of een eigen cloudserver in de EU een praktische tussenweg: je hebt de voordelen van een open model zonder dat je zelf hardware hoeft te kopen.

Voordelen van een open-source LLM

• Controle. Je bepaalt welk model en welke versie je gebruikt. Een aanbieder kan een model niet zomaar aanpassen of uitfaseren.
• Privacy en gegevenslocatie. Draai je het model zelf, dan bepaal je waar de gegevens worden verwerkt.
• Aanpasbaarheid. Je kunt het model fine-tunen op eigen voorbeelden of combineren met eigen kennis.
• Geen vendor lock-in. Je bent minder afhankelijk van de prijzen en voorwaarden van één partij.
• Transparantie. De gewichten zijn te onderzoeken, en bij volledig open modellen ook de trainingsaanpak.
• Kostenbeheersing bij veel gebruik. Bij grote volumes kan een eigen server voorspelbaarder zijn dan betalen per aanroep.

Nadelen en risico’s

• Beheer. Hosting, beveiliging, updates en monitoring zijn je eigen verantwoordelijkheid.
• Hardwarekosten. Grotere modellen vragen GPU’s met veel geheugen. Volgens n8n is een server met GPU sneller maar duurder; een server zonder GPU begint bij ongeveer 20 dollar per maand, maar is alleen geschikt voor kleinere modellen.
• Kwaliteit. De grootste gesloten modellen presteren bij complexe taken vaak beter dan open modellen die op betaalbare hardware passen.
• Licentievoorwaarden. Sommige licenties beperken commercieel gebruik of stellen eisen bij een groot aantal gebruikers.
• Onjuiste of bevooroordeelde uitvoer. Red Hat noemt het risico op onnauwkeurige of bevooroordeelde antwoorden. Dat geldt voor elk taalmodel, open of gesloten.
• Veiligheid. Zonder ingebouwde filters van een aanbieder moet je zelf zorgen voor guardrails tegen misbruik en ongewenste uitvoer.

Wat kost een open-source LLM?

Het model zelf is meestal gratis te downloaden. De kosten zitten in het draaien en beheren. Grofweg zijn er drie kostenposten:

Bij een gehoste API van een open model betaal je per gebruik, net als bij een gesloten model, vaak tegen een lager tarief. Bij een eigen server betaal je vast, ongeacht het gebruik. Bij weinig gebruik is een API vaak goedkoper; bij intensief en voorspelbaar gebruik kan een eigen server gunstiger zijn. Reken daarom met je verwachte aantal aanvragen en de lengte van teksten, en tel de tijd voor beheer mee.

Hoe kies je het juiste open model?

1. Begin bij de taak. Samenvatten, classificeren, vragen beantwoorden op eigen documenten of code schrijven vragen elk iets anders.
2. Kijk naar de taal. Niet elk model is even goed in het Nederlands. Test met echte voorbeelden uit je eigen werk.
3. Lees de licentie. Controleer of commercieel gebruik is toegestaan en welke voorwaarden er gelden.
4. Kies de kleinste die volstaat. Een kleiner model is sneller en goedkoper. Begin klein en schaal pas op als de kwaliteit tekortschiet.
5. Bepaal waar het draait. Gehost, eigen cloudserver of on-premise, afhankelijk van privacy, budget en kennis.
6. Vergelijk met een gesloten model. Leg dezelfde testvragen voor aan een commercieel model. Zo zie je of het verschil in kwaliteit opweegt tegen de voordelen van een open model.
7. Regel evaluatie en beveiliging. Bepaal hoe je de kwaliteit blijft meten en welke grenzen het model moet respecteren.

Veelgemaakte fouten

• Open gelijkstellen aan gratis. Het model is gratis, de server, het beheer en de ontwikkeling niet.
• De licentie overslaan. Een niet-commerciële licentie in een betaald product is een juridisch risico.
• Het grootste model kiezen. Groter is niet altijd beter voor een afgebakende taak, en wel duurder.
• Alleen in het Engels testen. Prestaties in het Nederlands kunnen flink afwijken.
• Geen plan voor updates. Nieuwe versies verschijnen snel. Leg vast welke versie je gebruikt en hoe je overstapt.

Wat betekent dit voor jouw project?

Bij een nieuw idee onderzoek ik eerst of een bestaand pakket, een koppeling of maatwerk het beste past. Bij AI-toepassingen hoort daar ook de keuze voor een model bij. Een open-source LLM is daarin een serieuze optie, maar geen doel op zich. De vraag is wie de toepassing gaat gebruiken, welke taak die persoon als eerste moet kunnen afronden en welke gegevens daarvoor door het model gaan.

Ik wil vooraf duidelijk hebben wat we met een eerste versie bedoelen. Vaak is het verstandig om te beginnen met een model via een API, zodat je snel ziet of de toepassing werkt. Als blijkt dat privacy, kosten of afhankelijkheid zwaar wegen, is de overstap naar een open model een logische volgende stap. Een applicatie die het model via een eigen tussenlaag aanroept, maakt die overstap later eenvoudiger.

Twijfel je tussen een open model en een commerciële AI-dienst? Stuur me voor wie de toepassing is, welke gegevens erin gaan en wat de eerste versie moet oplossen. Dan bepalen we samen de logische eerste stap. Lees ook hoe ik werk bij het laten maken van een webapplicatie.

Veelgestelde vragen over open-source LLM’s

Wat is een open-source LLM?

Een open-source LLM is een groot taalmodel waarvan de gewichten openbaar beschikbaar zijn, zodat je het zelf kunt downloaden, draaien en aanpassen. Bekende voorbeelden zijn Llama van Meta, Mistral, Gemma, Qwen en DeepSeek.

Is Llama echt open source?

Llama is strikt genomen een open-weights model. De gewichten zijn te downloaden, maar Meta gebruikt een eigen licentie met voorwaarden, en niet alle trainingsinformatie is openbaar.

Is een open-source LLM gratis?

Het model zelf is meestal gratis te downloaden. De kosten zitten in de server of cloudomgeving waarop het draait, in het beheer en in het koppelen aan je applicatie.

Verwante termen

Lokale LLM · Fine-tuning · RAG · Vendor lock-in · Datasoevereiniteit en EU-hosting · Prompt engineering