Wat is een LLM en welk taalmodel zit er in je AI-agent?

Een LLM, voluit large language model of in het Nederlands een groot taalmodel, is een AI-model dat getraind is op enorm veel tekst en daardoor zelf tekst kan schrijven, samenvatten, vertalen en beoordelen. ChatGPT, Claude en Gemini werken allemaal met zo’n model. Ook een AI-agent heeft er een nodig: het taalmodel doet het denkwerk, de agent voert het werk uit.

Wat is een LLM precies, hoe werkt het en waar liggen de grenzen? Dat lees je hieronder, zonder jargon. Daarna gaan we in op de vraag die voor een bedrijf het meeste telt: welk model zet je onder je AI-agent, en kies je voor een API, een abonnement of een lokaal model?

Kleine kobaltblauwe blokjes die in een rij naar een grote donkere sculptuur stromen, met één los blokje ernaast, op een matzwarte achtergrond
Een taalmodel leest tekst als een reeks kleine stukjes en voorspelt telkens het volgende stukje.

Hoe werkt een groot taalmodel?

Een taalmodel leest tekst niet als woorden, maar als tokens: kleine stukjes tekst. Dat kan een kort woord zijn, een deel van een langer woord of een leesteken. Tijdens de training kreeg het model enorme hoeveelheden tekst te zien, en leerde het telkens te voorspellen welk token waarschijnlijk volgt. Dat klinkt eenvoudig. Maar een model dat dat goed genoeg kan, kan ook een mail beantwoorden, een contract samenvatten of code schrijven.

Na die eerste training volgt een tweede stap. Het model leert instructies volgen en in een gesprek antwoorden. Daardoor kun je het gewoon iets vragen in plaats van een tekst te laten aanvullen. Het model zelf verandert daarna niet meer door wat jij typt. Het leert niet bij van jouw gesprekken, tenzij de aanbieder die later gebruikt om een nieuwe versie te trainen. Of dat gebeurt, staat in de voorwaarden van de aanbieder.

Wat is een contextvenster?

Het contextvenster is de hoeveelheid tekst die het model in één keer kan bekijken: je vraag, de eerdere berichten, de documenten die je meegeeft en het eigen antwoord. Alles daarbuiten ziet het model niet. Daarom lijkt een lang gesprek soms te “vergeten” wat helemaal in het begin stond.

Voor een AI-agent is dat venster belangrijk. Een agent leest niet alleen je vraag, maar ook bestanden, zoekresultaten en de uitvoer van tools. Volgens de documentatie van Hermes over lokale modellen met Ollama heeft Hermes minstens 64.000 tokens nodig om met tools te werken. Een model met een kleiner venster kan wel chatten, maar loopt bij echte taken snel vast.

Waarom verzint een LLM soms dingen?

Een taalmodel kiest het meest waarschijnlijke vervolg. Meestal is dat ook het juiste antwoord, maar niet altijd. Als het model iets niet weet, kan het toch een overtuigend antwoord geven. Dat heet een hallucinatie. OpenAI omschrijft hallucinaties in een publicatie van september 2025 als “plausibele maar onjuiste uitspraken die door taalmodellen worden gegenereerd” (hier vertaald). Volgens dezelfde publicatie komt dat deels doordat modellen bij training en tests beloond worden om te gokken in plaats van onzekerheid toe te geven.

Voor een bedrijf betekent dat: laat een model geen feiten uit het hoofd opzeggen als het die ook kan opzoeken. Een agent die eerst je eigen documenten, je CRM of een bron raadpleegt en die bron noemt, maakt minder fouten. En een mens blijft controleren wat naar buiten gaat, zoals een offerte, een prijs of een juridische uitspraak.

Wat is het verschil tussen een LLM en een AI-agent?

Een LLM maakt tekst. Het kan zelf geen mail versturen, geen bestand openen en geen klant opzoeken. Een AI-agent voegt daar tools, geheugen en taken aan toe. Het taalmodel beslist welke stap logisch is, de agent voert die stap uit en geeft het resultaat terug aan het model. Zo werkt bijvoorbeeld Hermes, de open-source agent waarmee Voltti werkt: Hermes regelt de tools, het geheugen en de regels, en het taalmodel kies je zelf.

Dat onderscheid is praktisch. Het model kun je vervangen zonder de agent opnieuw op te bouwen. Je skills, koppelingen en geheugen blijven, alleen het denkwerk komt van een ander model. Er zijn drie manieren om zo’n model aan je agent te koppelen.

RouteHoe het werktWat je betaaltWaar je tekst naartoe gaatPast bij

API van een modelaanbieder

Je agent stuurt elk verzoek met een API-sleutel naar de aanbieder

Per gebruik, per token

Naar de aanbieder, volgens diens voorwaarden

Wisselend gebruik en de sterkste modellen

Bestaand abonnement

Je logt in met een abonnement dat je al hebt, als de aanbieder dat toelaat

Je abonnement, soms met extra verbruikstegoed

Naar de aanbieder, volgens diens voorwaarden

Teams die al een abonnement hebben

Lokaal model

Het model draait op een computer in je eigen netwerk

De hardware en de stroom

Blijft op je eigen hardware

Gevoelige data en een terugvaloptie

Hoe kies je een model voor je AI-agent?

Er is geen beste model voor elk bedrijf. Welke route past, hangt af van je taken, je data en je budget. Bij een API betaal je per gebruik en heb je direct toegang tot de sterkste modellen. Met een abonnement gebruik je wat je al betaalt, maar wat dat abonnement precies dekt, verschilt per aanbieder. De documentatie van Hermes over modelaanbieders zet per aanbieder op een rij welke abonnementen werken en wat ze dekken. Een lokaal model draait op je eigen hardware, zodat je tekst je netwerk niet verlaat. Hermes kan zo’n model zelf beheren; de pagina over lokale modellen legt uit hoe.

Let bij elke route op drie dingen. Het model moet tools kunnen aanroepen, want een model zonder tool calling kan alleen chatten. Het contextvenster moet groot genoeg zijn voor je taken. En je moet weten wat de aanbieder met je data doet. Open-weight modellen die je lokaal kunt draaien, vind je bijvoorbeeld op Hugging Face.

Je hoeft ook niet één route te kiezen. In onze eigen Hermes-installatie bij Voltti gebruiken we cloudmodellen en lokale modellen naast elkaar, en wisselen we per taak met het commando /model. Toen een cloudmodel midden in een taak stopte, nam een lokaal model het werk over. Hoe dat werkt, lees je in een lokaal model als terugvaloptie voor je AI-agent. Twijfel je tussen de cloud en je eigen hardware, dan helpt lokale AI of cloud-AI: wat past bij je bedrijf bij die keuze. Voor de hardware zelf is er de gids over welke computer je nodig hebt voor lokale AI.

Wat betekent dit voor je bedrijf?

Een taalmodel is maar één onderdeel. Wat het voor je bedrijf oplevert, hangt af van de agent eromheen: welke tools die mag gebruiken, welke data die mag zien en wie het resultaat controleert. Voltti zet Hermes op voor bedrijven in België en Nederland en laat de keuze van het model aan jou: via een API, een abonnement of een lokaal model. Wil je dat je data in je eigen netwerk blijft, kijk dan naar lokale AI voor bedrijven.

Portretfoto van Seppe Gadeyne

Seppe Gadeyne is developer en eigenaar van Voltti. Hij richt AI-agenten in voor bedrijven in België en Nederland.

Bijgewerkt op

Veelgestelde vragen over LLM’s

01Is ChatGPT een LLM?

Niet helemaal. ChatGPT is een chatbot: een app waarin je met een taalmodel praat. Het taalmodel zelf is het LLM. ChatGPT gebruikt de modellen van OpenAI, en Claude en Gemini zijn de chatbots bij de modellen van Anthropic en Google.

02Kan een LLM lokaal draaien?

Ja. Open-weight modellen kun je downloaden en op een eigen computer draaien, zodat je tekst je netwerk niet verlaat. Voor agentwerk heb je een model nodig dat tools kan aanroepen en een groot genoeg contextvenster, en dus ook voldoende geheugen in je computer.

03Waarom verzint een LLM soms dingen?

Een taalmodel kiest het meest waarschijnlijke vervolg, ook als het het antwoord niet echt weet. Zo ontstaat een overtuigend maar fout antwoord: een hallucinatie. Laat een agent daarom bronnen opzoeken en noemen, en laat een mens controleren wat naar buiten gaat.

04Leert een LLM van mijn bedrijfsdata?

Het model verandert niet door wat je in een gesprek typt. Een aanbieder kan gesprekken wel gebruiken om een volgende versie te trainen, afhankelijk van de voorwaarden en je instellingen. Lees die dus na, of kies een lokaal model voor gevoelige data.

05Welk LLM is het beste voor een AI-agent?

Dat hangt af van je taken. Kijk of het model betrouwbaar tools aanroept, hoe groot het contextvenster is, wat het kost en waar je data naartoe gaat. Je kunt ook een sterk cloudmodel combineren met een lokaal model als terugvaloptie.

Welk model past bij jouw AI-agent?

Bespreek je pilot