Hoe werkt een groot taalmodel?
Een taalmodel leest tekst niet als woorden, maar als tokens: kleine stukjes tekst. Dat kan een kort woord zijn, een deel van een langer woord of een leesteken. Tijdens de training kreeg het model enorme hoeveelheden tekst te zien, en leerde het telkens te voorspellen welk token waarschijnlijk volgt. Dat klinkt eenvoudig. Maar een model dat dat goed genoeg kan, kan ook een mail beantwoorden, een contract samenvatten of code schrijven.
Na die eerste training volgt een tweede stap. Het model leert instructies volgen en in een gesprek antwoorden. Daardoor kun je het gewoon iets vragen in plaats van een tekst te laten aanvullen. Het model zelf verandert daarna niet meer door wat jij typt. Het leert niet bij van jouw gesprekken, tenzij de aanbieder die later gebruikt om een nieuwe versie te trainen. Of dat gebeurt, staat in de voorwaarden van de aanbieder.
Wat is een contextvenster?
Het contextvenster is de hoeveelheid tekst die het model in één keer kan bekijken: je vraag, de eerdere berichten, de documenten die je meegeeft en het eigen antwoord. Alles daarbuiten ziet het model niet. Daarom lijkt een lang gesprek soms te “vergeten” wat helemaal in het begin stond.
Voor een AI-agent is dat venster belangrijk. Een agent leest niet alleen je vraag, maar ook bestanden, zoekresultaten en de uitvoer van tools. Volgens de documentatie van Hermes over lokale modellen met Ollama heeft Hermes minstens 64.000 tokens nodig om met tools te werken. Een model met een kleiner venster kan wel chatten, maar loopt bij echte taken snel vast.
Waarom verzint een LLM soms dingen?
Een taalmodel kiest het meest waarschijnlijke vervolg. Meestal is dat ook het juiste antwoord, maar niet altijd. Als het model iets niet weet, kan het toch een overtuigend antwoord geven. Dat heet een hallucinatie. OpenAI omschrijft hallucinaties in een publicatie van september 2025 als “plausibele maar onjuiste uitspraken die door taalmodellen worden gegenereerd” (hier vertaald). Volgens dezelfde publicatie komt dat deels doordat modellen bij training en tests beloond worden om te gokken in plaats van onzekerheid toe te geven.
Voor een bedrijf betekent dat: laat een model geen feiten uit het hoofd opzeggen als het die ook kan opzoeken. Een agent die eerst je eigen documenten, je CRM of een bron raadpleegt en die bron noemt, maakt minder fouten. En een mens blijft controleren wat naar buiten gaat, zoals een offerte, een prijs of een juridische uitspraak.
Wat is het verschil tussen een LLM en een AI-agent?
Een LLM maakt tekst. Het kan zelf geen mail versturen, geen bestand openen en geen klant opzoeken. Een AI-agent voegt daar tools, geheugen en taken aan toe. Het taalmodel beslist welke stap logisch is, de agent voert die stap uit en geeft het resultaat terug aan het model. Zo werkt bijvoorbeeld Hermes, de open-source agent waarmee Voltti werkt: Hermes regelt de tools, het geheugen en de regels, en het taalmodel kies je zelf.
Dat onderscheid is praktisch. Het model kun je vervangen zonder de agent opnieuw op te bouwen. Je skills, koppelingen en geheugen blijven, alleen het denkwerk komt van een ander model. Er zijn drie manieren om zo’n model aan je agent te koppelen.