Wat is een LLM? Large language models uitgelegd (2026)

Een large language model (LLM) is een neuraal netwerk dat is getraind op enorme hoeveelheden tekst om het volgende token in een reeks te voorspellen. Dit ene doel verklaart alles wat een chatbot kan: vragen beantwoorden, code schrijven, documenten samenvatten en vertalen. Tools als ChatGPT, Claude en Gemini zijn gebouwd op dit soort modellen.

Deze gids behandelt de bouwstenen in volgorde: tokens, training, parameters, contextvensters, hallucinaties en het verschil tussen open en gesloten modellen. Modelnamen, prijzen en limieten veranderen snel. De cijfers hieronder zijn daarom gedateerd, dus controleer de eigen documentatie van de aanbieders voor actuele getallen.

Wat is een LLM, en wat maakt het “groot”?

“Groot” verwijst naar twee zaken. Ten eerste de omvang van de trainingsdata. Ten tweede het aantal aanpasbare interne waarden, de zogenoemde parameters. Ter illustratie: Meta zei in april 2024 dat Llama 3 is getraind op meer dan 15 biljoen tokens.

Bijna elk modern LLM is gebaseerd op de Transformer-architectuur. Onderzoekers van Google introduceerden die in het juni 2017-paper “Attention Is All You Need”. Het kernidee is self-attention, waarmee het model bij elk onderdeel van de tekst bepaalt hoe relevant alle andere delen zijn.

Wat zijn tokens in een LLM?

Modellen lezen geen woorden. Ze lezen tokens, stukjes subwoorden die worden gemaakt met algoritmen zoals byte-pair encoding (BPE). Een gangbaar woord kan één token zijn, terwijl een zeldzaam woord in meerdere stukken wordt gesplitst.

De vuistregel van OpenAI voor Engels is dat één token ongeveer vier tekens is, of grofweg driekwart woord. Op die basis komen 100 tokens neer op ongeveer 75 woorden.

De verhouding verschilt per taal. Agglutinerende talen zoals Turks, waarin lange woorden uit veel achtervoegsels bestaan, worden doorgaans in meer tokens gesplitst dan Engelse tekst met dezelfde betekenis. Onderzoek zoals dat van Petrov et al. (2023) heeft dit soort tokenizer-ongelijkheid tussen talen gedocumenteerd, al hebben nieuwere tokenizers het verschil verkleind.

Tokens zijn belangrijk omdat API-gebruik meestal wordt gefactureerd per miljoen input- en outputtokens, waarbij output duurder is dan input. Meer tokens betekent hogere kosten en een contextvenster dat sneller vol raakt. Prijzen veranderen vaak, dus controleer de prijspagina's van OpenAI, Anthropic of Google voor de actuele tarieven.

Hoe worden large language models getraind?

Training verloopt meestal in fasen. De eerste is pre-training. Het model leert dan door het volgende token te voorspellen over biljoenen tokens aan webtekst, boeken en code, een methode die bekendstaat als self-supervised learning. Het resultaat begrijpt taal, maar gedraagt zich nog niet als assistent.

Daarna volgt fine-tuning, of instructietraining, waarbij het model voorbeelden van goede antwoorden krijgt te zien. Vervolgens komt alignment. De bekendste alignmentmethode is reinforcement learning from human feedback (RLHF), populair gemaakt door het InstructGPT-paper van OpenAI uit 2022. Constitutional AI van Anthropic, ook uit 2022, is een variant van deze aanpak.

Sinds ongeveer eind 2024 zijn redeneermodellen aan het palet toegevoegd. Voorbeelden zijn OpenAI o1 en DeepSeek-R1, dat in januari 2025 uitkwam. Deze modellen worden met reinforcement learning getraind om een probleem eerst uit te werken voordat ze antwoorden, en ze gebruiken daarvoor extra rekenkracht op het moment van antwoorden.

Trainingskosten zijn moeilijk vast te stellen. Grote frontier-runs zouden tientallen tot honderden miljoenen dollars kosten, maar dat zijn schattingen en geen officiële cijfers. Het veelgeciteerde bedrag van ongeveer 5,6 miljoen dollar voor DeepSeek V3 dekt alleen de GPU-uren van de laatste trainingsrun, niet de totale kosten, en het wordt betwist.

Wat zijn parameters, en betekent groter beter?

Parameters zijn de numerieke gewichten die een model tijdens training leert. Enkele referentiepunten: GPT-2 had in 2019 1,5 miljard, en GPT-3 had in 2020 175 miljard. Metas Llama 3.1, uitgebracht in juli 2024, kwam in de formaten 8B, 70B en 405B.

Sommige modellen gebruiken een Mixture-of-Experts (MoE)-ontwerp, waarbij voor elk token slechts een deel van het netwerk draait. DeepSeek-V3 heeft in totaal 671 miljard parameters, maar per token zijn er maar ongeveer 37 miljard actief.

OpenAI, Anthropic en Google maken het aantal parameters van hun vlaggenschipmodellen niet bekend. Cijfers zoals “GPT-4 heeft 1,76 biljoen parameters” zijn niet-bevestigde lekken.

Omvang is ook niet alles, want datakwaliteit en trainingsmethoden zijn erg belangrijk. De “Chinchilla”-studie uit 2022 wees uit dat compute-optimale training ongeveer 20 tokens per parameter gebruikt. Moderne modellen worden bewust veel verder dan die verhouding getraind.

Wat is een contextvenster?

Het contextvenster is het maximale aantal tokens dat een model tegelijk kan meenemen. Het omvat je prompt, het gesprek tot dan toe en het antwoord van het model. Zie het als werkgeheugen en niet als langetermijngeheugen.

Contextvensters zijn snel gegroeid. GPT-3 verwerkte 2.048 tokens, en het oorspronkelijke GPT-4 bood versies met 8K en 32K. Latere releases adverteerden 200K voor Claude (in sommige versies tot 1M), 1 tot 2 miljoen voor Gemini 1.5 en 2.x, en 1 miljoen voor GPT-4.1. In april 2025 claimde Meta 10 miljoen voor Llama 4 Scout. Deze getallen veranderen bij elke release, dus controleer de actuele documentatie.

Een groot geadverteerd venster garandeert niet dat het model het volledig goed gebruikt. In de studie “Lost in the Middle” van Liu et al. uit 2023 bleek dat de nauwkeurigheid kan dalen voor informatie die in het midden van lange invoer verborgen zit.

Waarom hallucineren LLM's?

Een hallucinatie is output die vloeiend klinkt maar onwaar of verzonnen is, zoals nepbronnen, verkeerde feiten of niet-bestaande rechtszaken. Dit gebeurt omdat het model aannemelijke tekst genereert in plaats van feiten op te zoeken. Een paper van OpenAI uit september 2025 stelt dat training en evaluatie het gokken belonen boven het toegeven van onzekerheid.

Een bekend voorbeeld is Mata v. Avianca (VS, 2023). Advocaten in die zaak kregen sancties omdat ze rechtszaakverwijzingen hadden ingediend die ChatGPT had verzonnen, en er zijn sindsdien veel vergelijkbare incidenten geweest.

Retrieval-augmented generation (RAG), webzoekverificatie, bronvermeldingen en redeneermodellen verminderen het probleem, maar geen enkele oplossing elimineert het. De systeemkaart van OpenAI voor o3 en o4-mini uit april 2025 meldde zelfs hogere hallucinatiepercentages voor sommige redeneermodellen op de PersonQA-test. Percentages verschillen per benchmark en worden betwist, dus wees voorzichtig met claims over één getal.

Open versus gesloten LLM's: wat is het verschil?

Bij gesloten, of propriëtaire, modellen worden de gewichten niet vrijgegeven, dus je kunt ze alleen gebruiken via een app of API. De GPT-serie van OpenAI, Claude van Anthropic, Gemini van Google en Grok van xAI vallen in deze groep. xAI heeft echter wel enkele oudere Grok-gewichten vrijgegeven.

Modellen met open gewichten kunnen worden gedownload, lokaal worden gedraaid en worden gefinetuned. Voorbeelden zijn Meta Llama, Mistral, DeepSeek, Qwen van Alibaba, Gemma van Google en gpt-oss van OpenAI, dat in augustus 2025 onder Apache 2.0 verscheen.

Open gewichten zijn niet hetzelfde als open source. De Open Source AI Definition 1.0 van de Open Source Initiative, gepubliceerd in oktober 2024, vereist veel bredere openheid, ook over trainingsdata. De OSI stelt dat de licentie van Llama niet als open source kwalificeert.

In de praktijk bieden modellen met open gewichten privacy, lokale controle en maatwerk. Gesloten modellen liepen qua ruwe capaciteit meestal voorop, al werd het verschil in 2025 kleiner. Ranglijsten zoals LMArena schuiven van maand tot maand door elkaar.

Ook de regelgeving haalt in. Onder de EU AI Act gelden verplichtingen voor AI-modellen voor algemene doeleinden sinds 2 augustus 2025. Gegevensbeschermingswetgeving, zoals Turkije's KVKK, geldt nog steeds voor alle persoonsgegevens die je in een prompt plakt.