Wat is een Context Window?

De hoeveelheid tekst die een AI-model tegelijk kan verwerken en onthouden tijdens een conversatie.

Definitie

Een Context Window is de maximale hoeveelheid tekst (gemeten in tokens) die een AI-model tegelijkertijd kan verwerken en onthouden tijdens een enkele conversatie of taak.

Doel

Het context window bepaalt hoeveel voorafgaande informatie een model kan gebruiken om contextueel accurate en coherente antwoorden te genereren.

Functie

Wanneer een conversatie langer wordt dan het context window, "vergeet" het model de oudste informatie en houdt alleen de meest recente context bij.

Voorbeeld

GPT-4 heeft een context window van ongeveer 128.000 tokens (ongeveer 96.000 woorden), terwijl eerdere modellen veel kleinere windows hadden van 2.000-4.000 tokens.

🍄

Wil je meer weten?

Als je meer wilt weten over Context Window, neem contact met me op via X. Ik deel graag ideeën, beantwoord vragen en bespreek nieuwsgierigheden over deze onderwerpen, dus aarzel niet om langs te komen. Tot snel!