Vad är ett Context Window?

Context Window är gränsen för hur mycket text en AI-modell kan komma ihåg och bearbeta samtidigt.

🤖

Definition

Context Window är den maximala mängden text (mätt i tokens) som en AI-modell kan bearbeta och komma ihåg i en enda interaktion eller session.

🎯

Syfte

Context Window definierar hur långa konversationer, dokument eller uppgifter en AI-modell kan hantera utan att förlora viktig information från början.

⚙️

Funktion

När context window nås, "glömmer" modellen den äldsta informationen för att göra plats för ny text, vilket kan påverka sammanhang och kontinuitet.

💡

Exempel

GPT-4 har ett context window på cirka 32 000 tokens, medan vissa modeller har upp till 2 miljoner tokens, vilket möjliggör bearbetning av hela böcker.

🔗

Relaterat

Tokens, Memory (AI Memory), Attention Mechanism, Long Context Models

🍄

Vill du veta mer?

Om du är nyfiken på att lära dig mer om Context Window, kontakta mig på X. Jag älskar att dela idéer, svara på frågor och diskutera nyfikenheter om dessa ämnen, så tveka inte att titta förbi. Vi ses!