Vad är ett Context Window?
Context Window är gränsen för hur mycket text en AI-modell kan komma ihåg och bearbeta samtidigt.
Definition
Context Window är den maximala mängden text (mätt i tokens) som en AI-modell kan bearbeta och komma ihåg i en enda interaktion eller session.
Syfte
Context Window definierar hur långa konversationer, dokument eller uppgifter en AI-modell kan hantera utan att förlora viktig information från början.
Funktion
När context window nås, "glömmer" modellen den äldsta informationen för att göra plats för ny text, vilket kan påverka sammanhang och kontinuitet.
Exempel
GPT-4 har ett context window på cirka 32 000 tokens, medan vissa modeller har upp till 2 miljoner tokens, vilket möjliggör bearbetning av hela böcker.
Relaterat
Tokens, Memory (AI Memory), Attention Mechanism, Long Context Models
Vill du veta mer?
Om du är nyfiken på att lära dig mer om Context Window, kontakta mig på X. Jag älskar att dela idéer, svara på frågor och diskutera nyfikenheter om dessa ämnen, så tveka inte att titta förbi. Vi ses!
Vad är en prompt?
En prompt är den textinmatning, fråga eller instruktion som användare ger t...
Vad är en optimistisk uppdatering?
En optimistisk uppdatering är en teknik som gör att användargränssnittet up...
Vad är Visual Studio Code?
VS Code stöder felsökning, syntaxmarkering, intelligent kodkomplettering, k...