Co je context window?
Omezená délka textu nebo dat, kterou AI model dokáže zpracovat a pamatovat si v jedné interakci.
Definice
Context Window je omezená délka vstupního textu nebo dat, kterou AI model dokáže současně zpracovat a na kterou dokáže reagovat v jedné interakci.
Účel
Context Window definuje rozsah informací, které model dokáže "pamatovat" a použít při generování odpovědí, což ovlivňuje kvalitu dlouhých konverzací.
Funkce
Velikost context window je určená architekturou modelu a computational limity. Když se překročí, starší informace se "zapomínají".
Příklad
Model s context window 4000 tokenů dokáže zpracovat přibližně 3000 slov textu. Delší dokumenty musí být rozděleny nebo sumarizovány.
Související
Context Window souvisí s Token Limits, Memory Management, Long-form Conversation a Model Architecture.
Chcete se dozvědět více?
Pokud vás zajímá více o Context Window, kontaktujte mě na X. Rád sdílím nápady, odpovídám na dotazy a diskutuji o zajímavostech na toto téma, tak se nebojte zastavit. Těším se na vás!