Mi a Context Window?
Az AI modell által egy időben feldolgozható maximális szövegmennyiség.
Meghatározás
A Kontextusablak (Context Window) azt a maximális szövegmennyiséget jelenti (tokenekben mérve), amit egy AI modell egy időben képes feldolgozni és figyelembe venni válaszgenerálás során.
Cél
A kontextusablak mérete határozza meg, hogy mennyi korábbi beszélgetés, dokumentum vagy egyéb információ lehet aktív egy adott AI interakció során.
Működés
A modell a kontextusablakon belüli összes tokent figyeli, de ha túllépi a limitet, a legrégebbi információk "kiesnek" és nem vehetők figyelembe.
Példa
Egy 4000 tokenes kontextusablakkal rendelkező modell körülbelül 3000 szót tud egyszerre kezelni, beleértve a promptot és a választ is.
Kapcsolódó
Szeretne többet megtudni?
Ha többet szeretne megtudni a Kontextusablak témáról, lépjen kapcsolatba velem az X-en. Szeretem megosztani az ötleteket, válaszolni a kérdésekre és beszélgetni ezekről a témákról, ezért ne habozzon, nézzen be! Hamarosan találkozunk!
Mi jelent a Waste?
A Lean menedzsmentben a hulladék olyan tevékenység, amely erőforrást fogyas...
Mi az a Sprint Planning?
A Sprint Planning a Sprint első eseménye, és legfeljebb nyolc órán keresztü...
Mi a Vector Database?
A Vektor Adatbázis (Vector Database) egy speciálisan tervezett adatbázis re...