Mikä on Context Window?

Määritelmä

Context Window on AI-mallin maksimimäärä tokeneja (sanoja, merkkejä) joita se voi käsitellä yhdessä pyyntö-vastaus -syklissä, sisältäen sekä syötteen että tulosteen.

Tarkoitus

Context Window määrittää kuinka pitkiä dokumentteja malli voi käsitellä, kuinka paljon keskusteluhistoriaa se muistaa ja kuinka monimutkaisia tehtäviä se voi ratkaista.

Toiminta

Context Window toimii rajoittamalla AI:n "muistikapasiteettia" - kun raja ylittyy, malli "unohtaa" vanhimmat tiedot ja keskittyy viimeisimpiin.

Esimerkki

GPT-4:llä context window on noin 128 000 tokenia, mikä vastaa noin 300 sivua tekstiä yhden keskustelun aikana.

Liittyvät

• Tokens
• Memory
• Context
• Model Limitations

Haluatko tietää lisää?

Jos haluat tietää lisää aiheesta Context Window, ota yhteyttä minuun X:ssä. Rakastan jakaa ideoita, vastata kysymyksiin ja keskustella aiheista, joten älä epäröi tulla mukaan. Nähdään pian!