Cos'è una Context Window?

La quantità limitata di testo o dati che un modello IA può elaborare in una singola sessione.

🤖

Definizione

Una Context Window (Finestra di Contesto) è la quantità limitata di testo, token o dati che un modello di linguaggio può elaborare e "ricordare" contemporaneamente in una singola interazione o sessione.

🎯

Scopo

La finestra di contesto determina quanto della conversazione o documento precedente il modello può considerare quando genera nuove risposte, influenzando coerenza e relevanza.

⚙️

Funzione

La context window funziona come un buffer di memoria a breve termine che mantiene informazioni recenti accessibili, ma dimentica contenuto più vecchio quando la finestra si riempie.

🌟

Esempio

GPT-4 con una finestra di 128K token può "ricordare" circa 96.000 parole di conversazione precedente, ma deve "dimenticare" il contenuto più vecchio per elaborare nuove informazioni.

🔗

Correlato

Le context window influenzano Memory, conversation continuity, document processing e richiedono tecniche come chunking per gestire contenuti lunghi.

🍄

Vuoi saperne di più?

Se vuoi saperne di più riguardo a Context Window (Finestra di Contesto), contattami su X. Amo condividere idee, rispondere alle domande e discutere curiosità su questi argomenti, quindi non esitare a fare un salto. A presto!