O que é uma Context Window?
A quantidade limitada de texto que um modelo de linguagem pode processar e lembrar em uma única interação.
Propósito
A Context Window define os limites de memória imediata de um modelo, determinando quanta informação prévia pode influenciar respostas atuais e quão longas podem ser conversas contínuas.
Funcionamento
A Context Window funciona como uma memória de trabalho limitada onde texto mais antigo é "esquecido" quando novos tokens excedem o limite, exigindo estratégias de gerenciamento para conversas longas.
Exemplo
Um modelo com context window de 4.000 tokens que pode lembrar aproximadamente as últimas 3.000 palavras de uma conversa, mas "esquece" mensagens mais antigas quando o limite é ultrapassado.
Relacionado
Relacionado com Limitações de Memória, Tokens, Gerenciamento de Contexto, Arquitetura Transformer e Otimização de Conversas Longas.
Quer saber mais?
Se você está curioso para saber mais sobre Context Window (Janela de Contexto), entre em contato comigo no X. Eu adoro compartilhar ideias, responder perguntas e discutir curiosidades sobre esses temas, então não hesite em dar uma passada. Até mais!
O que é uma Prompt Bar?
Uma Prompt Bar ou Barra de Prompt é um elemento de interface de usuário oti...
O que é Prompt Engineering?
Prompt Engineering é a disciplina de projetar, otimizar e refinar prompts (...
O que é Probabilístico em IA?
Probabilístico refere-se a sistemas de IA que incorporam incerteza, aleator...