Visualizador de Janela de Contexto LLM

How to use

1. 1

   Cole o prompt completo

   Inclua o prompt do sistema, cada turno de conversa anterior, quaisquer definições de ferramentas e o contexto recuperado — tudo conta contra a janela, não apenas a última mensagem do usuário.

2. 2

   Leia as barras

   Cada modelo recebe uma barra mostrando os tokens de entrada como fração de sua janela de contexto. Verde abaixo de 50% é confortável, âmbar entre 50–80% significa que você deve começar a cortar, vermelho acima de 80% não deixa espaço para a resposta do modelo.

3. 3

   Ordene para comparar

   Troque a ordem de classificação para revelar o ajuste mais justo (janelas menores primeiro) ou a maior margem (as maiores primeiro). O painel 'onde isso cabe?' resume quais modelos aceitam o prompt e quais transbordam.

4. 4

   Verifique o limite de saída separadamente

   A janela de contexto é o orçamento de entrada; o limite de saída (mostrado sob cada barra) é um limite separado sobre o comprimento da resposta. Um modelo com janela de 1M tokens ainda pode emitir apenas ~8K tokens por resposta.

Frequently asked questions

O que conta como contexto vs saída?

Contexto é o orçamento de entrada — tudo que o modelo lê antes de gerar: prompt do sistema, turnos de conversa anteriores, definições de ferramentas/funções, documentos recuperados e a última mensagem do usuário. Saída é o que o modelo escreve de volta. São cobrados e limitados separadamente, embora ambos consumam o mesmo orçamento de atenção subjacente. Uma janela de contexto de 200K tokens com limite de 8K de saída significa que você pode alimentar ~200K tokens mas só obter até ~8K tokens por chamada.

Prompts do sistema contam contra a janela?

Sim. Cada token que o modelo vê consome o orçamento de entrada — prompt do sistema, instruções do desenvolvedor, exemplos few-shot, esquemas de ferramentas, turnos anteriores do assistente, chunks RAG recuperados. Os únicos tokens que não contam são os que o modelo emite como saída. Prompts de sistema longos em conversas multi-turno são a causa número 1 de erros misteriosos de estouro de contexto.

O que é RAG e como interage com o tamanho do contexto?

Retrieval-Augmented Generation (RAG) significa buscar passagens relevantes de um armazenamento vetorial no momento da consulta e colá-las no prompt para que o modelo possa basear sua resposta em fatos frescos ou específicos do domínio. Cada chunk recuperado consome orçamento de contexto. Uma configuração RAG típica recupera 5–20 chunks de 500–1000 tokens cada, então 5K–20K tokens de contexto desaparecem antes mesmo de a mensagem do usuário ser anexada. Planeje para isso.

Ferramentas relacionadas

• Calculadora de Custo de API LLM
  Estimar o custo de chamadas à API de modelos de IA.
• Contador de Tokens e Calculadora de Custo de API
  Contar tokens e calcular custo por modelo de IA.
• Financiamento imobiliário
  Parcela, juros totais e custo do financiamento.
• Juros compostos
  Crescimento do capital com aportes regulares.
• Gorjeta
  Calcular a gorjeta e dividir a conta.
• Imposto sobre vendas
  Adicionar ou remover imposto de um valor.