Uma janela de contexto de até 1 milhão de tokens pode mudar fluxos que dependem de contratos, extratos, políticas e relatórios. Mas contexto longo só compensa quando melhora o trabalho sem tornar custo e latência inviáveis.

Outubro começou com a ressaca de um setembro cheio de lançamentos de modelos. Fiz o filtro e deixei o destaque de hoje em um ponto que costuma ficar escondido na ficha técnica: quanto contexto o modelo aguenta de uma vez.

Quando penso em IA dentro de produto, uma pergunta simples me acompanha: quanto contexto a ferramenta consegue segurar de uma vez?

O que muda quando o modelo lê documentos longos

Parece detalhe técnico, mas muda o que dá para construir. Boa parte do trabalho em finanças e em negócios vive em documentos longos: contratos, extratos, políticas, planilhas e relatórios. Quando o modelo só enxerga um pedaço por vez, a equipe passa o tempo picando arquivos e remontando respostas.

Um resumo dos lançamentos de setembro cita a família Gemini 3.x. No cartão oficial do Gemini 3.1 Pro, o Google DeepMind descreve entradas de texto, imagem, áudio e vídeo, a compreensão de repositórios de código e uma janela de contexto de até 1 milhão de tokens. A ficha também avalia raciocínio e uso de ferramentas por agentes. A fonte de lançamentos não confirma datas e preços; confira a documentação oficial antes de qualquer decisão de compra.

Mesmo assim, a direção é animadora. Contexto grande e várias modalidades abrem espaço para fluxos que antes não fechavam: ler um pacote inteiro de documentos, cruzar informações e devolver algo que já ajuda a decidir. O panorama dos lançamentos reúne mais detalhes sobre os modelos citados.

Contexto longo também tem custo e latência

Do lado de produto, minha leitura é que o desafio deixa de ser “dá para fazer?” e passa a ser “faz sentido fazer assim?”. Contexto longo custa mais e pode ficar mais lento. Nem toda tarefa precisa disso. Em alguns casos, um modelo menor — ou uma etapa de busca antes — entrega melhor pelo preço.

A decisão começa pelo fluxo: quais documentos entram, que resposta ajuda alguém a decidir e onde um humano precisa revisar porque o erro custa caro. Isso faz parte da gestão de produtos com IA. Depois, teste com os seus documentos, não só com uma demonstração de lançamento; as práticas de avaliação de agentes de IA ajudam a definir casos e critérios. Compare também o custo ao longo do tempo com o guia de custo de agentes de IA.

Eu gosto desse momento porque devolve ao PM um papel bem claro: desenhar o fluxo, definir o que a IA recebe, medir o resultado e deixar um humano nos pontos em que o erro custa caro.

Quem trabalha com negócio, tecnologia ou produto ganha muito em testar isso com os próprios documentos, e não só com demonstração de lançamento.

O resto do radar

GPT-6.1 Sol (OpenAI) — Um novo modelo com raciocínio e visão pode mudar custo, qualidade e benchmarks internos das suas funcionalidades de IA. Veja o anúncio da OpenAI e a lista de lançamentos do mês.

Claude Sonnet 5.5 (Anthropic) — Candidato a modelo padrão para funcionalidades com boa relação entre custo e qualidade. Veja o anúncio da Anthropic e rode suas avaliações antes de migrar.

Onda de lançamentos de fim de setembro — Com tantos lançamentos, vale ter uma camada de abstração de modelos e avaliações contínuas para não ficar preso a um fornecedor. A lista de lançamentos do mês ajuda a acompanhar o ritmo.

Amazon Bedrock e modelos especializados da Microsoft — Plataformas gerenciadas reduzem o atrito de segurança e compras e aceleram a entrada da IA nas empresas. Veja o panorama.

Amanhã tem mais. Boa quinta-feira.