O radar de hoje trouxe de tudo: de uma IA que cabe em 8 MB até uma que já lidera parte da própria P&D da criadora. No meio disso, teve uma notícia que me fez parar para pensar em como a gente prova que IA é confiável em setores como o meu.

Toda vez que alguém me pergunta se dá para confiar em IA dentro de um banco ou de uma fintech, minha resposta é sempre a mesma: depende de como essa confiança é construída.

A auditoria entra no ciclo de desenvolvimento

Saiu esta semana uma notícia que ilustra bem o ponto. A Anthropic fechou uma parceria com a Accenture para colocar avaliadores “embutidos” dentro do próprio processo de desenvolvimento de modelos. São profissionais com acesso de nível de funcionário, observando de dentro como os modelos são treinados, testando salvaguardas e checando se os compromissos de segurança estão sendo cumpridos na prática. O investimento é bilionário e a parceria tem horizonte de cinco anos.

Para entender o anúncio completo, leia a notícia sobre a parceria entre Anthropic e Accenture.

Isso chamou minha atenção porque é exatamente o tipo de estrutura que quem atua em produto em setores regulados — crédito, pagamentos e dados sensíveis — sabe que precisa existir, mas raramente vê sendo tratada de forma tão explícita por quem constrói os modelos.

O que isso muda para produto em setores regulados

No meu dia a dia em produto, a pergunta que mais aparece quando o assunto é IA aplicada a processos financeiros não é “o modelo funciona?”. É “como eu audito isso, como explico para o regulador, como explico para o cliente?”.

Governança de IA não é freio para inovação. É o que permite que a inovação chegue ao mercado sem virar problema lá na frente. Isso inclui tornar visíveis as decisões, os responsáveis, as evidências e os limites do sistema.

O que acho mais relevante nesse movimento é tratar segurança e compliance como parte do produto desde o início, não como uma camada que se pendura no final. É o oposto do “lança rápido e ajusta depois” que a gente vê em boa parte dos lançamentos de IA hoje.

A auditoria precisa virar decisão de produto

Uma gestão de produtos com IA ajuda a tratar capacidade, contexto, responsabilidade e métrica como decisões de produto — não como detalhes deixados para depois do lançamento.

Em um fluxo regulado, uma matriz de risco de IA ajuda a definir quais dados, integrações, avaliações e supervisões são necessários em cada parte do produto. E uma avaliação mais estruturada ajuda o time a transformar a pergunta “podemos confiar?” em critérios observáveis antes e depois do lançamento; o guia de avaliação de agentes de IA ajuda a organizar esse raciocínio.

Tenho bastante convicção de que essa é a direção que o mercado inteiro vai seguir, principalmente empresas que lidam com dinheiro, crédito e dados sensíveis. Quem constrói produto com IA em finanças vai precisar pensar em auditoria e governança desde o dia zero, e não como apêndice.

Em resumo

  • Avaliação e segurança precisam participar do desenvolvimento, com acesso a evidências do processo.
  • Em crédito, pagamentos e dados sensíveis, confiança precisa ser explicável para reguladores e clientes.
  • Compliance não é uma camada posterior: pode fazer parte da proposta de valor e da operação do produto.
  • Governança desde o dia zero reduz o risco de transformar um lançamento rápido em um problema difícil de corrigir.

O resto do radar

Cactus Needle 3 — Modelos de poucos MB permitem IA 100% on-device, sem custo de API nem dependência de nuvem. Ler mais

Alibaba abre modelo médico de diagnóstico — Modelo aberto eleva a régua de qualidade em nichos regulados e pressiona produtos proprietários a justificar seu valor. Ler mais

Stepfun Step 5 entra na fronteira custo x inteligência — Mais uma opção barata e competitiva amplia a régua de negociação de preço com fornecedores de LLM estabelecidos. Ler mais

Gemini invade três empresas em teste de segurança — Mostra o quanto agentes autônomos já avançam em tarefas ofensivas e reforça a necessidade de guardrails antes de expor agentes a sistemas reais. Ler mais

Claude Code passa a ler AGENTS.md — Sinaliza convergência em torno de um padrão de arquivo de instruções entre ferramentas de agentes, reduzindo fricção de integração. Ler mais

Stagehand fica mais rápido e barato — Custo de token e latência são hoje o principal limitador de agentes que navegam na web, e ganhos aqui viabilizam casos de uso em produção. Ler mais

Scry testa preço dinâmico para agentes — Um modelo de precificação por congestionamento pode inspirar como produtos de IA cobram por uso pesado de infraestrutura. Ler mais

Agente especializado barateia automação de Mac — Mostra que agentes especializados e mais baratos podem substituir modelos generalistas caros em boa parte das tarefas de automação. Ler mais

Claude já lidera 26% da P&D da Anthropic — É um termômetro de quão rápido o próprio ciclo de criação de produtos de IA está sendo automatizado. Ler mais

Foi um dia de radar cheio — separei o que valia a pena parar para ler.