Anthropic reduz espera de agentes em conversas extensas

Message Threads estreia em beta na API do Claude; melhora a latência em sessões longas, mas mantém o consumo de tokens e a cobrança.

Edição: Thiago Martines

A Anthropic abriu em beta público o Message Threads, recurso da API do Claude para conversas de agentes que fazem muitas chamadas seguidas. Em vez de reenviar todo o histórico de mensagens a cada pedido, a aplicação envia apenas o conteúdo novo e a identificação da resposta anterior. A empresa anunciou o recurso em 2 de novembro; o The Decoder detalhou o lançamento no dia seguinte.

PublicidadePraxo: de 0 a 4, qual é o nível de IA da sua empresa? Faça o Raio-X grátis

Nas sessões com 500 mil a um milhão de tokens, a Anthropic relata redução mediana de cerca de 35% no tempo até o primeiro trecho da resposta, medida entre usuários do Claude Code para os quais o recurso está ativado por padrão. Isso descreve uma faixa específica de conversas longas, não a velocidade prometida para todo chatbot ou tarefa curta. A própria empresa avisa que o modelo continua lendo o histórico inteiro em cada turno. O número de tokens cobrados não diminui com essa mudança.

Message Threads está disponível na plataforma própria da Anthropic e em ofertas do Claude nos serviços de nuvem da AWS, Microsoft e Google, segundo a empresa. Trata-se de um recurso para quem desenvolve uma aplicação com a API, não de um botão que um usuário comum ativa na janela do Claude.

O que muda quando a conversa fica longa

Um agente que consulta documentos de um cliente, recebe arquivos e devolve uma resposta pode acumular um histórico grande durante uma única sessão. Quando a aplicação precisa mandar esse histórico de novo a cada etapa, a transferência acrescenta espera antes mesmo de começar a resposta. É esse trecho da operação que o novo recurso tenta encurtar.

Na primeira chamada, a aplicação envia a conversa completa e abre uma sequência. Nas seguintes, informa apenas as novas mensagens e a identificação da resposta anterior. O histórico fica guardado em memória, de forma criptografada, entre uma chamada e outra. A sequência expira depois de cinco minutos sem atividade; a próxima interação precisa enviar o histórico completo para começar outra. Essas condições foram publicadas pela Anthropic e fazem diferença para um atendimento que fica parado aguardando a resposta do cliente.

O benefício potencial aparece em fluxos com muitos documentos ou imagens. Não há demonstração independente de que o percentual anunciado se repita em um atendimento brasileiro.

Como um comprador de automação deve medir o ganho

Para uma agência que contratou um agente para ler briefings longos, o indicador útil é o tempo entre enviar um arquivo e ver a primeira resposta aproveitável. O time pode comparar sessões de complexidade parecida, com e sem o recurso, mantendo o mesmo modelo e o mesmo conjunto de documentos. É importante registrar tanto a primeira resposta quanto a duração da tarefa inteira: uma tela que começa a escrever mais cedo pode ainda demorar para concluir o trabalho.

O segundo indicador é a fatura por tarefa concluída. Como o Claude continua processando todo o histórico, o Message Threads não reduz automaticamente o consumo de tokens. O que é token e como ele entra no custo da IA ajuda a separar o volume de texto cobrado da demora percebida pelo usuário. Num contrato de automação, vale pedir ao fornecedor esses dois relatórios em colunas distintas e incluir no teste o comportamento depois de uma pausa superior a cinco minutos.

Quem usa um agente pronto pode pedir ao fornecedor que confirme se ativou a opção e qual foi o resultado medido. A notícia não comprova redução de preço. O roteiro da Anthropic para reduzir agentes redundantes trata de outra escolha de arquitetura.

Como testar

O ponto de partida para uma equipe técnica é a documentação do Message Threads, indicada pela Anthropic. Ela explica o parâmetro usado na API e a identificação da resposta anterior. Em dez minutos, a equipe pode escolher um fluxo já existente com histórico extenso, confirmar se o serviço usado oferece o beta e registrar o tempo até a primeira resposta antes de mudar a integração. Depois, deve repetir o mesmo fluxo com o recurso ativado e comparar a cobrança.

A Anthropic informa que seguem valendo as tarifas padrão de tokens e os limites de uso existentes. A empresa não especifica no anúncio uma liberação particular para o Brasil nem testa a qualidade de respostas em português. O teste proposto é uma checagem de desempenho da aplicação, não uma afirmação de que o Sinal & Ruído tenha usado o recurso.

A próxima medida é a do próprio fluxo

A disponibilização em beta permite que fornecedores de agentes incluam o recurso. Para o comprador, o próximo fato verificável é a medição no seu atendimento, com intervalo entre mensagens e custo registrados. Sessões que expiram em cinco minutos precisam ser medidas separadamente das conversas contínuas.

A redução de 35% é dado da Anthropic para uma faixa de uso longa. A contratação depende do tempo total da tarefa e da qualidade da resposta.

Fontes

  • Anthropic: apresentação do Message Threads e condições do beta público
  • The Decoder: cobertura do lançamento e limites do ganho de tempo