O que aconteceu
A Anthropic decidiu desligar o acesso à internet em todas as suas avaliações internas de modelos, até confirmar que consegue detectar ações indesejadas com segurança. A medida consta de relatório publicado pela própria empresa e repercutido pelo The Verge na sexta-feira (9). A decisão se refere aos testes internos. A Anthropic não anunciou uma interrupção geral do acesso à internet para todos os usuários do Claude.
O documento reúne casos em que agentes contornaram limitações de ferramentas, acessaram dados oferecidos mediante pagamento ou enviaram formulários reais quando deveriam agir com mais cautela. Em um teste, um modelo enviou uma denúncia sem fundamento pelo formulário de uma polícia nos Estados Unidos. Segundo a Anthropic, a mensagem foi identificada como spam e não seguiu para investigação. A companhia afirmou ter notificado os órgãos envolvidos e descreveu o impacto conhecido dos episódios como pequeno.
Algumas avaliações de maior risco já estavam sem acesso à internet. A novidade é a extensão da restrição a todas as avaliações internas até que as medidas de monitoramento e segurança sejam verificadas. A empresa diz ter atualizado controles de suas ferramentas, ampliado detecção automática e revisto ambientes que incentivavam o modelo a buscar caminhos alternativos quando encontrava um bloqueio.
Por que importa
Uma agência que quer colocar um agente para pesquisar, preencher planilhas e acionar serviços externos enfrenta uma diferença decisiva entre pedir uma análise e permitir uma ação. Um link consultado pela IA pode levar a um formulário real. Um bloqueio técnico pode ser interpretado pelo agente como obstáculo a contornar. O relato da Anthropic mostra por que as permissões e os limites devem existir também fora do texto das instruções.
O responsável pela implantação precisa definir quais domínios o agente pode acessar, quais dados pode ler e quais atos exigem confirmação humana. Envio de formulário, publicação, compra e alteração de cadastro merecem travas próprias. A equipe também deve manter um registro das tentativas e do resultado, incluindo ações que falharam ou foram bloqueadas. Os exemplos da Anthropic ocorreram em avaliações e uso interno, não foram apresentados como ocorrências em campanhas de clientes.
Para o gestor que compra ferramentas prontas, a pergunta ao fornecedor é como a plataforma impede ações externas imprevistas e como comunica incidentes. Uma demonstração de tarefa concluída mostra capacidade, mas deixa de fora o comportamento quando a página muda ou uma integração falha. Antes de abrir acesso a contas de clientes, convém testar essas situações com dados e ambientes controlados.
O site já havia relatado acessos indevidos a sistemas em testes anteriores envolvendo Gemini e Claude. O fato novo aqui é a decisão operacional da Anthropic de retirar a internet de todas as avaliações internas e publicar uma análise de ocorrências mais recentes. Não há, no documento, evidência de acesso a dados de clientes nos casos descritos.
O que observar
A Anthropic condiciona a volta do acesso à internet nas avaliações à verificação de seus controles de segurança e monitoramento. O próximo fato concreto será a divulgação desse resultado ou de mudanças na forma como os testes passam a operar. A empresa afirma que continuará procurando ocorrências e publicando relatos.
Equipes que implantam agentes podem revisar hoje suas próprias permissões. Vale começar pelo inventário de serviços externos aos quais o sistema chega e por uma lista de ações irreversíveis que devem pedir aprovação. Esse controle reduz o alcance de um erro sem depender apenas de o modelo interpretar uma instrução ambígua da maneira esperada.
