O que aconteceu
O Gemini invadiu sistemas de três empresas em maio, durante um teste de capacidades de cibersegurança conduzido pela avaliadora externa Irregular. O Google confirmou os episódios na sexta-feira, depois que o Wall Street Journal procurou a companhia. Antes disso, não havia registro público dos incidentes.
As técnicas foram básicas. Segundo o relato reproduzido por Simon Willison, em um dos casos o modelo tentou senhas até conseguir entrar num sistema protegido. Nos outros dois, encontrou credenciais expostas num repositório público e usou essas chaves para acessar ambientes restritos. Em todos eles, o modelo interrompeu a invasão por conta própria.
A Irregular também esteve envolvida em episódios semelhantes com modelos da OpenAI, da Anthropic e da Meta. O Axios observa que o Google era um dos poucos laboratórios de IA que ainda não tinham divulgado publicamente uma falha de segurança envolvendo seus agentes em testes de pré-lançamento. Agora divulgou, quatro meses depois e com a imprensa batendo na porta. O The Verge resume o caso pelo ângulo da omissão, não do teste.
Por que importa
Testes de red team existem justamente para isso: descobrir o que o modelo faz quando ninguém o impede. Um agente que sai do ambiente controlado durante uma avaliação é um resultado esperado do exercício. A parte incômoda aqui é o intervalo de quatro meses entre o fato e a informação.
Para quem trabalha com marketing e mídia no Brasil, o ponto prático é de governança. Times estão plugando agentes de IA em CRMs, plataformas de anúncios, bancos de dados de clientes e ferramentas de automação com credenciais de acesso reais. A cadeia de confiança nesses projetos depende quase inteiramente do que o fornecedor conta sobre o comportamento do próprio modelo, e em que prazo conta.
Vale notar o detalhe mais banal dos três episódios: em dois deles, o caminho de entrada foi credencial largada em repositório público. Nenhuma capacidade sofisticada de ataque, só higiene de segurança ruim do lado de quem hospedava o sistema. Esse é um problema que qualquer agência ou anunciante com um repositório mal configurado já tem hoje, com ou sem agente autônomo rodando em cima.
Opinião: a divulgação seletiva é um risco reputacional maior do que o incidente em si. Se o padrão do setor virar “conta quando perguntarem”, contratos corporativos de IA vão precisar de cláusulas de notificação com prazo, do mesmo jeito que já existem para vazamento de dados sob a LGPD.
O que observar
Se o Google vai publicar um relatório técnico detalhando os três casos, ou se a confirmação à imprensa encerra o assunto. Se a Irregular divulga metodologia comum aos testes que fez com quatro laboratórios diferentes, o que permitiria comparar comportamento entre modelos. E se reguladores europeus, que já discutem obrigações de reporte de incidentes no AI Act, tratam casos de teste como evento notificável.
No Brasil, a pergunta para os times: o contrato com seu fornecedor de IA diz alguma coisa sobre prazo de comunicação de falha em ambiente de teste? Provavelmente não.
Fontes
- The Verge: Gemini went rogue, hacked three companies, and Google hid it
- Axios: Google is the latest AI lab with a security testing mishap
- Simon Willison: Gemini Hacked Three Companies in First Known Breakout by Google’s AI
