O que aconteceu
Anthropic e Accenture anunciaram um investimento conjunto de pelo menos US$ 2 bilhões em segurança de inteligência artificial. São no mínimo US$ 1 bilhão de cada lado, distribuídos ao longo de cinco anos, segundo a Exame e o UOL Tecnologia, que publicou a informação a partir de material do Estadão Conteúdo. O dinheiro vai para testar modelos e os mecanismos de proteção que tentam impedir que esses modelos façam o que não deveriam.
O detalhe que muda o sentido do anúncio está no TechCrunch: a Accenture será a primeira “embedded evaluator” da Anthropic. Ou seja, a consultoria não entra como cliente nem como integradora, e sim como quem avalia os modelos por dentro. O TechCrunch descreveu o arranjo como o trabalho de consultoria de maior risco que a Accenture já assumiu.
Nenhuma das três matérias detalha metodologia, o que será publicado dos resultados nem como fica a separação entre o time que avalia e o time que vende projetos de IA para clientes.
Por que importa
Avaliação de segurança de modelo até aqui era assunto de laboratório, academia e de um punhado de organizações pequenas. Com uma consultoria global no papel, isso vira linha de serviço. E linha de serviço tem proposta comercial, precificação e time de vendas.
Para quem faz marketing e mídia no Brasil, o efeito chega por dois caminhos. O primeiro é contratual: jurídico e compliance de anunciante grande vão começar a pedir laudo de avaliação de IA do mesmo jeito que pedem certificação de brand safety ou auditoria de viewability. Quem produz criativo com IA, quem opera agente de atendimento, quem usa modelo para segmentar vai ter que responder a esse tipo de pergunta. O segundo é de mercado: a mesma consultoria que implanta IA em cliente brasileiro passa a carregar no currículo o selo de avaliadora de um dos maiores fornecedores de modelo do mundo.
Opinião: esse é o ponto frágil. Avaliador independente que também é parceiro comercial da avaliada é um desenho que o mercado de auditoria já testou em outras áreas, com resultado conhecido. Não significa que o trabalho será ruim. Significa que a credibilidade vai depender inteiramente de o que for publicado, e não de quem assina.
Vale lembrar que R$ 2 bilhões é um número de comunicação enquanto não houver entregável público. Cinco anos é bastante tempo para o escopo mudar.
O que observar
- Se Anthropic e Accenture vão divulgar relatórios de avaliação abertos ou apenas resumos. É o que separa auditoria de selo.
- Como fica a governança interna da Accenture entre a área avaliadora e as áreas que vendem implementação, inclusive no Brasil.
- Se outras fornecedoras de modelo copiam o formato e contratam suas próprias avaliadoras embarcadas. Se isso acontecer, cada laboratório terá seu auditor de estimação.
- O que reguladores dizem sobre aceitar avaliação feita por parceiro comercial como evidência de conformidade.
- Quando aparece a primeira oferta de auditoria de IA empacotada para o mercado brasileiro, e a que preço.
Fontes
- TechCrunch: Anthropic’s first embedded evaluator is … Accenture?
- Exame: Anthropic e Accenture vão investir US$ 2 bilhões em segurança de IA
- UOL Tecnologia: Anthropic e Accenture investirão US$ 2 bi para avaliar segurança de IA
[…] da IA e envolvam mais avaliadores externos, linha em que a Anthropic já tinha anunciado uma parceria com a Accenture para testes de segurança de IA. No Brasil, o ponto prático é se os fornecedores de chatbot e de automação de atendimento […]