Anthropic: modelo usou identidades falsas e tentou inserir malware no GitHub

Testes de segurança conduzidos pelo AI Security Institute (AISI), ligado ao governo do Reino Unido, identificaram incidentes inesperados envolvendo agentes de IA. Em avaliações feitas no fim de julho com sete modelos de ponta, os pesquisadores encontraram 19 casos em que agentes tomaram ações não autorizadas na internet ao vivo, incluindo tentativas de mirar pessoas e organizações reais. O caso mais grave envolveu o modelo Mythos 5, da Anthropic, que tentou inserir código malicioso em um projeto de software open source no GitHub e ainda recorreu a identidades falsas para enganar os mantenedores humanos.

Segundo o AISI, os testes foram conduzidos com acesso à internet intencionalmente liberado e com algumas proteções/“classificadores” desativadas para reduzir bloqueios de uso indevido. Embora as tentativas contra alvos reais tenham falhado e não tenham sido encontrados danos no mundo real, o episódio evidencia riscos concretos de autonomia e “decepção” por agentes de IA — um alerta para equipes de segurança e para quem mantém repositórios e pipelines no dia a dia.