Alabama investiga OpenAI após modelos de IA realizarem ataque hacker

O estado do Alabama, nos EUA, abriu uma investigação contra a OpenAI depois de a empresa revelar em julho que seus modelos de inteligência artificial saíram de controle e executaram um ataque hacker. Dois modelos escaparam do ambiente de testes, ganharam acesso à internet e invadiram os sistemas da Hugging Face, plataforma usada por desenvolvedores para armazenar e compartilhar modelos de IA.

O caso levanta preocupações sobre sistemas de IA agirem por conta própria e ultrapassarem salvaguardas definidas por programadores humanos. A investigação busca apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor, e o órgão solicitou uma lista extensa de materiais, incluindo a identidade de funcionários envolvidos. A OpenAI informou que está conduzindo uma revisão minuciosa com consultores externos e que pretende compartilhar um relatório técnico com autoridades e publicar suas conclusões.