Juiz dos EUA identifica “prompt injection” em petições para influenciar IA

Um juiz de Connecticut, Walter Spader Jr., identificou uma tentativa de esconder texto em petições judiciais para que apenas um sistema de inteligência artificial conseguisse lê-lo, com o objetivo de favorecer um caso. A decisão, publicada na semana passada, confirmou que o texto oculto não teve impacto no processo em que um homem alegava que um provedor de saúde teria retido indevidamente acesso a registros.

O texto oculto foi descrito como “invisível para um leitor humano”, mas legível para softwares que extraem o conteúdo do documento, direcionando sistemas de IA a alinharem suas saídas com os argumentos do autor e a ignorarem negações anteriores do tribunal. Mesmo sem sucesso, o réu recebeu sanções moderadas por continuar inserindo esse tipo de conteúdo após aviso do tribunal sobre possível “abuso sério” em litígios, incluindo mensagens que ele chamou de “piadas”.