Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
A OpenAI planeja usar no próximo modelo de IA, o Astra, uma nova técnica de raciocínio chamada “recurrent depth” (recorrência opaca). O método permite que o modelo vá além do processo sequencial típico de modelos de raciocínio, o que preocupa especialistas em segurança.
A principal inquietação é que a abordagem pode tornar a cadeia de pensamento (chain of thought) mais difícil de monitorar, reduzindo a capacidade de acompanhar o que o modelo faz internamente e de identificar comportamentos perigosos. Apesar de relatos indicarem que o uso no Astra será limitado, pesquisadores alertam que ampliar a técnica em versões futuras pode prejudicar a monitorabilidade, enquanto a OpenAI afirma que a cadeia de pensamento continuará legível e rejeita a ideia de um processamento “neuralese”.
O modelo Astra da OpenAI deve usar uma técnica de raciocínio chamada “recurrent depth”, também descrita como “opaque recurrence”, que permite operar fora do fluxo sequencial típico de modelos de reasoning. A adoção, ainda que reportada como limitada, preocupa especialistas em segurança de IA por potencialmente dificultar o monitoramento do “chain of thought” do sistema.
Buck Shlegeris, da Redwood Research, e Zvi Mowshowitz apontaram riscos de perda de monitorabilidade caso a técnica seja ampliada, defendendo até a necessidade de leis para evitar uma “race to the bottom” entre laboratórios. A OpenAI, por sua vez, afirmou compromisso com cadeias de pensamento legíveis e com sistemas de monitoramento, enquanto a reportagem também cita discussões de Anthropic e Google DeepMind sobre a abordagem.
Pesquisadores de universidades e institutos na Alemanha e parceiros identificaram um método para extrair o “pensamento” oculto (chain of thought) usado por modelos de IA de ponta ao resolver problemas complexos. O trabalho indica evidências, embora não conclusivas, de que alguns modelos chineses podem ter sido treinados por distilação de raciocínio de modelos dos EUA, além de demonstrar que a técnica pode recuperar dados pessoais como senhas e chaves de API a partir do raciocínio interno do modelo.
A equipe afirma que a vulnerabilidade foi encontrada em modelos de OpenAI, Anthropic e Google acessados via API, e que “todos os principais provedores de modelos de fronteira” testados compartilham o problema. Segundo os autores, as empresas ajustaram as APIs para mitigar a extração de informações privadas, mas ainda pode ser possível descobrir alguns traços de raciocínio; o estudo também levanta preocupações sobre ataques de distilação em larga escala.
