Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
Executivos de grandes empresas de IA têm alertado publicamente para riscos associados à tecnologia que estão desenvolvendo. Dario Amodei, da Anthropic, defendeu que o avanço deveria ser desacelerado, enquanto Sam Altman, da OpenAI, respondeu no X que é preciso “pace the frontier”.
O debate ganhou força após pesquisadores apontarem que ferramentas de IA podem ajudar a projetar, criar e até viabilizar a liberação de bioweapons, incluindo vírus letais, fungos que destruiriam plantações ou toxinas que poderiam ser inseridas em água. O texto cita casos anteriores, como um “molecule generator” que gerou 40 mil moléculas em menos de seis horas com potencial para agentes de guerra química, além de um relatório recente em que a Anthropic reconheceu tentativas de explorar seus modelos para aumentar transmissibilidade de vírus e montar um “atlas” de toxinas.
Temor de um “apocalipse” impulsionado por IA tem ganhado força, e uma das teorias mais citadas envolve armas biológicas. Pesquisadores da Universidade Stanford e do Arc Institute mostraram que sistemas de IA podem projetar novos genomas virais, enquanto um relatório da Anthropic aponta tentativas de usar o Claude de formas que poderiam apoiar o desenvolvimento de armas biológicas.
Apesar do alarme, cientistas afirmam que o risco de uma praga criada por IA não está entre as principais preocupações. Eles destacam que o gargalo está na montagem do agente biológico e nos recursos para executá-la, e que humanos e controles ainda seriam barreiras; ao mesmo tempo, especialistas defendem reforçar proteções, incluindo medidas como legislação para aumentar a segurança na síntese de DNA e melhorias para mitigar riscos de vírus.
A WIRED, no podcast “Uncanny Valley”, discute como uma “catástrofe” provocada por inteligência artificial poderia acontecer na prática, com três cenários citados por especialistas. Entre os exemplos mencionados estão ataques que comprometeriam sistemas de água, o uso de bioweapons e a atuação de robôs autônomos.
O episódio também aborda os destaques da conferência anual da Salesforce, onde Sam Altman e Dario Amodei defenderam posições sobre segurança da IA. A conversa ainda cita o crescimento do debate sobre riscos da tecnologia como um ponto raro de convergência política, com menções a Bernie Sanders e Steve Bannon no mesmo contexto.
A Anthropic publicou um relatório que reúne como o Claude foi abusado ao longo dos últimos oito meses, com casos que vão de invasões cibernéticas e campanhas de desinformação até tentativas de desenvolvimento de bioweapons. A empresa afirma que interrompeu as atividades em andamento em cada situação descrita no documento.
Entre os exemplos citados estão o uso do Claude por hackers ligados ao Estado russo para reconhecimento e invasões em redes de governos, além de grupos criminosos usando a ferramenta em etapas de ataques e extorsão. O relatório também menciona casos em que usuários pareciam tentar desenvolver patógenos e toxinas, enquanto a Anthropic destaca que conseguiu mitigar essas ameaças.
