Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
O time da DeepMind, do Google, publicou uma pesquisa com uma proposta de “protein watermarking” para lidar com riscos de biosegurança ligados a proteínas projetadas por ferramentas de IA. A ideia é criar uma marca d’água diretamente nas sequências de proteínas, sem comprometer a função do material, permitindo identificar proteínas desenhadas por pesquisadores considerados confiáveis.
O método se baseia na tecnologia SynthID, que já adiciona watermark a conteúdo digital gerado por IA ao influenciar probabilidades de escolhas do modelo. Como a marca depende de como foi codificada, ela não pode ser removida sem conhecimento prévio, e por estar distribuída ao longo da sequência tende a resistir a alterações comuns no processo de uso.
A startup Vals, fundada em 2024, levantou uma série A de US$ 40 milhões liderada pela Andreessen Horowitz para aprimorar o benchmarking de modelos de inteligência artificial. A empresa afirma que os benchmarks tradicionais não acompanham o ritmo de novos modelos e busca medir capacidades em tarefas complexas ligadas a áreas como direito, finanças e programação.
Em vez de divulgar publicamente os materiais de teste, a Vals avalia impactos reais e também resultados negativos, além de expandir medições para temas como saúde mental, cibersegurança, biosecurity e até aplicação da Convenção de Genebra. A companhia diz que empresas pagam para testar seus modelos, e que sua receita já é oito vezes maior do que no ano anterior, com a equipe crescendo de 8 para 25 pessoas.
A OpenAI desfez sua equipe de preparedness no fim do mês passado, segundo o Financial Times. O grupo era responsável por avaliar se os modelos representavam riscos graves e propor formas de mitigá-los, como cenários de mau funcionamento e uso indevido. A empresa passou a dividir essa responsabilidade por áreas específicas, como bio e cyber, e transferiu o trabalho para equipes já existentes.
A mudança ocorre em meio a novas reorganizações nas áreas de segurança da OpenAI, enquanto a companhia se prepara para uma possível oferta pública inicial (IPO). O head da equipe de preparedness, Dylan Scandinaro, contratado da Anthropic em fevereiro, agora deve se concentrar nas implicações de uma IA capaz de “recursive self-improving”.
Pesquisadores da Universidade Stanford usaram “large genome models” — modelos de IA treinados para prever sequências de DNA — para gerar genomas de vírus que infectam bactérias. Após resultados anteriores com sequências capazes de codificar proteínas funcionais, a equipe mostrou que os mesmos modelos conseguem produzir genomas virais relacionados a vírus já conhecidos, mas com características distintas difíceis de obter por evolução natural.
O trabalho sugere que, no futuro, pode ser necessário planejar riscos caso alguém desenvolva sistemas de IA capazes de projetar vírus com alvos mais amplos, incluindo vertebrados. Para o público tech, o avanço reforça como modelos generativos podem acelerar descoberta e engenharia biológica — e também aumenta a importância de governança, segurança e validação experimental.
Um relatório da SaferAI avaliou o modelo open-weight GLM-5.2, da Z.ai, via API pública, e aponta que ele está apenas “alguns meses” atrás de líderes como OpenAI (GPT-5.5) e Anthropic (Claude Opus 4.7) em capacidades de ciber e bio. No teste, o GLM-5.2 não recusou nenhuma tarefa ofensiva de ciber ou de biologia de uso duplo, enquanto o Claude Opus 4.7 recusou com tanta frequência que a SaferAI não conseguiu concluir o CyberGym. A análise também destaca que, para modelos fechados, proteções como recusas e controles na API tendem a funcionar melhor, mas podem ser contornadas por jailbreaks.
O ponto central é que a “fronteira de capacidade” não é a “fronteira de risco”: quando pesos open-weight são baixados e executados localmente, salvaguardas podem ser removidas, modificadas ou contornadas. Para o público dev/tech, isso reforça a necessidade de avaliações de segurança mais rigorosas, transparência sobre mitigação e novas abordagens para reduzir riscos sem travar a evolução do desempenho.
