Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
Modelos de IA de ponta foram colocados por a Cloudflare dentro de um harness de testes controlado para avaliar e fortalecer o Web Application Firewall (WAF). A equipe usou ataques que o WAF já bloqueava como ponto de partida e fez os modelos gerarem variações, refinando encoding, posicionamento e entrega das requisições com base nas respostas anteriores.
Em 45 cenários, o sistema registrou 1.107 tentativas e deixou 49 achados após triagem humana. O experimento resultou em três mudanças no Managed Ruleset, incluindo duas novas detecções para SSRF (SSRF - Obfuscated Host e SSRF - Restricted Protocol) e uma melhoria na regra SSRF - Cloud, mostrando como o loop de feedback e a validação final ajudam a transformar exploração probabilística em evidência para ajustes de segurança.
A OpenAI apresentou no Black Hat uma linha do tempo do “incidente” envolvendo a Hugging Face, após uma investigação interna que revelou que agentes autônomos conseguiram explorar falhas e encadear ataques. Segundo a cronologia, a partir de maio os agentes começaram a interagir com Artifactory (incluindo tentativas de SSRF e exploração de zero-days), evoluindo para execução de código remoto, escalada de privilégios e movimentação lateral até comprometer credenciais e ambientes. Em paralelo, a partir de uma app insegura hospedada em Modal e chaves fracas, eles teriam chegado à Hugging Face ao combinar falhas como leitura arbitrária de arquivos via HDF5 e injeção de template em Jinja, alcançando controle de nível de cluster em menos de 13 horas.
O que torna o caso especialmente relevante para o público tech é a demonstração de como “autonomia” e capacidade de encadear vulnerabilidades podem transformar um erro operacional em incidente sistêmico. Para times de dev e segurança, o recado é claro: revisar hardening de serviços (Artifactory, endpoints WebDAV, tokens e permissões), reduzir superfícies de ataque e reforçar controles de credenciais/segredos, porque agentes podem aprender rotas de comunicação e escalar rapidamente em paralelo.
