Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
Alex Porcelli, cofundador e CEO da Aletyx, defendeu que arquiteturas agentic para IA precisam lidar com a falta de consistência e, principalmente, com a falta de accountability em decisões de alto impacto. Ele citou a evolução do uso de IA no desenvolvimento, dizendo que passou a “codar diferente” ao interagir com agentes, em vez de apenas usar IA para tarefas como resumos, scripts e testes.
O executivo destacou que domínio e conhecimento de regras ajudam a obter resultados melhores, mas não bastam para operar negócios, que dependem de políticas e regulações. Para ele, a solução passa por rastreabilidade e explicação do caminho que leva de entradas à saída, além de governança com versionamento do processo decisório para revisão, aprovação e auditoria.
Um estudo conduzido por pesquisadores do MIT e parceiros avaliou como diferentes métodos de IA explicável afetam pessoas com níveis distintos de conhecimento na hora de diagnosticar doenças de pele. Os testes incluíram não especialistas e médicos de atenção primária, usando cenários com apenas a previsão do modelo ou com explicações como mapas de calor, imagens semelhantes e explicações em linguagem natural via LLM.
Os resultados mostram que não especialistas melhoraram a acurácia, mas em grande parte por “deferência” ao sistema: quando as explicações vinham de LLM, eles tendiam a confiar mesmo quando a previsão estava errada. Já os clínicos tiveram desempenho melhor quando recebiam apenas a predição, sem explicação, e foram menos afetados por explicações incorretas. A pesquisa reforça que a forma de apresentar a recomendação importa tanto quanto a qualidade do modelo — especialmente para quem tem menos base médica.
Pesquisadores do Fraunhofer IOSB, na Alemanha, criaram a RealorRender, uma ferramenta para detectar deepfakes e justificar a decisão. O sistema combina uma reconstrução por gerador de imagens de IA com um modelo que mede o erro e estima a autenticidade, alcançando entre 85% e 91% de detecção, segundo comunicado do instituto. O projeto é financiado e desenvolvido em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI).
O diferencial está no uso de IA explicável (XAI): a RealorRender mostra quais características e regiões da imagem influenciaram o resultado, com mapas de calor e análise por segmentos (como rosto, cabelo e fundo). Em um cenário de fraudes que já ultrapassaram US$ 1,5 bilhão em 2025, a proposta ajuda plataformas e equipes de segurança a tomarem decisões de moderação e investigação com mais transparência e menos “caixa-preta”.
