Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
A DoorDash desenvolveu o SafeChat para lidar com abusos verbais no chat do marketplace, onde consumidores, entregadores (Dashers) e comerciantes se comunicam durante pedidos. A empresa afirma que precisa agir com baixa latência: são mais de 4 milhões de mensagens por dia e existe apenas uma fração de segundo para decidir se cada mensagem é segura, sem prejudicar a experiência.
O sistema combina uma etapa inicial com um classificador de ML treinado com dados internos, capaz de responder em menos de 100 ms em 90% dos casos e com custo apenas de infraestrutura. Para o pequeno volume de mensagens que não passam nessa triagem (menos de 10%), o SafeChat chama um LLM para pontuar e classificar eixos como nível de ameaça, grau de palavrões e conteúdo sexual, usando perguntas mais difíceis apenas quando necessário.
O LinkedIn anunciou que reduziu em 40% as visualizações de publicações de baixa qualidade após implementar um botão de denúncia para esse tipo de conteúdo. A plataforma também informou que recebeu mais de 1 milhão de reclamações de posts gerados por inteligência artificial e que agora notifica os autores quando a denúncia aponta possível texto genérico de IA.
O diretor de produtos Hari Srinivasan afirmou que os membros já veem menos “textos robotizados” no feed. Para evitar abusos, o LinkedIn ajustou o algoritmo e criou mecanismos que impedem que ondas de feedback negativo sejam usadas para silenciar injustamente outros usuários, além de introduzir um sistema de transparência restrito ao painel de análise de publicações.
O LinkedIn anunciou em 30 de julho o botão “Seems like AI slop” e informou que a ferramenta já foi bastante usada. Em um post na quinta-feira, o chief product officer Hari Srinivasan disse que “mais de 1 milhão de pessoas” clicaram no botão, disponível no menu de três pontos de uma publicação.
A empresa também afirmou que, após mudanças recentes, os usuários passaram a ver “40% menos views” em conteúdos que a plataforma classifica como AI slop. Além disso, o LinkedIn vai exibir uma mensagem para quem publica indicando que “alguns membros” disseram que o post parece gerado por IA, enquanto intensifica a moderação de comentários criados em escala com pouca ou nenhuma participação humana.
A Ars Technica relata que moderadores do subreddit r/AskHistorians, no Reddit, passaram a receber alertas em massa em um canal de Slack usado para triagem de mensagens. Em abril, dezenas de comentários e posts antigos (de até 10 anos) foram removidos automaticamente, e a equipe afirma que não conseguiu reverter o apagamento. A moderação suspeita que as ferramentas de moderação com IA do Reddit, recentemente atualizadas, tenham marcado links para o site Rare Historical Photos como spam, levando à exclusão de publicações que usavam imagens do serviço.
O caso importa porque mostra um risco prático: quando a moderação depende demais de IA, falsos positivos podem eliminar informações valiosas e difíceis de recuperar, afetando a “memória” de comunidades e a confiança dos usuários. Para devs e times de produto, o recado é reforçar validações, revisão humana e métricas que considerem erros de remoção, não apenas eficiência automatizada.
