Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
A União Europeia quer proibir chatbots de simular emoções ou relações interpessoais em interações com pessoas menores de 18 anos, como parte do esforço para evitar dependência emocional de crianças e adolescentes. As regras devem entrar no EU Kids Act, proposto nesta quinta-feira, com restrições também ao acesso de menores a redes sociais e plataformas de vídeo.
Crianças menores de 13 anos não poderão usar chatbots sem supervisão dos responsáveis, e as plataformas terão de incorporar proteções de segurança infantil para evitar multas de até 6% do faturamento mundial. O texto ainda prevê que chatbots na UE não retenham memória entre conversas separadas e que serviços como redes sociais, vídeos e jogos não ativem nem incentivem automaticamente o uso de chatbots de IA, incluindo a prática de destacar “companheiros” de IA no topo da lista de contatos.
Ursula von der Leyen anunciou propostas da Comissão Europeia para proteger crianças e adolescentes na internet, incluindo a proibição de redes sociais para menores de 13 anos e a criação de contas limitadas para menores de 15. Entre 13 e 15 anos, os jovens teriam “minicontas” instaladas e supervisionadas pelos pais, com funções restritas e tempo de uso limitado, enquanto plataformas voltadas a 15 a 18 anos teriam de adotar design seguro.
As medidas fazem parte do projeto de lei europeu “EU Kids Act” e dependem da aprovação do Parlamento Europeu e dos 27 países da UE. Documentos consultados pela AFP indicam que a regra se aplicará não só às redes sociais, mas também a assistentes de inteligência artificial, robôs conversacionais (chatbots) e jogos online, com multas que podem chegar a 6% do faturamento mundial em caso de descumprimento.
O governador da Califórnia, Gavin Newsom, aprovou 13 leis para endurecer regras sobre assistentes de inteligência artificial e redes sociais, com foco na proteção de crianças e adolescentes. Uma das medidas exige que serviços como ChatGPT, Gemini e Claude tenham protocolos de crise quando usuários demonstrarem sinais de que planejam cometer suicídio.
A norma também obriga plataformas a oferecer controle parental e a avisar os pais quando menores desativarem recursos de segurança. Para redes como Instagram e TikTok, a Califórnia proibiu a oferta de recursos viciantes para menores de 16 anos e restringiu práticas como reprodução automática e sugestões baseadas no histórico. Outra lei ampliou a definição de exploração sexual infantil para barrar a veiculação de materiais modificados digitalmente ou gerados com IA para retratar menores em atos de conduta sexual.