Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
Pesquisadores do MIT Senseable City Lab defendem, em “How AI Sees the City: Urban Visual Intelligence”, que a IA visual pode transformar estudos urbanos ao tratar imagens de câmeras e outras fontes como dados. Em Nova York, técnicas com machine learning identificaram tipos de veículos em 331 câmeras de trânsito e estimaram emissões por automóvel, mostrando como a escala de imagens pode aumentar precisão e cobertura.
O livro também destaca aplicações para planejamento urbano, como entender gargalos de tráfego, pontos mais perigosos em cruzamentos e áreas de praças e parques que atraem mais pessoas. Ao mesmo tempo, os autores alertam para preocupações com vigilância e para o risco de vieses serem reforçados por sistemas de IA, especialmente com a instalação de câmeras em larga escala.
Nove em cada dez empresas americanas já usam inteligência artificial para triar candidatos, e um estudo da Universidade Stanford, com Chapman e Northeastern, aponta um efeito que pode atingir quem busca emprego: ser reprovado por uma IA em uma vaga aumenta a chance de ser reprovado nas outras vagas que usam o mesmo sistema. A pesquisa “Algorithmic Monocultures in Hiring” analisou mais de 4 milhões de candidaturas enviadas por cerca de 3,4 milhões de pessoas a 156 empregadores que usam a plataforma de triagem Pymetrics, adquirida pela Harver em 2022.
O trabalho descreve o cenário como “monocultura algorítmica”, em que vieses e limitações do algoritmo se espalham entre empresas diferentes que recorrem ao mesmo fornecedor. Entre candidatos que se inscreveram em dez vagas triadas pela Pymetrics, 4% foram reprovados em todas elas, e o estudo também identificou disparidade racial nos resultados usando a regra dos quatro quintos, com diferenças que variam por tipo de vaga.
Chloé Bakalar deixou a OpenAI após pouco menos de um ano na empresa, segundo o Financial Times. Ela ocupava o cargo de Líder de Ética, que ficou vago desde então.
A função de eticista em empresas de tecnologia envolve avaliar o impacto dos produtos nos usuários e definir limites de uso responsáveis, com foco em vieses de modelos de IA. Bakalar também atuava nas abordagens éticas de cada modelo e na interação com humanos, além de ter trabalhado por seis anos na Meta antes de chegar à OpenAI em agosto.
:quality(85)/c0894921-89f1-4bcc-a078-5f7449ea56f6.jpg)