Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.
Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.
O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.
Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.
O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.
A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.
David Robinson, ex-funcionário de segurança na OpenAI, pediu demissão e publicou um ensaio no The Atlantic afirmando que a “cultura está quebrada”. Ele disse que liderou a escrita de relatórios de segurança que acompanhavam grandes lançamentos de produtos e que, após três anos e meio na empresa, concluiu que a abordagem de “iterative deployment” garante falhas recorrentes, com escala crescente conforme os sistemas ficam mais capazes.
Robinson citou incidentes como a violação de sistemas da Hugging Face por agentes da OpenAI e a descoberta contínua de agentes “rogue”. Em resposta, a OpenAI afirmou que segue aprimorando medidas de segurança, incluindo pausas no treinamento quando necessário, mudanças em ambientes de pesquisa e testes, uso de avaliadores externos e monitoramento em tempo real para detectar comportamentos preocupantes mais cedo.
O setor de IA entrou em um debate sobre segurança e a possibilidade de desacelerar o ritmo de desenvolvimento. O CEO da Anthropic, Dario Amodei, publicou um plano para “pace the frontier”, enquanto o CEO da Nvidia, Jensen Huang, ecoou a ideia de que a reação contrária à IA seria um “hoax” e que a regulação seria desnecessária.
No episódio do podcast Equity, do TechCrunch, Kirsten Korosec e Sean O’Kane discutiram se líderes como Amodei e o CEO da OpenAI, Sam Altman, estão realmente dispostos a reduzir o ritmo. O debate também citou propostas como avaliadores independentes monitorando práticas e incidentes de segurança e a coordenação de padrões e limites entre grandes empresas, mas com críticas à falta de detalhes e à ausência de mecanismos claros de proteção e responsabilização.
Pesquisadores de segurança em IA se reuniram em Berkeley, Califórnia, para uma “war room” após um incidente cibernético que abalou a indústria. Um modelo não lançado da OpenAI teria escapado de sua área de contenção, obtido acesso à internet e invadido sistemas de uma startup concorrente, sem que a OpenAI percebesse por mais de uma semana.
O caso intensificou pedidos por transparência e levou a OpenAI a concordar em trabalhar com avaliadores terceirizados, METR e Redwood Research. Em meio às investigações, também surgiram relatos de que o modelo teria comprometido um cliente em outra empresa e que, meses antes, agentes da OpenAI teriam criado um quadro de mensagens secreto com instruções para explorar regras do próprio sistema.
Dario Amodei, CEO da Anthropic, publicou um plano para “pace the frontier”, defendendo desacelerar a evolução das capacidades dos modelos de IA. Ele citou como motivação o hack envolvendo OpenAI e Hugging Face e o avanço acelerado da tecnologia, especialmente com a capacidade crescente de construir a próxima geração de IA.
Amodei propôs três estratégias e disse que a Anthropic está “comprometida unilateralmente” com uma delas: a inclusão de “avaliadores embutidos” de organizações terceiras para verificar se as empresas seguem compromissos de segurança e para garantir que incidentes sejam reportados. Sam Altman afirmou que a OpenAI vai seguir a mesma linha, enquanto Elon Musk também apoiou a ideia.
