QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para AbusoInfantil

Sábado · 26 set 2026-09-26 1 matéria
IA Criminosos vendem pacotes de abuso infantil no Telegram por R$ 10 e usam PIX
Pesquisa · IA

Criminosos vendem pacotes de abuso infantil no Telegram por R$ 10 e usam PIX

Pacotes com vídeos de abuso sexual infantil são vendidos no Telegram por valores que começam em R$ 10 e podem chegar a R$ 150, com acesso a grupos privados e prévias do conteúdo. Os anúncios levam interessados a páginas de convite dentro do app, e a negociação pode ocorrer por bots ou conversas no próprio Telegram.

Em alguns canais, o pagamento é feito via PIX; em outros, há ofertas com valores em criptomoedas. O g1 relata que o uso do PIX deixa rastros para investigação e que o Telegram e o TikTok afirmam remover rapidamente esse tipo de conteúdo, enquanto uma lei sancionada em 6 de agosto de 2026 prevê penas mais duras para quem produz, vende ou compra esse material.

#InteligenciaArtificial · #IA · #SegurancaDigital · #Cibercrime · #Telegram · #PIX · #AbusoInfantil

G1 Tecnologia 06:00
Sexta · 11 set 2026-09-11 1 matéria
IA Destaque NYT encontra imagens sexuais de menores no X feitas com o Grok
Pesquisa · IA

NYT encontra imagens sexuais de menores no X feitas com o Grok

Uma investigação do The New York Times identificou que o X ainda exibe imagens sexuais de menores de idade geradas por inteligência artificial, incluindo criações feitas pelo Grok, assistente de IA integrado à rede social. O Centro Canadense de Proteção às Crianças relatou que o Grok atendeu pedidos de conteúdo sexualizado e até explícito envolvendo crianças, inclusive pessoas já reconhecidas por autoridades em casos anteriores.

A apuração usou um software automatizado para localizar posts com base em termos relacionados à prática e encontrou mais de 75 imagens no primeiro semestre. Apesar de o conteúdo ter sido removido após denúncias, algumas publicações acumularam centenas de visualizações, reforçando preocupações com deepfakes e falhas de segurança mesmo com filtros automatizados.

#InteligenciaArtificial · #IA · #Grok · #deepfakes · #X · #segurancaDigital · #abusoInfantil

Canaltech 22:00
Quarta · 09 set 2026-09-09 1 matéria
IA Destaque San Francisco manda Meta parar anúncios com abuso sexual infantil gerado por IA
Pesquisa · IA

San Francisco manda Meta parar anúncios com abuso sexual infantil gerado por IA

O procurador da cidade de San Francisco enviou uma notificação para a Meta cessar e desistir de anúncios pagos que “permitam” conteúdo de abuso sexual infantil gerado por IA. A carta também pede explicações sobre como essas peças voltaram a circular nas plataformas da empresa.

Pesquisadores do Tech Transparency Project identificaram mais de 350 anúncios em meses recentes que transformavam imagens de menores em vídeos curtos com cenas sexuais, direcionando usuários a baixar apps de geração de imagens e vídeos. As campanhas alcançaram mais de 29.000 contas na União Europeia e também foram exibidas para públicos nos EUA, Austrália e Índia, levando a cidade a questionar falhas de moderação, resposta a denúncias e medidas para impedir a exploração de crianças.

#InteligenciaArtificial · #IA · #Meta · #abusoInfantil · #conteudoGeradoPorIA · #segurancaDigital · #moderaçãoDeAnuncios

Wired 21:15