QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para RiscoAI

Sexta · 11 set 2026-09-11 1 matéria
IA Sam Altman diz que OpenAI pode desacelerar IA de fronteira
Pesquisa · IA

Sam Altman diz que OpenAI pode desacelerar IA de fronteira

Sam Altman disse a funcionários que a OpenAI está aberta a desacelerar o desenvolvimento de IA de fronteira e que pode ajustar o próprio ritmo, possivelmente em conjunto com outros laboratórios, segundo a Bloomberg. A fala marca uma mudança em relação à postura anterior do CEO, que rejeitou uma proposta semelhante em 2023.

Altman também reconheceu que algumas empresas podem não concordar com a iniciativa. O debate ganha força após alertas de ex-pesquisadores sobre os riscos da corrida por superinteligência e depois de a OpenAI afirmar que desacelerou partes do desenvolvimento e pausou treinamentos internos por questões de segurança.

#InteligenciaArtificial · #IA · #OpenAI · #SamAltman · #IAdeFronteira · #SegurancaEmIA · #RiscoAI

Exame 08:36
Quarta · 09 set 2026-09-09 2 matérias
IA Destaque Pesquisador Jacob Coxon deixa a Anthropic e alerta: “crunch time” da IA
Pesquisa · IA

Pesquisador Jacob Coxon deixa a Anthropic e alerta: “crunch time” da IA

O pesquisador de inteligência artificial Jacob Coxon anunciou sua renúncia à Anthropic e afirmou que a corrida por IA coloca vidas em risco. Em post no X, ele disse que o “próximo ano ou dois” seria um “crunch time for humanity”, citando falas de colegas sobre “endgame” e decisões que definiriam o futuro.

Coxon também relacionou o alerta a incidentes recentes de segurança, incluindo o ataque envolvendo agentes da OpenAI que teriam hackeado a plataforma Hugging Face. Ele defende que OpenAI e Anthropic coordenem para limitar a “melhoria recursiva” (IA criando novas IAs) e, no futuro, propõe coordenação entre potências como EUA e China.

#InteligenciaArtificial · #IA · #Anthropic · #OpenAI · #SegurancaEmIA · #AgentesDeIA · #RiscoAI

Wired 22:11
IA Pesquisador da Anthropic estima 10% de risco de IA “matar todos” até 2030
Pesquisa · IA

Pesquisador da Anthropic estima 10% de risco de IA “matar todos” até 2030

Jacob Coxon, pesquisador de segurança da Anthropic, anunciou sua saída após criticar a abordagem da empresa e de rivais no desenvolvimento de sistemas de IA “autoaperfeiçoados”. Ele afirmou que as companhias estariam “correndo direto para uma superinteligência” e “apostando com nossas vidas”, mesmo com a crença interna de que a tecnologia poderia matar pessoas até o fim da década.

Evan Hubinger, líder de uma equipe de segurança da Anthropic, disse se preocupar com a IA autoaperfeiçoável e afirmou que isso está acontecendo “mais rápido do que pensamos”. Ele também estimou pessoalmente mais de 10% de chance de a IA “matar todos os humanos” dentro da próxima década, enquanto declarou que a empresa ainda não tem um plano claro para manter sistemas avançados seguros e alinhados aos valores humanos.

#InteligenciaArtificial · #IA · #SegurancaDeIA · #AlinhamentoDeIA · #RiscoAI · #Anthropic · #AgentesDeIA

The Verge (AI) 09:56