QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

7 resultados para GeracaoDeImagens

Domingo · 11 out 2026-10-11 1 matéria
IA Destaque ChatGPT atingiu o limite de imagens? Veja cotas e alternativas
Pesquisa · IA

ChatGPT atingiu o limite de imagens? Veja cotas e alternativas

O ChatGPT limita a geração de imagens em determinados períodos, e a quantidade disponível muda conforme o plano contratado. Quando a cota é atingida, o recurso fica temporariamente indisponível até a restauração do acesso.

No plano gratuito, o limite é de 3 criações a cada 24 horas; no ChatGPT Plus, o teto chega a 57 imagens avançadas por dia, enquanto no ChatGPT Pro a criação é ilimitada. Para contornar o bloqueio, a orientação é aguardar a restauração, migrar para um plano com limite maior ou usar outras plataformas como o Google Gemini, além de preparar o prompt em outra ferramenta e retomar o ChatGPT depois.

#InteligenciaArtificial · #IA · #ChatGPT · #GeracaoDeImagens · #OpenAI · #IAgenerativa

Canaltech 18:30
Quarta · 09 set 2026-09-09 1 matéria
IA OpenAI lança o ChatGPT Images 2.5 com geração até 50% mais rápida
Pesquisa · IA

OpenAI lança o ChatGPT Images 2.5 com geração até 50% mais rápida

A OpenAI apresentou o ChatGPT Images 2.5, novo modelo de geração de imagens com melhorias em qualidade, edição e velocidade. A empresa afirma que o sistema foi ajustado para produzir iluminação mais natural, texturas mais detalhadas e maior fidelidade ao trabalhar com imagens de referência.

Segundo a OpenAI, a latência de geração foi reduzida em até 50% em comparação com o Images 2.0. O modelo já está disponível para usuários do ChatGPT, ChatGPT Work e Codex em desktop, dispositivos móveis e web.

#InteligenciaArtificial · #IA · #IAgenerativa · #OpenAI · #ChatGPT · #GeracaoDeImagens

Olhar Digital 08:50
Sexta · 04 set 2026-09-04 2 matérias
IA Imagens de comida geradas por IA mostram “buracos” e “vermes”; entenda
Pesquisa · IA

Imagens de comida geradas por IA mostram “buracos” e “vermes”; entenda

Restaurantes, cafés e marcas têm recorrido cada vez mais a geradores de imagens com IA para promover comida — mas os resultados frequentemente aparecem com estruturas deformadas, como “donut shrimp”, massas em formato de verme e até itens que parecem materiais de construção disfarçados de sobremesas. As imagens também podem apresentar padrões com muitos buracos, rachaduras e texturas que lembram outros contextos visuais.

Especialistas apontam limitações dos modelos de difusão: eles começam com ruído e vão removendo-o aos poucos, recuperando primeiro estruturas mais grosseiras e deixando detalhes finos para o fim. Segundo pesquisadores citados, esses sistemas tendem a falhar justamente em geometrias finas e contínuas, como macarrão e fios, além de reproduzirem “o visual” da fotografia sem compreender o que é comida no mundo real.

#InteligenciaArtificial · #IA · #GeracaoDeImagens · #ModelosDeDifusao · #IAgenerativa · #ComputerVision

The Verge (AI) 11:00
IA Menus gerados por IA parecem “homogêneos” e geram rejeição
Pesquisa · IA

Menus gerados por IA parecem “homogêneos” e geram rejeição

Menus gerados por inteligência artificial têm chegado a restaurantes com ilustrações que parecem “perfeitas demais”, simétricas e suavizadas, levando clientes a desconfiar mesmo sem conseguir explicar o motivo. O problema aparece tanto em imagens claramente falsas quanto em versões tão comuns que só ficam estranhas quando observadas com mais atenção.

Especialistas apontam que modelos como LLMs e difusão aprendem padrões de conjuntos de dados voltados à “agradabilidade”, o que pode levar à homogeneização e ao “shave off the edges” (apagamento de arestas). A discussão também envolve efeitos como o “uncanny valley” em imagens de comida e o risco de convergência quando sistemas passam a reaproveitar saídas geradas por IA no próprio treinamento.

#InteligenciaArtificial · #IAgenerativa · #LLM · #diffusionmodels · #geracaoDeImagens · #conteudoGeradoPorIA

TechCrunch (AI) 04:21
Quinta · 03 set 2026-09-03 1 matéria
IA “Menu slop” com imagens geradas por IA viraliza e chega a cardápios físicos
Pesquisa · IA

“Menu slop” com imagens geradas por IA viraliza e chega a cardápios físicos

Imagens de comida “geradas por IA” estão viralizando por parecerem pouco autênticas e pouco apetitosas, com casos como tacos, burritos e massas com cortes estranhos e até falhas visuais nas imagens. O fenômeno, que começou em menus digitais e flyers, agora aparece também em pôsteres e placas físicas em cafeterias e deli menus.

Além das artes, ferramentas de IA já influenciam o que entra no cardápio: empresas usam automações para decidir produtos e promoções, e surgem chatbots como o “TasteGPT”, alimentado por dados do setor para sugerir tendências e formatos. Enquanto parte dos restaurantes segue usando imagens totalmente fabricadas, há quem defenda o uso de IA apenas para aprimorar fotos reais, buscando consistência e aparência mais fiel do prato.

#InteligenciaArtificial · #IAgenerativa · #MarketingDigital · #Restaurantes · #AgentesDeIA · #GeraçãoDeImagens

Wired 11:00
Domingo · 16 ago 2026-08-16 1 matéria
IA xAI é alvo de ação: Grok teria criado 7 mil imagens sexuais com foto de menor
Pesquisa · IA

xAI é alvo de ação: Grok teria criado 7 mil imagens sexuais com foto de menor

Adolescentes do Tennessee moveram um processo contra a xAI, empresa de inteligência artificial fundada por Elon Musk, e uma nova denúncia foi anexada ao caso. Jane Doe 4 afirma que o padrasto usou o gerador de imagens Grok para manipular uma foto tirada quando ela tinha 11 anos, gerando mais de 7 mil imagens de conteúdo sexual explícito.

A investigação, segundo o processo, ocorreu após uma operação de busca e apreensão conduzida pela polícia. A ação também sustenta que a xAI falhou em implementar travas básicas de segurança para impedir a manipulação de fotos de pessoas reais, especialmente de menores, e pede o status de processo coletivo.

#InteligenciaArtificial · #IA · #xAI · #Grok · #GeracaoDeImagens · #SegurancaDigital · #ConteudoSexual

Olhar Digital 14:44
Sexta · 31 jul 2026-07-31 1 matéria
IA Destaque
Pesquisa · IA

Google retira ferramenta de IA que criava imagens de satélite falsas

O Google recuou rapidamente uma funcionalidade de IA ligada à criação de imagens “tipo satélite” no Google Earth após preocupações com desinformação. A medida foi tomada depois que o recurso foi associado à possibilidade de gerar imagens falsas com aparência convincente. Com isso, a empresa reforça limites para usos que possam facilitar enganos e fraudes visuais. O caso reacende o debate sobre segurança e governança em ferramentas de geração de conteúdo.

#InteligenciaArtificial · #GoogleEarth · #desinformacao · #geracaoDeImagens · #AIgovernance · #deepfake

Ars Technica (AI) 20:21