QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

5 resultados para DetecçãoDeIA

Quinta · 08 out 2026-10-08 1 matéria
IA Destaque Vídeo falso de Flávio Bolsonaro com áudio sintético é marcado como IA
Pesquisa · IA

Vídeo falso de Flávio Bolsonaro com áudio sintético é marcado como IA

Um vídeo que viralizou no Instagram, TikTok, X e WhatsApp mostra Flávio Bolsonaro ao lado de Fernanda Bolsonaro e atribui a ele uma fala falsa sobre cortes em pensões e no 13º salário. A checagem aponta que o áudio foi fabricado com inteligência artificial e sincronizado ao movimento dos lábios do candidato.

Ferramentas de detecção usadas no Fato ou Fake indicaram alta probabilidade de manipulação: Hive Moderation apontou 83,1% e Hiya/InVID chegou a 99% de chances de geração por IA. A assessoria de Flávio Bolsonaro afirmou ser uma “evidente montagem por IA” e uma “fake news eleitoral”, enquanto a gravação verdadeira apresenta outra fala sobre o resultado do primeiro turno.

#InteligenciaArtificial · #IA · #Deepfake · #FakeNews · #DeteccaoDeIA · #Eleicoes2026

G1 Tecnologia 21:41
Quarta · 07 out 2026-10-07 1 matéria
IA Startup britânica cria selo “organic” para livros escritos por humanos
Pesquisa · IA

Startup britânica cria selo “organic” para livros escritos por humanos

A startup britânica Books by People recebeu aprovação do UK Intellectual Property Office para começar a distribuir um selo que indica que um livro foi escrito por uma pessoa, sem uso de máquinas. O marcador, com formato de impressão digital, será exibido na capa e faz parte de um processo de verificação que inclui declaração de autoria e análise manual de rascunhos e materiais de pesquisa.

A iniciativa surge após uma série de controvérsias na indústria editorial envolvendo suspeitas de uso de IA por autores. A Books by People afirma que usa software proprietário e busca “indicadores de humanidade” durante a avaliação, cobrando uma taxa de adesão dos publishers e um valor adicional por obra certificada, com a expectativa de lançar o selo no primeiro livro ainda este ano.

#InteligenciaArtificial · #IA · #IAgenerativa · #EdicaoDeLivros · #DeteccaoDeIA · #PropriedadeIntelectual

Wired 08:30
Segunda · 05 out 2026-10-05 1 matéria
IA Destaque Detectores de IA (GPTZero e Originality.ai) estimam, mas não provam autoria
Pesquisa · IA

Detectores de IA (GPTZero e Originality.ai) estimam, mas não provam autoria

GPTZero, Originality.ai e Turnitin analisam padrões estatísticos da escrita para estimar se um texto pode ter sido produzido por modelos de linguagem. Eles tendem a funcionar melhor em textos longos e pouco editados, mas podem errar em textos humanos formais e em conteúdos revisados. Mesmo quando exibem percentuais como “80% IA”, o número não indica quanto do texto foi gerado nem a chance de o autor ter usado ferramentas como ChatGPT.

Em julho de 2023, a OpenAI reconheceu limites desse tipo de método ao desativar seu classificador, após constatar baixa taxa de acerto e falsos positivos. Órgãos como o NIST alertam que interpretar a pontuação como probabilidade direta leva a erros, e estudos-piloto mostram que diferentes detectores podem ser enganados por variações de modelos e prompts. A recomendação é tratar os resultados como ponto de partida e reunir outras evidências, já que detecção de IA não equivale a detecção de plágio.

#InteligenciaArtificial · #IA · #DeteccaoDeIA · #GPTZero · #OriginalityAI · #Turnitin · #NIST

Exame 09:01
Quarta · 02 set 2026-09-02 1 matéria
IA Pangram integra detecção de IA em textos e vira referência no setor
Pesquisa · IA

Pangram integra detecção de IA em textos e vira referência no setor

A startup Pangram, com 24 funcionários e sede em Brooklyn, promete estimar o quanto um texto foi gerado com participação de IA, fornecendo um percentual de “AI involvement”. A empresa ganhou destaque após acusações públicas envolvendo livros e colunas: a estimativa atribuída à Pangram chegou a 78% no caso de “Shy Girl”, e a Hachette cancelou a publicação; depois, a ferramenta também foi citada em episódios como a Modern Love do The New York Times, com pontuação de 100%, e em obras como “Daggermouth” (60%) e “Call Me, I’ll Hide the Body” (97%).

Em julho, a Substack anunciou a integração da Pangram à plataforma para que leitores possam verificar rapidamente possíveis usos de IA. A demanda cresce com a popularização de LLMs e a necessidade de diferenciar escrita humana de “churn” gerado por modelos, mas o tema também enfrenta resistência de autores e especialistas do setor editorial, que criticam a detecção por software e questionam a confiança na ferramenta.

#InteligenciaArtificial · #IA · #DeteccaoDeIA · #IAgenerativa · #LLM · #Substack · #EdicaoDeConteudo

Wired 10:00
Sexta · 21 ago 2026-08-21 1 matéria
IA Destaque LinkedIn: “Seems like AI slop” já teve mais de 1 milhão de cliques
Pesquisa · IA

LinkedIn: “Seems like AI slop” já teve mais de 1 milhão de cliques

O LinkedIn anunciou em 30 de julho o botão “Seems like AI slop” e informou que a ferramenta já foi bastante usada. Em um post na quinta-feira, o chief product officer Hari Srinivasan disse que “mais de 1 milhão de pessoas” clicaram no botão, disponível no menu de três pontos de uma publicação.

A empresa também afirmou que, após mudanças recentes, os usuários passaram a ver “40% menos views” em conteúdos que a plataforma classifica como AI slop. Além disso, o LinkedIn vai exibir uma mensagem para quem publica indicando que “alguns membros” disseram que o post parece gerado por IA, enquanto intensifica a moderação de comentários criados em escala com pouca ou nenhuma participação humana.

#InteligenciaArtificial · #IA · #LinkedIn · #IAgenerativa · #ModeraçãoDeConteúdo · #DetecçãoDeIA

The Verge (AI) 21:25