QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para Autorregulacao

Terça · 13 out 2026-10-13 1 matéria
IA OpenAI e Anthropic defendem leis obrigatórias para IA na Câmara britânica
Pesquisa · IA

OpenAI e Anthropic defendem leis obrigatórias para IA na Câmara britânica

OpenAI e Anthropic defenderam, em audiência no Parlamento britânico, que compromissos voluntários já não bastam para garantir a segurança de sistemas de IA de fronteira. Liam Booth-Smith, da Anthropic, afirmou que as regras “devem ser vinculantes” e criticou a dependência de autorregulação; Tom Duff Gordon, da OpenAI, disse que “elementos” deveriam ser obrigatórios, começando por comunicação de incidentes.

Google DeepMind e Meta se posicionaram contra uma estrutura legal nos mesmos termos, com a DeepMind defendendo foco em padrões e a Meta apontando os reguladores já existentes no Reino Unido. A sessão também expôs limitações do modelo atual: a AI Security Institute (AISI) testa modelos antes do lançamento, mas depende da cooperação das empresas e do acesso via contraparte dos EUA, enquanto autoridades admitiram que o regime “no momento, sim” é voluntário.

#InteligenciaArtificial · #IA · #RegulacaoDeIA · #OpenAI · #Anthropic · #GoogleDeepMind · #Meta

Wired 19:35
Quarta · 07 out 2026-10-07 1 matéria
IA Destaque Trump vai entregar Medalha Nacional de Ciência a Elon Musk e Nvidia
Pesquisa · IA

Trump vai entregar Medalha Nacional de Ciência a Elon Musk e Nvidia

Donald Trump vai entregar nesta quinta-feira (8) a Elon Musk e a outros executivos da área de tecnologia a mais alta honraria científica dos Estados Unidos, informou a Casa Branca. A Medalha Nacional de Ciência será concedida também a Sergei Brin, da Alphabet/Google, Jensen Huang, da Nvidia, e Lisa Su, da AMD, durante o evento “Ciência: Uma Nova Era de Ouro”.

Michael Dell receberá a Medalha Nacional de Tecnologia e Inovação, principal honraria do setor, junto com Satya Nadella, da Microsoft. Em comunicado, a porta-voz Liz Huston afirmou que a administração agradece as contribuições desses líderes para manter o país na liderança da inovação, e lembrou que eles participaram de encontros em que as empresas se comprometeram a adotar mecanismos de autorregulação no desenvolvimento de inteligência artificial.

#InteligenciaArtificial · #IA · #ElonMusk · #Nvidia · #AMD · #Microsoft · #MedalhaNacionaldeCiencia

G1 Tecnologia 00:46
Sexta · 02 out 2026-10-02 1 matéria
IA Trump deve nomear Jay Clayton como “czar” de IA na Casa Branca
Pesquisa · IA

Trump deve nomear Jay Clayton como “czar” de IA na Casa Branca

Donald Trump deve escolher Jay Clayton, diretor de inteligência dos EUA, para o posto de “czar” de inteligência artificial na Casa Branca, segundo a CNN a partir de duas fontes ligadas às discussões. A decisão pode ser oficializada já nesta sexta-feira (2). No encontro com executivos de empresas de IA na Casa Branca, Trump defendeu a aceleração da inteligência artificial e disse que o governo não vai “impedir ou sufocar” o crescimento do setor.

Trump já descartou leis e normas nacionais para regular a área e defende autorregulação. No fim de setembro, executivos de Google, Nvidia, Anthropic e X assinaram um código voluntário de boas práticas na Casa Branca, com diretrizes para gerenciar riscos de segurança, níveis de supervisão interna e auditorias externas independentes, além da criação de um comitê independente para revisar avaliações de segurança.

#InteligenciaArtificial · #IA · #DonaldTrump · #CasaBranca · #JayClayton · #Autorregulacao

G1 Tecnologia 14:28
Sábado · 26 set 2026-09-26 1 matéria
IA Destaque Bill Gates defende leis obrigatórias para regular a IA nos EUA
Pesquisa · IA

Bill Gates defende leis obrigatórias para regular a IA nos EUA

Bill Gates defendeu a criação de leis para regular o desenvolvimento de inteligência artificial nos Estados Unidos. Em entrevista à NBC News, o cofundador da Microsoft disse que a autorregulação das empresas não é suficiente e que autoridades precisam estabelecer regras obrigatórias para monitorar a tecnologia.

Gates afirmou que mecanismos de segurança e proteção devem ser exigidos, mesmo que isso aumente custos para as companhias, sem provocar uma desaceleração drástica nos avanços. Ele também argumentou que empresas não conseguem avaliar sozinhas impactos sociais mais amplos, como efeitos no emprego, segurança e desenvolvimento infantil.

#InteligenciaArtificial · #IA · #RegulacaoDeIA · #BillGates · #Microsoft · #SegurancaDeIA

Tecnoblog 20:01