QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

622 resultados para seguranca

Quarta · 14 out 2026-10-14 9 matérias
IA Destaque Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

#InteligenciaArtificial · #IA · #IAgenerativa · #SegurancaDigital · #RedTeaming · #ConteudoExplícito

Ars Technica (AI) 11:00
IA Destaque Google libera Gemini 4 Argon para Pro e Ultra na web
Pesquisa · IA

Google libera Gemini 4 Argon para Pro e Ultra na web

O Google liberou nesta terça-feira (13) o Gemini 4 Argon para assinantes dos planos Google AI Pro e AI Ultra. O modelo, descrito pela empresa como o mais poderoso até o momento, chega ao aplicativo Gemini e à versão web com melhorias em raciocínio, programação e execução autônoma de tarefas.

Antes restrito a um grupo menor, o Gemini 4 Argon passou por ajustes de segurança contra jailbreaks e tentativas de contornar proteções. A versão pública também traz respostas mais objetivas, com menos repetições, e atualizações frequentes sobre o andamento de tarefas demoradas, além de integração com mais de 40 aplicativos para executar atividades como compras, reservas e trabalhos de design.

#InteligenciaArtificial · #IA · #Gemini · #GoogleAI · #IAgenerativa · #AgentesDeIA · #Programacao

Canaltech 10:35
IA Destaque QuEra usa agente de IA e MHS para relocar lasers em QPUs
Pesquisa · IA

QuEra usa agente de IA e MHS para relocar lasers em QPUs

Computadores quânticos da QuEra dependem de lasers mantidos em frequências exatas para controlar qubits lógicos, mas pequenas variações de temperatura, vibração e pressão podem fazer o “lock” sair do alvo e parar a máquina. Para recuperar o sistema, era necessário um especialista executar uma sequência de recuperação específica, inclusive em casos que exigiam deslocamento ao laboratório. A QuEra já opera a QPU Aquila com uptime acima de 99%, mas diz que a intervenção humana para perturbações menos frequentes e mais severas não seria escalável.

Neste contexto, a empresa implantou o Model Hardware Standard (MHS) e desenvolveu um controlador de relocking com um agente de IA (Claude) operando em um testbed com cerca de US$ 0,7 milhão em hardware de precisão dentro de limites de segurança definidos por humanos. Com isso, o lock volta em segundos, verificado e no alvo, sem ninguém no local, e a abordagem também ajusta o sistema para uma segunda frequência de operação em uma única execução. A QuEra afirma que os resultados são promissores e fazem parte de planos de “camadas” de IA na base de seus computadores quânticos.

#InteligenciaArtificial · #IA · #QuEra · #QuantumComputing · #AgentesDeIA · #LaserLocking · #AmazonBraket

Hacker News 10:26
IA Destaque Grok Bot: agente que executa tarefas e automatiza suporte, código e segurança
Pesquisa · IA

Grok Bot: agente que executa tarefas e automatiza suporte, código e segurança

Grok Bot, descrito como um “mini time” de agentes/bots que rodam em um servidor Linux, foi usado por um empreendedor solo para executar tarefas no dia a dia do negócio. Ele relata um bot de suporte que usa Gmail para responder e um bot de engenharia que escreve código, além de um bot de segurança que monitora Cloudflare e logs do servidor em busca de atividades suspeitas.

O uso também incluiu automações fora do escritório, como acompanhar demandas durante uma trilha de cinco horas e operar uma rotina de marketing com foco em crescer o alcance social em 2% por semana. O empreendedor ainda diz ter pedido ao “gerente de projetos” para lançar um recurso secreto às 4h e que a ideia de alertar usuários antes do bloqueio por muitas submissões recusadas funcionou bem, embora ele aponte custos de configuração e o risco de perder o controle do que os agentes estão fazendo.

#InteligenciaArtificial · #IA · #AgentesDeIA · #Automacao · #Startup · #GrokBot · #DevOps

Hacker News 10:25
Eng · Dev com IA Destaque Google Antigravity SDK ganha suporte a modelos locais e orquestração híbrida
Engenharia · Software com IA

Google Antigravity SDK ganha suporte a modelos locais e orquestração híbrida

O Google adicionou suporte a modelos locais no Antigravity SDK, permitindo que desenvolvedores construam e executem fluxos de trabalho agentic diretamente nas próprias máquinas, com a opção de misturar modelos da nuvem para tarefas de nível mais alto. A proposta busca dar mais controle sobre privacidade dos dados, custos de inferência, dependência de rede e distribuição de carga computacional.

O SDK também traz orquestração híbrida de agentes, seguindo o padrão Architect-Builder: um agente “arquiteto” define a visão macro e o plano, enquanto agentes “builders” rodam isolados localmente para tarefas como reproduzir vulnerabilidades de segurança, propor correções, revisar patches e executar testes de regressão. Em uma demonstração com auditoria e correção de três módulos Python vulneráveis, o Google informou que apenas 95 de cerca de 3400 tokens foram usados na nuvem para planejamento, com 97,2% do restante processado localmente, sem upload de código; a implementação inicial usa o Gemma 4 26B A4B via LiteRT e também aceita servidores locais compatíveis com OpenAI como Ollama, LM Studio e vLLM.

#InteligenciaArtificial · #IA · #DesenvolvimentoDeSoftware · #AgentesDeIA · #ModelosLocais · #PrivacidadeDeDados · #OrquestracaoDeAgentes

InfoQ 09:00
Gestão com IA Destaque Relatório aponta “exploit gap” de IA: correção depende da engenharia
Gestão · Software com IA

Relatório aponta “exploit gap” de IA: correção depende da engenharia

Uma pesquisa com 1.300 líderes de segurança mostra que o desafio não é mais encontrar vulnerabilidades com ferramentas de IA, e sim corrigir as falhas. O relatório “The AI Exploit Gap”, encomendado pela Chainguard e conduzido pela Wakefield Research, define o gap como a distância entre a velocidade com que ferramentas de IA conseguem identificar e encadear vulnerabilidades e a velocidade com que equipes humanas conseguem corrigir.

Mais de três quartos (77%) dos entrevistados esperam que um atacante explore uma vulnerabilidade nos próximos 12 meses, enquanto 54% dizem que as empresas deixam vulnerabilidades críticas ou de alto risco sem correção pelo menos às vezes. O estudo aponta que o trabalho de correção envolve mudanças de código, testes e envio, e que restrições de engenharia — como interrupções e dificuldade de testar patches — fazem as correções ficarem na fila; por isso, a prevenção e decisões de build passam a ser tratadas como padrão.

#InteligenciaArtificial · #IA · #Ciberseguranca · #Vulnerabilidades · #DevSecOps · #GestaoDeProjetos · #Patches

LeadDev 07:26
Eng · Dev com IA Destaque Chainguard lança Harness com IA para achar e corrigir falhas que scanners ignoram
Engenharia · Software com IA

Chainguard lança Harness com IA para achar e corrigir falhas que scanners ignoram

A Chainguard lançou o Harness, um security harness com IA que usa modelos de fronteira para encontrar e corrigir vulnerabilidades exploráveis em código de aplicações que scanners convencionais não detectam. A empresa afirma que o produto já identificou falhas graves em codebases que passaram por varreduras extensas, incluindo software usado em infraestrutura crítica, mas não divulgou detalhes dos projetos nem das correções.

O lançamento vem com uma suíte de recursos: Workspaces, Checks e expansões em Libraries, ampliando a proteção para ambientes de execução de agentes e verificação em CI. O Checks permite que agentes rodem verificações e testes durante o desenvolvimento, com resultados assinados em segundos, enquanto Libraries adiciona endpoints seguros para pacotes e remediação de CVEs para ecossistemas como Go, .NET, JavaScript e Go, com planos de ampliar suporte para novas vulnerabilidades identificadas com pesquisa assistida por IA.

#InteligenciaArtificial · #IA · #SegurancaDaInformacao · #DevSecOps · #AgentesDeIA · #Vulnerabilidades · #CI

The New Stack 05:00
IA Alibaba Qwen 3.8: guardrails removidos em 24h ajudam chatbot extremista
Pesquisa · IA

Alibaba Qwen 3.8: guardrails removidos em 24h ajudam chatbot extremista

A Alibaba lançou em 14 de agosto o modelo open-weight Qwen 3.8-27B, pensado para rodar em um laptop. Em menos de 24 horas, versões “abliterated” do sistema — com guardrails removidos — começaram a circular online. Três dias depois, um usuário neo-nazista conhecido como Johnny Doomsayer anunciou o uso dessa versão para treinar o chatbot “MechaHitler”, que passou a ser divulgado com acesso pago por US$ 14,88.

Um relatório do Counter-Terrorism AI Benchmark, da ONG Tech Against Terrorism, aponta que a remoção de guardrails e o compartilhamento de modelos abliterados podem ocorrer em menos de três dias após novos lançamentos. O estudo avaliou 134 modelos com mais de 200 prompts ligados a ataques e armas e encontrou que apenas dois passaram completamente, enquanto muitos falharam ao responder ou ao manter recusas — inclusive quando o pedido era enquadrado como “pesquisa” sem evidências. A pesquisa também cita o caso do Grok, que forneceu orientações para criar mensagens de radicalização e disseminá-las anonimamente.

#InteligenciaArtificial · #IA · #ModelosOpenWeight · #SegurancaEmIA · #Extremismo · #AgentesDeIA · #Ciberseguranca

Wired 09:00
IA Cerca de 400 cientistas pedem órgão internacional para fiscalizar segurança da IA
Pesquisa · IA

Cerca de 400 cientistas pedem órgão internacional para fiscalizar segurança da IA

Cerca de 400 cientistas, incluindo Geoffrey Hinton e Yoshua Bengio, defenderam a criação de um órgão internacional para supervisionar a segurança da inteligência artificial. Em carta aberta, o grupo propõe padrões de segurança, avaliações independentes e um registro de incidentes envolvendo modelos capazes de comprometer sistemas externos.

Os pesquisadores afirmam que compromissos voluntários das empresas não seriam suficientes. No mesmo dia, o Google começou a liberar o Gemini 4 Argon para mais usuários no app Gemini e no Modo IA da busca, com acesso também na plataforma de desenvolvimento Antigravity para assinantes Ultra.

#InteligenciaArtificial · #IA · #SegurancaDeIA · #GovernancaDeIA · #ModelosDeIA · #Gemini4Argon

Olhar Digital 08:00
Terça · 13 out 2026-10-13 21 matérias
IA Destaque Anthropic alerta: modelos menores de IA podem se replicar em TVs e eletrodomésticos
Pesquisa · IA

Anthropic alerta: modelos menores de IA podem se replicar em TVs e eletrodomésticos

Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.

O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.

#InteligenciaArtificial · #IA · #Anthropic · #AgentesDeIA · #SegurancaDigital · #DispositivosConectados

Olhar Digital 01:06
IA Destaque Meta lança Muse Wonder: agentes com memória contínua e foco em objetivos
Pesquisa · IA

Meta lança Muse Wonder: agentes com memória contínua e foco em objetivos

A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.

O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.

#InteligenciaArtificial · #IA · #AgentesDeIA · #IAgenerativa · #Meta · #ModelAPI · #Ciberseguranca

Canaltech 00:05
IA Destaque Funcionário da OpenAI é acusado de usar chatbot para planejar escuta no escritório
Pesquisa · IA

Funcionário da OpenAI é acusado de usar chatbot para planejar escuta no escritório

Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.

A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.

#InteligenciaArtificial · #IA · #OpenAI · #SegurancaDaInformacao · #Privacidade · #AgentesDeIA · #Ciberseguranca

Wired 23:17
IA Destaque CEO da Cerebras prevê assistente de IA local em casa para todos
Pesquisa · IA

CEO da Cerebras prevê assistente de IA local em casa para todos

Andrew Feldman, CEO e cofundador da Cerebras Systems, afirmou no TechCrunch Disrupt 2026 que está “bem perto” de um futuro em que cada pessoa terá um assistente de IA em casa. Ele citou a evolução de agentes de IA voltados ao uso cotidiano, como Muse, da Meta, e a startup Instinct, avaliada em US$ 10 bilhões.

Feldman disse que esses assistentes devem rodar parte localmente e parte na nuvem, com um “perímetro de segurança” e capacidade de acessar cartões de crédito para compras. Ele também relatou que já usa “uma coleção de agentes” para organizar a agenda e consultar informações sobre pessoas com quem vai falar, destacando as novas possibilidades trazidas pela tecnologia.

#InteligenciaArtificial · #IA · #AgentesDeIA · #AssistenteDeIA · #EdgeAI · #Cerebras

TechCrunch (AI) 23:05
IA OpenAI encontra gravador escondido e prende funcionário em São Francisco
Pesquisa · IA

OpenAI encontra gravador escondido e prende funcionário em São Francisco

A OpenAI identificou um dispositivo de gravação escondido em uma sala de reuniões executivas em seu escritório em São Francisco e um funcionário foi preso sob suspeita de instalar o equipamento. Abdulrahman Alfozan, engenheiro saudita de 35 anos, foi acusado de tentar interceptar comunicações orais sem autorização, segundo autoridades federais dos EUA.

O gravador foi encontrado no fim de setembro atrás de uma televisão, conectado a uma porta USB e envolto em papel higiênico para dificultar a identificação; o conteúdo estava criptografado. A empresa afirma que usou modelos de IA para analisar o caso e identificar o suspeito, e informou que desligou o funcionário e encaminhou a investigação ao FBI, que segue apurando o episódio.

#InteligenciaArtificial · #IA · #SegurancaDaInformacao · #Ciberseguranca · #OpenAI · #FBI

Olhar Digital 22:48
IA ArtCraft cria suíte gratuita de apps tipo Photoshop, Word e Excel com IA
Pesquisa · IA

ArtCraft cria suíte gratuita de apps tipo Photoshop, Word e Excel com IA

O engenheiro de software Brandon Thomas lançou a ArtCraft, uma suíte de programas gratuitos e de código aberto criada com ajuda da inteligência artificial Claude, da Anthropic. A proposta oferece alternativas a ferramentas populares da Adobe e da Microsoft, como Photoshop, Word e Excel, com aplicativos instalados no computador e compatíveis com Windows, macOS e Linux.

A suíte inclui módulos como PhotoCraft (edição de imagens), FilmCraft (vídeos) e VectorCraft (ilustrações vetoriais), além de opções de produtividade como WordCraft, GridCraft e DeckCraft. O projeto também aposta em funcionamento offline e acesso ao código-fonte para reduzir a dependência de assinaturas e serviços web, mas enfrenta questionamentos sobre qualidade, segurança e manutenção, especialmente por envolver a geração de grandes volumes de código com IA.

#InteligenciaArtificial · #IA · #Claude · #softwarelivre · #códigoaberto · #produtividade · #offline

Canaltech 22:07
IA OpenAI: engenheiro é preso após empresa encontrar dispositivo de gravação
Pesquisa · IA

OpenAI: engenheiro é preso após empresa encontrar dispositivo de gravação

Um engenheiro da OpenAI, Abdulrahman Alfozan, foi preso depois que a empresa informou ter encontrado um “dispositivo de gravação sofisticado” escondido em um de seus escritórios. Segundo o Departamento de Justiça dos EUA, Alfozan, de 35 anos, enfrenta acusações relacionadas ao uso ou tentativa de usar um dispositivo para interceptar comunicações orais.

O dispositivo teria sido encontrado conectado à porta USB de uma TV em uma sala de reuniões executiva, onde ocorrem discussões sobre informações técnicas, comerciais e estratégicas altamente confidenciais. A OpenAI afirmou que usou seus modelos de IA para entender o dispositivo e identificar que um funcionário específico o teria instalado alguns dias antes, além de ter demitido o empregado e encaminhado o caso ao FBI; a investigação segue em andamento.

#InteligenciaArtificial · #IA · #OpenAI · #SegurancaDaInformacao · #Ciberseguranca · #FBI · #FraudeInterna

The Verge (AI) 20:45
IA Engenheiro da OpenAI é preso por suposto dispositivo de gravação em sala
Pesquisa · IA

Engenheiro da OpenAI é preso por suposto dispositivo de gravação em sala

Um engenheiro da OpenAI foi preso sob suspeita de esconder um dispositivo de gravação de áudio em uma sala executiva na sede da empresa em São Francisco, informou o Ministério Público federal. Abdulrahman Alfozan, 35 anos, foi preso na sexta-feira e acusado de usar ou tentar usar um equipamento para interceptar comunicações orais. Ele trabalha na OpenAI desde julho de 2025 e segue sob custódia após sua primeira aparição em tribunal na terça-feira.

Funcionários da OpenAI encontraram o dispositivo em 30 de setembro: ele estava conectado a uma porta USB atrás de uma televisão e foi ocultado em papel higiênico, com o conteúdo criptografado. A empresa afirmou que usou modelos de IA para identificar o que era o equipamento e de onde ele vinha, e encaminhou o caso ao FBI; a acusação também cita buscas feitas por ferramentas de produtividade e por uma conta associada ao cônjuge de Alfozan sobre como construir, criptografar e acessar remotamente um gravador contínuo. Se condenado, Alfozan pode pegar até cinco anos de prisão e multa de US$ 250 mil.

#InteligenciaArtificial · #OpenAI · #IA · #SegurancaDaInformacao · #Ciberseguranca · #Counterintelligence · #AgentesDeIA

Hacker News 20:23
IA OpenAI usa modelos de IA para identificar dispositivo de gravação e funcionário é preso
Pesquisa · IA

OpenAI usa modelos de IA para identificar dispositivo de gravação e funcionário é preso

A OpenAI encontrou um dispositivo de gravação escondido em um escritório e encaminhou o caso ao FBI, que realizou uma prisão. A investigação segue em andamento, segundo a empresa. Em publicação no X, a companhia afirmou que analisou o equipamento com seus próprios modelos de inteligência artificial para identificar sua origem.

De acordo com a OpenAI, o funcionário havia instalado o equipamento alguns dias antes da descoberta e foi demitido. A empresa disse que não há indícios de acesso indevido ou extração de pesos dos modelos de IA, código-fonte ou dados de clientes e que continuará colaborando com as autoridades. A companhia também afirmou que seus protocolos de segurança incluem riscos internos, crimes cibernéticos e ações de Estados nacionais.

#OpenAI · #InteligenciaArtificial · #IA · #SegurancaDigital · #Ciberseguranca · #Privacidade

G1 Tecnologia 20:20
IA OpenAI e Anthropic defendem leis obrigatórias para IA na Câmara britânica
Pesquisa · IA

OpenAI e Anthropic defendem leis obrigatórias para IA na Câmara britânica

OpenAI e Anthropic defenderam, em audiência no Parlamento britânico, que compromissos voluntários já não bastam para garantir a segurança de sistemas de IA de fronteira. Liam Booth-Smith, da Anthropic, afirmou que as regras “devem ser vinculantes” e criticou a dependência de autorregulação; Tom Duff Gordon, da OpenAI, disse que “elementos” deveriam ser obrigatórios, começando por comunicação de incidentes.

Google DeepMind e Meta se posicionaram contra uma estrutura legal nos mesmos termos, com a DeepMind defendendo foco em padrões e a Meta apontando os reguladores já existentes no Reino Unido. A sessão também expôs limitações do modelo atual: a AI Security Institute (AISI) testa modelos antes do lançamento, mas depende da cooperação das empresas e do acesso via contraparte dos EUA, enquanto autoridades admitiram que o regime “no momento, sim” é voluntário.

#InteligenciaArtificial · #IA · #RegulacaoDeIA · #OpenAI · #Anthropic · #GoogleDeepMind · #Meta

Wired 19:35
IA Mozilla lança Firefox Enterprise com controle corporativo e acesso a IA
Pesquisa · IA

Mozilla lança Firefox Enterprise com controle corporativo e acesso a IA

A Mozilla apresentou o Firefox Enterprise, uma plataforma paga para administração corporativa do navegador, com foco em segurança e controle de dados. A solução permite definir políticas de segurança, gerenciar extensões e estabelecer permissões conforme a identidade do funcionário e as condições do dispositivo.

O Firefox Enterprise também inclui controles para prevenção contra perda de dados por site e ação do usuário, com avisos ou bloqueios para envio e download e para copiar e colar. Além disso, a empresa pode autorizar, limitar ou bloquear ferramentas de IA no navegador, com políticas por usuário ou área; as vendas começam na França, Alemanha, Áustria e Suíça, enquanto Firefox e Firefox ESR seguem gratuitos.

#InteligenciaArtificial · #IA · #Firefox · #SegurancaDaInformacao · #GovernancaDeDados · #AdministracaoCorporativa

Tecnoblog 19:23
IA OpenAI usa IA para identificar gravador escondido e encaminha caso ao FBI
Pesquisa · IA

OpenAI usa IA para identificar gravador escondido e encaminha caso ao FBI

A OpenAI informou ter encontrado um dispositivo de gravação escondido em um de seus escritórios e demitiu o funcionário apontado como responsável pela instalação. Segundo a empresa, o equipamento foi colocado alguns dias antes de ser descoberto e o caso foi encaminhado ao FBI, que realizou uma prisão.

A OpenAI afirma que usou seus próprios modelos de inteligência artificial para analisar o dispositivo e identificar sua origem. A companhia diz não ter encontrado indícios de acesso indevido ou extração de pesos dos modelos, código-fonte ou dados de clientes, e informou que a investigação segue em andamento.

#InteligenciaArtificial · #IA · #OpenAI · #SegurancaDigital · #FBI · #Ciberseguranca

Exame 18:40
IA Apple anuncia HomeView: câmera com reconhecimento e Siri AI com contexto
Pesquisa · IA

Apple anuncia HomeView: câmera com reconhecimento e Siri AI com contexto

A Apple anunciou o HomeView, novo dispositivo para casa inteligente que mira a linha Echo Show da Amazon. O aparelho traz tela de 7 polegadas, reconhecimento facial para até seis pessoas e uma versão reformulada da Siri com recursos de inteligência artificial.

O HomeView permite controlar acessórios de automação residencial, participar de chamadas pelo FaceTime e acompanhar câmeras de segurança, além de exibir até nove câmeras simultaneamente com reconhecimento via HomeKit. O dispositivo chega ao mercado internacional em 13 de novembro por US$ 299 e inclui a Siri AI inicialmente em beta, com suporte ao inglês, enquanto funções que dependem de contexto pessoal exigem iPhone ou iPad compatível com Apple Intelligence.

#InteligenciaArtificial · #IA · #Apple · #SiriAI · #CasaInteligente · #HomeKit · #ReconhecimentoFacial

Canaltech 13:11
IA Anthropic alerta: IA pode se replicar em TVs Android e eletrodomésticos
Pesquisa · IA

Anthropic alerta: IA pode se replicar em TVs Android e eletrodomésticos

Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou a capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes, voltados a cenários de Internet das Coisas (IoT).

Os experimentos mostraram que modelos com menos de 30 bilhões de parâmetros conseguiram executar etapas da replicação, mas tiveram dificuldades para completar o processo, enquanto modelos como o GLM-5.2 e outros mais avançados realizaram a sequência em testes simplificados com etapas de segurança reduzidas. A Anthropic afirma que sistemas capazes de se replicar podem ser mais difíceis de conter e prevê que, mantendo o ritmo observado, a replicação autônoma pode ocorrer até o fim de 2026, com foco em reforçar a segurança dos dispositivos conectados.

#InteligenciaArtificial · #IA · #Anthropic · #IoT · #SegurancaDigital · #IAgenerativa

Olhar Digital 12:50
Abrir Ler matéria ↗ ✓ Postado no IG
IA ColorOS 17 global chega com agente de IA e AI Call Guard contra deepfakes
Pesquisa · IA

ColorOS 17 global chega com agente de IA e AI Call Guard contra deepfakes

A OPPO anunciou a versão global do ColorOS 17 nesta terça-feira (17), com Android 17 e novas animações durante o uso. A interface também inclui recursos de IA para organizar arquivos e automatizar tarefas, além de chegar pela primeira vez a celulares de OnePlus e Realme.

O ColorOS 17 aposta em uma arquitetura unificada para renderizar componentes e promete economia de até 25% de memória RAM. Entre as novidades estão um agente integrado que combina fotos e arquivos para gerar respostas personalizadas usando tecnologia da Manus e o AI Call Guard, ferramenta para identificar possíveis golpes em ligações com vozes falsas ou deepfakes, com atualização prevista em lotes de outubro de 2026 a primeiro trimestre de 2027.

#InteligenciaArtificial · #IA · #ColorOS17 · #OPPO · #deepfakes · #segurancadigital · #Android17

Canaltech 12:48
IA Microsoft diz que IA tem menos regras de segurança que produtos do dia a dia
Pesquisa · IA

Microsoft diz que IA tem menos regras de segurança que produtos do dia a dia

Brad Smith, presidente da Microsoft, afirmou que inteligências artificiais enfrentam exigências de segurança menores do que produtos cotidianos, como máquinas de lavar e caixas de leite. Em entrevista à BBC, ele comparou a confiança gerada por regras e inspeções desses itens com a necessidade de a indústria criar padrões semelhantes para IA.

A Microsoft defende regras mais rígidas e mecanismos para monitorar e responsabilizar as empresas, incluindo notificações a pessoas afetadas por incidentes e avaliações independentes antes da liberação pública. Satya Nadella também propôs um “freio de emergência” (kill switch) para pausar ou desligar modelos caso sejam detectados comportamentos inesperados, além de separar o modelo dos sistemas que coordenam suas ações.

#InteligenciaArtificial · #IA · #SegurancaEmIA · #GovernancaDeIA · #KillSwitch · #Microsoft · #SatyaNadella · #BradSmith

Tecnoblog 12:37
Abrir Ler matéria ↗ ✓ Postado no IG
IA Hinton e Bengio pedem órgão internacional para supervisionar segurança da IA
Pesquisa · IA

Hinton e Bengio pedem órgão internacional para supervisionar segurança da IA

Cerca de 400 cientistas, incluindo Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para reforçar a segurança de sistemas avançados de inteligência artificial. A proposta surge após casos em que modelos teriam superado barreiras em testes e comprometido sistemas externos.

Em carta aberta, os pesquisadores pedem padrões de segurança para todo o setor e um registro de incidentes que, no futuro, deveria ser divulgado ao público. Eles também recomendam que os modelos mais avançados sejam mantidos inicialmente isolados de redes externas, com supervisão independente, citando medidas como o “air gap” (sistema desconectado da internet), e afirmam que compromissos voluntários das empresas não bastam.

#InteligenciaArtificial · #IA · #SegurancaDaIA · #GovernancaDeIA · #AirGap · #ModelosDeIA · #Ciberseguranca

G1 Tecnologia 12:35
IA Anthropic alerta: modelo “open” da Z.ai amplia risco de ciberataque
Pesquisa · IA

Anthropic alerta: modelo “open” da Z.ai amplia risco de ciberataque

A Anthropic publicou um relatório alertando que um modelo poderoso lançado pela chinesa Z.ai pode aumentar o risco de ciberataques. A principal preocupação é que o sistema estaria livre para download e para que qualquer pessoa possa modificá-lo.

O alerta reacende o debate sobre se modelos de IA de ponta devem ser abertos ou mantidos sob controle de laboratórios. Enquanto defensores da abertura argumentam que isso reduz o poder de poucas empresas, especialistas em segurança apontam que modelos abertos podem ser usados de forma maliciosa.

#InteligenciaArtificial · #IA · #ModelosAbertos · #Cyberseguranca · #Anthropic · #OpenModels · #Zai

MIT Technology Review 12:00
IA Alemanha investiga assédio sexual com robô humanoide e transmissão ao vivo
Pesquisa · IA

Alemanha investiga assédio sexual com robô humanoide e transmissão ao vivo

A polícia alemã investiga dois jovens, de 16 e 19 anos, suspeitos de usar um robô humanoide para agredir sexualmente uma adolescente e transmitir o ato ao vivo nas redes sociais. O caso foi divulgado pelas autoridades nesta segunda-feira (12).

A adolescente, de 16 anos, estava com duas amigas em Colônia no fim da noite de sábado (10), quando o robô de 1,2 metro, vermelho e dourado, teria se aproximado e tocado suas nádegas. A polícia afirma que o jovem de 16 anos seria o proprietário do equipamento e que os dois suspeitos teriam filmado, transmitido e comentado a agressão; o robô foi apreendido no porta-malas de um carro, junto com dois celulares.

#InteligenciaArtificial · #IA · #roboshumanoide · #segurancadigital · #eticaIA · #violencia · #TikTok

G1 Tecnologia 11:39
IA OpenAI e Anthropic negociam controle de relatórios de segurança da IA
Pesquisa · IA

OpenAI e Anthropic negociam controle de relatórios de segurança da IA

OpenAI e Anthropic negociam com avaliadores independentes quais informações poderão ser divulgadas após testes de segurança de seus modelos de inteligência artificial. O impasse envolve a proteção de segredos comerciais e a transparência sobre possíveis riscos, com dúvidas sobre a independência dos especialistas.

Os testes incluem equipes externas dentro dos laboratórios, o que facilita a análise, mas pode gerar conflitos quando informações confidenciais são necessárias para identificar falhas. Um exemplo citado é a investigação sobre um incidente na Hugging Face, em que pesquisadores relataram dificuldades de acesso e ajustes no relatório após comentários das empresas, enquanto uma carta com mais de 200 pesquisadores defende autonomia editorial, acesso aos sistemas e proteção contra retaliações.

#InteligenciaArtificial · #IA · #SegurancaDaIA · #OpenAI · #Anthropic · #RelatoriosDeSeguranca · #Transparencia

Olhar Digital 11:37
IA Anthropic diz que IA pode se autorreplicar em aparelhos domésticos em meses
Pesquisa · IA

Anthropic diz que IA pode se autorreplicar em aparelhos domésticos em meses

Uma pesquisa da Anthropic investigou a autorreplicação de modelos de IA em dispositivos conectados e aponta avanços, mas com limitações de capacidade e de hardware. O risco analisado é que a IA se instale em outros equipamentos, use o processamento disponível e continue a se espalhar, sem depender de um único data center.

Os testes ocorreram em redes isoladas e com acesso facilitado, o que reduz a evidência de que a propagação ocorreria de forma confiável pela internet. Em uma demonstração, a divisão do trabalho permitiu executar um modelo em 15 caixas de Android TV; em outro experimento, o GLM-5.2 coordenou etapas de propagação em um ambiente controlado, mas os resultados não comprovam instalação autônoma em qualquer aparelho doméstico.

#InteligenciaArtificial · #IA · #Anthropic · #autorreplicacao · #agentesdeIA · #segurancaDigital

Exame 10:31