QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para AssistentesDeIA

Terça · 22 set 2026-09-22 1 matéria
IA Gemini cria “bots” de editores: produtividade… e resultados estranhos
Pesquisa · IA

Gemini cria “bots” de editores: produtividade… e resultados estranhos

Assistente de IA no trabalho virou experimento pessoal: a autora criou “clones” de seus editores usando Gemini, tentando moldar sua própria comunicação e estilo para parecer uma colega melhor. O primeiro, o “Brian Bot”, foi montado com dados públicos e materiais como transcrições e páginas de relações públicas, mas gerou respostas que não batiam com o comportamento do Brian real e ainda reproduziu temas inventados, levando à interrupção do bot em menos de 24 horas.

Depois, a autora partiu para o “Sophie Bot”, alimentando o Gemini com cerca de um mês de conversas no Slack (sem conteúdo sensível). A IA gerou relatórios e prompts a partir de mais de 17.000 palavras, e as interações mostraram que os “bots” conseguem imitar a voz e o ritmo dos editores — ao mesmo tempo em que podem produzir falhas e exageros que tornam a experiência bem diferente da conversa humana.

#InteligenciaArtificial · #IA · #Gemini · #IAgenerativa · #AssistentesDeIA · #FuturoDoTrabalho

Wired 10:30
Domingo · 30 ago 2026-08-30 1 matéria
IA Destaque Assistente vs agente de IA: a diferença está na autonomia
Pesquisa · IA

Assistente vs agente de IA: a diferença está na autonomia

A popularização da inteligência artificial trouxe termos como “assistente” e “agente”, frequentemente usados como sinônimos, mas com uma diferença central: o nível de autonomia para decidir o que fazer e como chegar a um objetivo. Um assistente de IA costuma trabalhar a partir das instruções do usuário, respondendo perguntas, analisando documentos e gerando conteúdos, e em sistemas mais avançados pode usar ferramentas para executar ações.

Já um agente de IA recebe um objetivo e consegue planejar etapas, escolher ferramentas e encadear ações para alcançar o resultado, com diferentes níveis de supervisão humana. A fronteira pode variar: um mesmo sistema pode combinar características dos dois, como o Gemini (assistente) e o Gemini Spark (agente), ou o ChatGPT (assistente) e o ChatGPT Work (agente).

#InteligenciaArtificial · #IA · #AgentesDeIA · #AssistentesDeIA · #LLM · #Gemini · #ChatGPT

Canaltech 21:00
Abrir Ler matéria ↗ ✓ Postado no IG
Sexta · 21 ago 2026-08-21 1 matéria
Eng · Dev com IA Destaque Microsoft libera Azure DevOps Remote MCP Server em GA, mas sem Claude/ChatGPT
Engenharia · Software com IA

Microsoft libera Azure DevOps Remote MCP Server em GA, mas sem Claude/ChatGPT

O Azure DevOps Remote MCP Server da Microsoft chegou à disponibilidade geral (GA) como um endpoint hospedado para assistentes de IA acessarem work items, pull requests, repositórios e pipelines, sem instalação local. O servidor roda em https://mcp.dev.azure.com/{organization} via streamable HTTP e a conexão é feita adicionando uma entrada no arquivo mcp.json, com autenticação pelo Microsoft Entra.

Claude Desktop, Claude Code, ChatGPT e Cursor ainda não conseguem se conectar por uma limitação no suporte do Entra a mecanismos exigidos pelo protocolo, como Dynamic OAuth client registration ou Client ID Metadata Documents. A Microsoft afirma que trabalha com o time do Entra para habilitar isso, enquanto clientes Microsoft (como VS Code com GitHub Copilot, GitHub Copilot CLI e Copilot Studio) já funcionam; equipes que usam outros agentes seguem com o MCP server local.

#InteligenciaArtificial · #IA · #AzureDevOps · #MCP · #AssistentesDeIA · #GitHubCopilot · #MicrosoftEntra

InfoQ 09:55
Domingo · 09 ago 2026-08-09 1 matéria
IA Destaque Dar à IA acesso à tela pode expor dados: riscos de privacidade
Pesquisa · IA

Dar à IA acesso à tela pode expor dados: riscos de privacidade

A matéria discute os riscos de permitir que assistentes de IA, como o Gemini em celulares Android, leiam a tela em segundo plano. Com acesso contínuo, a IA pode interpretar mensagens, documentos, dados bancários e códigos de autenticação, levantando preocupações sobre o que acontece com essas informações nos bastidores.

O texto aponta que “processamento local” não garante que os dados nunca saiam do aparelho, e que a leitura da tela pode contornar a proteção de criptografia de ponta a ponta no momento em que o conteúdo é exibido. Também são citados exemplos e cenários como capturas periódicas (Recall, da Microsoft), uso de permissões para ampliar pontos de ataque e possibilidade de malwares com IA explorarem acesso à tela.

#InteligenciaArtificial · #IA · #PrivacidadeDigital · #SegurancaDaInformacao · #Criptografia · #Android · #AssistentesDeIA

Canaltech 14:33