QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

6 resultados para AI automation

Sexta · 09 out 2026-10-09 1 matéria
IA bigarrow: agente de IA aponta botões no macOS sem clicar nem roubar foco
Pesquisa · IA

bigarrow: agente de IA aponta botões no macOS sem clicar nem roubar foco

O bigarrow, um CLI para macOS, usa uma “skill” de agente para desenhar setas, caixas e textos na tela e apontar exatamente onde o usuário deve clicar. Ele exibe um sinal sobre tudo, aponta para o elemento (por rótulo ou coordenadas) e desaparece sozinho, sem roubar o foco e sem precisar de permissões para desenhar.

O projeto destaca que o agente não clica, não digita e não captura telas: quando chega a uma etapa que exige ação humana, como “Allow” em prompts do macOS, ele apenas orienta. O comando pode direcionar para “System Settings” e pedir “Franz, click Allow”, além de permitir opções como seguir uma janela e gerar PNGs para documentação, com comandos em JSON e códigos de saída para indicar sucesso ou falhas.

#InteligenciaArtificial · #IA · #AgentesDeIA · #macOS · #Automation · #DeveloperTools

Hacker News 11:03
Terça · 29 set 2026-09-29 1 matéria
IA OpenAI libera extensões de plugins com interface tipo app no ChatGPT
Pesquisa · IA

OpenAI libera extensões de plugins com interface tipo app no ChatGPT

A OpenAI anunciou, no Dev Day desta terça-feira, que está ampliando os plugins do ChatGPT com extensões que permitem criar experiências “tipo app” dentro do próprio chat. Com isso, desenvolvedores poderão colocar seus aplicativos em um espaço dedicado na barra lateral do ChatGPT e oferecer painéis interativos para o usuário trabalhar com ferramentas enquanto conversa.

A empresa também detalhou melhorias no processo de criação e descoberta de plugins, incluindo uma ferramenta Plugin Creator e um fluxo de submissão com feedback mais claro. Além disso, o ChatGPT Sites poderá hospedar esses plugins, e a OpenAI disse que adicionou suporte à especificação MCP Events para iniciar automações com base em eventos de apps conectados, com automações mais fáceis de adicionar e gerenciar.

#InteligenciaArtificial · #IA · #ChatGPT · #OpenAI · #Plugins · #Automacao

TechCrunch (AI) 17:15
Segunda · 17 ago 2026-08-17 1 matéria
IA Destaque Startup de automação com IA Relay encerra operações e equipe vai para o Chrome
Pesquisa · IA

Startup de automação com IA Relay encerra operações e equipe vai para o Chrome

A Relay, ferramenta de automação de fluxos de trabalho com IA lançada em 2021 com a proposta de competir com o Zapier, está encerrando suas atividades. O acesso para clientes pagantes será desligado em 14 de setembro; usuários gratuitos já perderam acesso em 15 de agosto. O fundador e CEO Jacob Bank informou a decisão em comunicado e a empresa já havia anunciado a interrupção em julho.

Bank também revelou que vai retornar ao Google como VP de Produto do Google Chrome, liderando as equipes de produto e relações com desenvolvedores. Ele disse que pretende levar a experiência de construir ferramentas para ajudar pessoas a fazer mais com IA sem abrir mão de criatividade e insights, e citou planos para trabalhar com IA no Chrome, onde considera que o navegador é um bom lugar para colaboração com agentes.

#InteligenciaArtificial · #IA · #AutomacaoDeProcessos · #WorkflowAutomation · #GoogleChrome · #AgentesDeIA · #ProdutividadeComIA

TechCrunch (AI) 21:27
Sexta · 14 ago 2026-08-14 1 matéria
Eng · Dev com IA Destaque GM usa IA para gerar rascunhos de software veicular revisáveis
Engenharia · Software com IA

GM usa IA para gerar rascunhos de software veicular revisáveis

Equipes da GM conduziram uma pesquisa para usar inteligência artificial no ciclo de vida do desenvolvimento de software de veículos, com foco em reduzir atritos sem perder a disciplina de produção. Em vez de buscar apenas geração de código, o trabalho priorizou interações com tarefas bem delimitadas, gerando rascunhos iniciais que engenheiros conseguem verificar, mantendo o software legível, testável, manutenível e revisável.

A pesquisa aponta que, no software automotivo, a complexidade cresce mais rápido que a produtividade, aumentando a pressão por velocidade sem abrir mão de rigor. Para isso, a GM estruturou fluxos como geração de testes e refatoração com LLMs, levando requisitos e intenção comportamental para casos de teste e scripts, além de orientar checagens de conformidade com padrões como MISRA, sempre com revisão humana em cada etapa.

#InteligenciaArtificial · #IA · #DesenvolvimentoDeSoftware · #SoftwareEmVeiculos · #LLM · #TestAutomation · #Refatoracao

SD Times 18:11
Abrir Ler matéria ↗ ✓ Postado no IG
Quinta · 06 ago 2026-08-06 1 matéria
Eng · Dev com IA Todoist aposta em “menos IA”: modelo só na geração, código executa
Engenharia · Software com IA

Todoist aposta em “menos IA”: modelo só na geração, código executa

A Doist, empresa por trás do Todoist e do Twist, diz que “menos IA pode entregar mais” ao desenhar automações com um fluxo híbrido: o modelo de linguagem entra apenas na fase de entender o pedido em linguagem natural e gerar um “manifest” de execução. Depois disso, a automação roda com código comum em gatilhos ou jobs recorrentes, buscando previsibilidade e consistência — já que modelos tendem a variar quando precisam executar repetidamente. A empresa afirma que vai levar o serviço Automations do beta fechado para lançamento em agosto ou início de setembro, e que a abordagem também reduz custos por evitar chamar modelos caros a cada execução.

A estratégia faz parte de uma filosofia de produto chamada “subtraction over addition”: facilitar o uso de IA não significa que toda ideia deve virar feature. A Doist também destaca que não quer depender de um único provedor de modelos, usando testes e avaliações para verificar se mudanças em modelos alteram o comportamento, além de controlar custos ao migrar de modelos maiores para menores sem perder o padrão de qualidade. Para times dev, o recado é claro: usar IA onde ela é melhor (interpretação/planejamento) e manter a execução determinística com software tradicional.

#Todoist · #Doist · #AI automation · #LLM · #software engineering · #MLOps · #product development

The New Stack 17:05
Terça · 04 ago 2026-08-04 1 matéria
Eng · Dev com IA Destaque Advogados usam Copilot CLI para criar ferramentas jurídicas
Engenharia · Software com IA

Advogados usam Copilot CLI para criar ferramentas jurídicas

O time jurídico do GitHub contou como usou o Copilot CLI para transformar tarefas repetitivas em fluxos automatizados. Em um caso, Ngandu Kasuku criou o “terms-ai”, uma ferramenta para rascunho de contratos com base em um guia de estilo em linguagem simples e em acordos já aprovados; ele afirma ter reduzido o tempo de revisão e redação em cerca de 50%. Em outro, Jesse Geraci desenvolveu um fluxo para analisar avisos DMCA com consistência, evoluindo de instruções em linguagem natural para um app de desktop com modos de análise e integração de dados externos.

A iniciativa mostra como devs e times tech podem aplicar IA não só para “responder tarefas”, mas para construir ferramentas reutilizáveis e auditáveis, com instruções editáveis e controle humano no centro. Na prática, isso acelera entregas, melhora a padronização dos resultados e reduz retrabalho — desde que a metodologia e os critérios sejam bem definidos no próprio workflow.

#GitHubCopilot · #CopilotCLI · #AIparaDev · #workflowautomation · #legaltech · #codingassistants

GitHub Blog 19:02