QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

11 resultados para Telemetry

Quarta · 07 out 2026-10-07 1 matéria
Eng · Dev com IA Destaque Docsy, da Google, migra para a Linux Foundation e cria docs para agentes de IA
Engenharia · Software com IA

Docsy, da Google, migra para a Linux Foundation e cria docs para agentes de IA

O projeto de documentação Docsy, criado pela Google e usado por grandes iniciativas de cloud native, está migrando para a Linux Foundation. O anúncio foi feito por Erin McKean, da Google e membro do comitê do Docsy, em uma keynote no Open Source Summit Europe, em Praga.

O Docsy é um tema open source para o gerador de sites estáticos Hugo e já era adotado por cerca de 2.200 projetos até o fim de 2024, incluindo Kubernetes, OpenTelemetry, gRPC e Jaeger. A iniciativa passou a adaptar a saída para ferramentas de IA, como a geração de cópias em Markdown e um arquivo llms.txt (a partir da versão 0.15.0), além de recursos experimentais para orientar agentes, como diretivas ocultas apontando para o índice do llms.txt. A roadmap inclui também “AF” (agent-friendly documentation scores) para medir o quanto a documentação é fácil de encontrar, navegar e consumir por agentes.

#InteligenciaArtificial · #IA · #Docsy · #LinuxFoundation · #AgentesDeIA · #DocumentacaoTecnica · #Hugo · #LLMs

The New Stack 11:02
Quarta · 23 set 2026-09-23 1 matéria
IA Claude Code 2.1.277: AGENTS.md só carrega com flag de telemetria ativa
Pesquisa · IA

Claude Code 2.1.277: AGENTS.md só carrega com flag de telemetria ativa

O Claude Code 2.1.277 passou a oferecer suporte a AGENTS.md, mas o carregamento do arquivo pode ser bloqueado quando a telemetria não está habilitada. Em projetos sem CLAUDE.md, o sistema deveria ler AGENTS.md como instruções do projeto; porém, o plugin “agents-md” depende de uma feature flag remota para ficar disponível, e sem essa liberação o arquivo local não é carregado.

Testes com uma palavra-canário em AGENTS.md mostraram que variáveis como CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 e DISABLE_TELEMETRY=1 impedem o uso do arquivo, sem qualquer aviso durante a sessão. Como alternativa, o uso de um CLAUDE.md com import @path de AGENTS.md contorna a dependência da flag, mantendo o comportamento mesmo com a telemetria desativada.

#InteligenciaArtificial · #IA · #ClaudeCode · #AGENTSmd · #telemetria · #featureflag · #privacidade

Hacker News 12:15
Quinta · 17 set 2026-09-17 1 matéria
Eng · Dev com IA Destaque Agentes como plataforma interna: semantic search e guardrails no KubeCon
Engenharia · Software com IA

Agentes como plataforma interna: semantic search e guardrails no KubeCon

Agentes estão sendo posicionados como a nova “developer platform” ao combinar contexto do sistema com comandos de desenvolvedores e acionar modelos e ferramentas. No KubeCon & CloudNativeCon Europe, Whitney Lee e Viktor Farcic defenderam o uso de semantic search com dados de Git, Slack e Jira, além de guardrails para bloquear ou liberar ações que exigem aprovação.

A apresentação também destacou observabilidade no nível do agente com logs, métricas e traces para entender comportamento, custos e caminhos de execução. Com OpenTelemetry e spans para chamadas de modelo, contagem de tokens e invocações de ferramentas, as equipes conseguem rastrear requisições do usuário até as ações tomadas e usar os traces como base de avaliação e auditoria.

#InteligenciaArtificial · #IA · #AgentesDeIA · #SemanticSearch · #OpenTelemetry · #DevPlatform · #CloudNative

InfoQ 11:11
Terça · 15 set 2026-09-15 1 matéria
Eng · Dev com IA Destaque Grab padroniza agentes com LLM-Kit e reduz deploy para ~1 hora
Engenharia · Software com IA

Grab padroniza agentes com LLM-Kit e reduz deploy para ~1 hora

A Grab padronizou mais de 500 serviços internos de agentes de IA usando o LLM-Kit, um framework interno que já entrega o “agent loop” básico com avaliação, tracing, tratamento de segredos e conexões com tool-servers. Com isso, novos serviços passam a descobrir ferramentas em tempo de execução a partir de mais de 50 servidores MCP e acessam modelos por um gateway único, permitindo adicionar capacidades e provedores via registro ou configuração, sem redeploy.

Integrar um novo agente em produção na Grab passou a levar cerca de uma hora, antes eram duas semanas ou mais. A empresa atribui a economia principalmente ao “wrapper” de produção — segredos, tracing, service discovery e avaliação — e descreve um fluxo em que um engenheiro preenche um formulário e recebe um repositório GitLab com um serviço FastAPI pronto, módulos LangGraph, OpenTelemetry, Vault e endpoint de avaliação já no primeiro commit.

#InteligenciaArtificial · #IA · #AgentesDeIA · #LLMKit · #MCP · #FastAPI · #MLOps

InfoQ 09:00
Sexta · 11 set 2026-09-11 1 matéria
Eng · Dev com IA Destaque Session traces e controles de custo ajudam a depurar falhas de agentes de IA
Engenharia · Software com IA

Session traces e controles de custo ajudam a depurar falhas de agentes de IA

Agentes de IA podem ficar repetindo chamadas a ferramentas erradas sem disparar alertas de disponibilidade, dificultando a identificação do que deu errado. Em post do CNCF publicado em 4 de agosto, a StackGen descreveu como session traces e cost controls ajudam equipes a investigar loops de execução e gastos inesperados em fluxos autônomos.

A StackGen usa o Langfuse para registrar cada chamada de LLM, execução de ferramentas e delegação a subagentes como spans com latência e custos de tokens, preservando a cadeia de delegação em workflows multiagentes. O texto também recomenda limites rígidos de iterações e de chamadas por ferramenta antes da execução, bloqueios para solicitações consecutivas idênticas e métricas exportadas com cuidado para evitar alta cardinalidade, além de revisões pós-incidente com logs pesquisáveis e ferramentas de diagnóstico via linha de comando.

#InteligenciaArtificial · #IA · #AgentesDeIA · #Observabilidade · #LLM · #Langfuse · #OpenTelemetry

InfoQ 08:14
Quarta · 09 set 2026-09-09 1 matéria
Eng · Dev com IA Destaque AWS leva testes de regressão de agentes de IA ao GitHub Actions
Engenharia · Software com IA

AWS leva testes de regressão de agentes de IA ao GitHub Actions

A AWS publicou uma implementação de referência para testar agentes de IA via GitHub Actions, permitindo que desenvolvedores rodem avaliações automatizadas dentro de pipelines de CI/CD. O fluxo pode falhar uma etapa de avaliação quando as pontuações do agente ficarem abaixo de um limite configurado, impedindo o merge ao configurar o job como check obrigatório.

A solução usa Amazon Bedrock AgentCore Evaluations para avaliar o agente após mudanças no código, no system prompt, no modelo ou na configuração de ferramentas. No exemplo, a AWS implanta o agente em um ambiente de desenvolvimento, o invoca com prompts de teste, analisa traces via OpenTelemetry/CloudWatch e aplica avaliadores como GoalSuccessRate, Correctness, ToolSelectionAccuracy e ToolParameterAccuracy, com limiar de 0,8 para reprovar resultados.

#InteligenciaArtificial · #IA · #AgentesDeIA · #DevOps · #GitHubActions · #CI_CD · #AWSBedrock

Developer Tech News 09:00
Quarta · 26 ago 2026-08-26 1 matéria
Eng · Dev com IA Destaque Bronto mira a “camada de dados” da observabilidade com plataforma para telemetria
Engenharia · Software com IA

Bronto mira a “camada de dados” da observabilidade com plataforma para telemetria

A Bronto, de Dublin (Irlanda), diz que a observabilidade entrou em uma nova fase com a padronização de instrumentação via OpenTelemetry, mas aponta falta de uma forma custo-efetiva de armazenar, reter, buscar e analisar telemetria completa. Com sistemas de IA gerando mais logs, traces e métricas, a empresa afirma que as “lacunas” de visibilidade tendem a piorar quando o acesso ao dado é limitado por retenção curta, amostragem e necessidade de reidratar informações.

A companhia critica o modelo tradicional de observabilidade, que cobra principalmente pelo armazenamento e empurra compromissos entre custo, cobertura e velocidade de acesso. Para atacar esse gargalo, a Bronto apresenta o BrontoD, um data store polimórfico feito para dados de observabilidade, com a promessa de permitir manter mais de 100 vezes a quantidade de telemetria sem desacelerar a operação.

#InteligenciaArtificial · #IA · #Observability · #OpenTelemetry · #Telemetry · #DataStorage · #DevOps

The New Stack 20:08
Segunda · 17 ago 2026-08-17 1 matéria
Eng · Dev com IA Destaque Grafana libera gcx CLI e servidor MCP para agentes de coding com telemetria
Engenharia · Software com IA

Grafana libera gcx CLI e servidor MCP para agentes de coding com telemetria

A Grafana Labs anunciou a disponibilidade geral (GA) de duas ferramentas para agentes de programação com IA consultarem dados de observabilidade ao desenvolver: o gcx CLI e o servidor MCP do Grafana. Com eles, agentes podem buscar métricas, logs, traces, SLOs e resultados de Synthetic Monitoring no Grafana Cloud ou em stacks self-hosted.

A proposta é inserir evidências do sistema no fluxo de coding agent, reduzindo o risco de um PR ser aprovado sem que o time entenda totalmente a mudança. O servidor MCP oferece um conjunto fixo de ferramentas para casos comuns, enquanto o gcx permite criar workflows personalizados, incluindo bundles de skills e plugins para camadas como Claude Code e Grafana Assistant; a empresa também descreve usos como checar métricas RED para estimar latência e gerar scripts de teste realistas com k6.

#InteligenciaArtificial · #IA · #AgentesDeIA · #DesenvolvimentoDeSoftware · #Observabilidade · #Grafana · #MCP · #OpenTelemetry

InfoQ 10:00
Sexta · 14 ago 2026-08-14 1 matéria
Eng · Dev com IA Destaque Kubeflow lança Kale 2.0 e amplia SDK com Spark e Trainer para IA no K8s
Engenharia · Software com IA

Kubeflow lança Kale 2.0 e amplia SDK com Spark e Trainer para IA no K8s

O projeto Kubeflow divulgou atualizações técnicas para fortalecer IA distribuída e computação de alto desempenho em Kubernetes, incluindo o lançamento do Kale 2.0 e melhorias no Kubeflow SDK. O Kale 2.0 converte notebooks Jupyter anotados em pipelines prontos para produção, com suporte à arquitetura Kubeflow Pipelines v2, sem exigir código do KFP SDK. O Kubeflow Trainer também foi ampliado para unificar treinamento distribuído de IA e workloads de HPC, com suporte a MPI e integração com o Flux Framework.

As mudanças incluem suporte nativo a Spark no SDK, permitindo executar Spark no Kubernetes sem configurar infraestrutura, além de uma interface Python unificada para processamento, orquestração de pipelines, treinamento distribuído e tuning de hiperparâmetros. O projeto também prepara recursos como instrumentação OpenTelemetry e tracking com MLflow para observabilidade, e avança rumo à graduação na CNCF, com novas versões em desenvolvimento para o Kubeflow Notebooks v2 e atualizações em componentes como Hub (antes Model Registry) e o LLMInferenceService no KServe.

#Kubeflow · #InteligenciaArtificial · #Kubernetes · #MLOps · #IAgenerativa · #Spark · #LLM · #HPC

InfoQ 08:00
Sexta · 07 ago 2026-08-07 1 matéria
Eng · Dev com IA Destaque Azure APIM ganha AI Gateway: governança de modelos e MCP
Engenharia · Software com IA

Azure APIM ganha AI Gateway: governança de modelos e MCP

A Microsoft lançou em prévia pública um novo tier de AI Gateway no Azure API Management. A proposta é organizar o control plane em torno de modelos, servidores e ferramentas MCP, em vez de APIs, mantendo capacidades de IA já existentes nos tiers clássico e v2. O gateway publica modelos hospedados pela Foundry (como OpenAI, Anthropic e Mistral) e também integra modelos de AWS Bedrock, Google Vertex AI e OpenAI; para provedores compatíveis com OpenAI, o roteamento ocorre por correspondência exata do campo “model”, exigindo nomes únicos. Para ferramentas, ele federará backends via URL de servidor MCP, especificação OpenAPI ou conectores embutidos para mais de mil SaaS, expondo operações como “tools” com autenticação configurável (nenhuma, API key, OAuth 2.0 ou managed identity).

O que muda para times de desenvolvimento é a forma de “colocar em produção” integrações com LLMs e agentes: políticas deixam de ser só XML/expressões e passam a ser configuradas em cards no portal, com limites de tokens e requisições, quotas, Content Safety e fallback de modelo. A governança de custo e uso pode ficar centralizada no gateway, com telemetria via OpenTelemetry para destinos como Application Insights, Datadog e Grafana, mas a prévia também levanta dúvidas sobre limites, SLA (sem SLA) e como lidar com o ciclo de vida quando execuções de agentes não finalizam corretamente.

#Azure API Management · #AI Gateway · #MCP · #LLM governance · #OpenTelemetry · #Foundry models

InfoQ 06:35
Abrir Ler matéria ↗ ✓ Postado no IG
Segunda · 03 ago 2026-08-03 1 matéria
Eng · Dev com IA Destaque Microsoft leva Agent Framework a runtime de produção (GA)
Engenharia · Software com IA

Microsoft leva Agent Framework a runtime de produção (GA)

A Microsoft colocou o Agent Framework em disponibilidade geral (GA) em 2 de abril de 2026, saindo da fase de SDK para um runtime suportado em produção. No Build 2026 (2 e 3 de junho), a empresa também estabilizou o Agent Harness, conectores do GitHub Copilot SDK e do Claude Agent SDK, além de padrões de orquestração multiagente. O harness funciona como um único binário em desenvolvimento local, containers e ambientes hospedados, com recursos como invocação de funções, persistência de histórico por chamada, compactação de contexto, memória de arquivos, busca web, aprovações de ferramentas e telemetria via OpenTelemetry.

Na prática, o foco muda de “como construir agentes” para “como executá-los com governança”. Com o Foundry Hosted Agents como alvo gerenciado (cobrança por consumo), times conseguem aplicar políticas e observabilidade já existentes ao tráfego de agentes, incluindo coding agents de terceiros, sem criar integrações separadas. A Microsoft também destaca diferenças de segurança operacional: o harness controla loops para evitar execuções sem freio, enquanto abordagens dependentes do host podem parar mais tarde.

#Agent Framework · #AI agents · #OpenTelemetry · #GitHub Copilot SDK · #Claude Agent SDK · #multi-agent orchestration · #Foundry Hosted Agents

InfoQ 10:30