QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

6 resultados para DataBricks

Segunda · 28 set 2026-09-28 1 matéria
IA Artefact mira R$ 500 milhões na LatAm até 2030 com IA e aquisições
Pesquisa · IA

Artefact mira R$ 500 milhões na LatAm até 2030 com IA e aquisições

A consultoria francesa de IA Artefact quer multiplicar por cinco sua receita na América Latina até 2030, chegando a R$ 500 milhões. A empresa atua no desenvolvimento de soluções de inteligência artificial para grandes companhias, com projetos em marketing, tecnologia, operações, manufatura e cadeia de suprimentos.

Presente no Brasil desde 2018, a Artefact tem mais de 300 profissionais no país e cerca de 500 na região. A estratégia inclui novas contratações, aquisições e parcerias com empresas de tecnologia como Google, AWS, Microsoft e Databricks, além de companhias de IA generativa, para acompanhar a evolução dos agentes de inteligência artificial e transformar essa capacidade em retorno para os negócios.

#InteligenciaArtificial · #IA · #AgentesDeIA · #IAgenerativa · #ConsultoriaDeIA · #MergeseAquisicoes · #TransformacaoDigital

Exame 08:01
Domingo · 06 set 2026-09-06 1 matéria
Eng · Dev com IA Destaque Permissões em RAG: por que “context assembly” precisa ser a última barreira
Engenharia · Software com IA

Permissões em RAG: por que “context assembly” precisa ser a última barreira

Sistemas de RAG podem continuar acessando documentos após mudanças de identidade, como quando alguém sai de um time e ainda assim consegue puxar materiais do índice por horas. Em revisões de segurança, equipes relatam dificuldade em garantir que o modelo não vai resumir informações sensíveis, como revisões de compensação, para pessoas não autorizadas. O ponto central defendido é que permissões não devem funcionar como um filtro aplicado depois que o contexto já foi montado.

A proposta é tratar permissões como uma propriedade do processo de “context assembly”, a etapa final que decide quais partes do conhecimento corporativo serão entregues ao modelo para uma identidade específica, no momento e na pergunta corretos. O texto compara abordagens de fornecedores como AWS Context (ainda sem GA no momento citado), Microsoft com retrieval com identidade e Databricks com Unity Catalog, destacando que a proteção depende de onde a autorização é aplicada e que falhas podem ocorrer quando a autorização chega tarde demais na cadeia.

#InteligenciaArtificial · #IA · #RAG · #SegurancaDaInformacao · #Permissoes · #ContextAssembly · #EnterpriseAI

The New Stack 15:00
Quinta · 27 ago 2026-08-27 1 matéria
IA Destaque TechCrunch Disrupt 2026 terá “AI Stage” com OpenAI e Anthropic
Pesquisa · IA

TechCrunch Disrupt 2026 terá “AI Stage” com OpenAI e Anthropic

O TechCrunch Disrupt 2026 volta com o “AI Stage” entre 13 e 15 de outubro, em San Francisco, no Moscone Center, para discutir como modelos de IA estão mudando negócios e criando novas demandas. A programação inclui conversas sobre modelos e adoção em empresas, segurança de agentes e o que significa ter um plano de go-to-market em um mundo “AI-native”.

Entre os destaques estão sessões com a Anthropic sobre o que acontece quando empresas realmente implantam o Claude, e com a OpenAI sobre como a IA criou a função de “GTM engineering”. O evento também reunirá líderes de empresas como Databricks, Okta, AWS, 1Password e outras para tratar de segurança e arquitetura para IA no ambiente corporativo.

#InteligenciaArtificial · #IA · #TechCrunchDisrupt · #OpenAI · #Anthropic · #AgentSecurity · #SegurancaDeIA

TechCrunch (AI) 23:16
Quinta · 13 ago 2026-08-13 1 matéria
IA Databricks levanta US$ 5 bi e chega a valuation de US$ 190 bi
Pesquisa · IA

Databricks levanta US$ 5 bi e chega a valuation de US$ 190 bi

A Databricks anunciou uma nova rodada de captação de US$ 5 bilhões, elevando sua avaliação para US$ 190 bilhões. A empresa havia indicado anteriormente que queria levantar US$ 1 bilhão, mas recebeu forte demanda de investidores após uma matéria do The Information repercutir durante um evento em junho.

Ali Ghodsi, cofundador e CEO, afirmou que o interesse chegou a US$ 15 bilhões apenas entre o grupo de investidores considerado. A rodada foi liderada pela Coatue e contou com participantes como Blackstone e MGX, além de investidores ligados à T. Rowe Price e a Sixth Street Growth, enquanto a empresa destaca crescimento de receita e produtos ligados a IA, como o Lakebase e o chatbot Genie.

#InteligenciaArtificial · #IA · #Databricks · #BigData · #InvestimentosEmIA · #AIVentureCapital

TechCrunch (AI) 20:14
Sexta · 07 ago 2026-08-07 1 matéria
IA IA para codar: como cortar custos sem perder produtividade
Pesquisa · IA

IA para codar: como cortar custos sem perder produtividade

Ferramentas de “AI coding” estão acelerando o desenvolvimento: a Databricks afirma que a adoção de coding agentic melhorou métricas de velocidade e, em alguns times, elevou a produção em até uma ordem de grandeza. Porém, empresas que escalam o uso enfrentam custos que crescem rápido e podem superar a receita, levando a um desafio de manter a transformação em andamento sem inviabilizar o gasto.

A solução, segundo a Databricks, passa por uma “dupla missão”: dar acesso amplo com baixa fricção e manter o custo agregado por usuário em um envelope estável. Entre as estratégias estão trocar para modelos mais eficientes assim que saem, usar avaliações internas para evitar regressões de custo/qualidade (casos citados: Stripe e Databricks ao comparar versões), e adotar flexibilidade via harnesses ou meta-harness para reduzir lock-in e permitir migração para modelos mais baratos.

#AI coding · #agentic AI · #custo de IA · #model efficiency · #MLOps · #DevTools

Hacker News 18:25
Segunda · 03 ago 2026-08-03 1 matéria
IA Startup com apoio de Benioff mira “deployment” de IA em empresas
Pesquisa · IA

Startup com apoio de Benioff mira “deployment” de IA em empresas

Empresas grandes ainda têm dificuldade para colocar ferramentas de IA para funcionar de forma confiável dentro de seus sistemas. É nesse ponto que a June, startup fundada por Efrat Rapoport (ex-Salesforce) e outros três sócios, quer atuar: a empresa surgiu com a proposta de resolver o “problema de implantação” da IA no ambiente corporativo. A June levantou US$ 20 milhões em pré-seed liderado pela Time Ventures, de Marc Benioff, com apoio de nomes como Michael Dell, Aaron Levie e George Kurtz.

A abordagem combina varredura dos sistemas existentes para mapear processos, identificar gargalos e gerar um plano passo a passo para implementar agentes, incluindo tarefas como remover duplicidades e conectar fontes de dados. Na prática, a promessa é reduzir a dependência de especialistas “forward-deployed engineers” e acelerar integrações com plataformas como Salesforce, ServiceNow e Databricks — um gargalo que, segundo relatos, costuma travar projetos mesmo quando o modelo já existe.

#inteligenciaartificial · #AIdeployment · #agentesIA · #enterpriseAI · #Salesforce · #DataBricks · #ServiceNow

TechCrunch (AI) 10:00