14 resultados para moderacao
Quinta · 08 out
2026-10-08
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
A Spotify Ads apresentou no QCon AI uma plataforma multiagente que automatiza a criação de anúncios a partir de instruções do anunciante, reduzindo tarefas como copywriting e geração de conteúdo musical. O sistema roda em produção no Spotify Ads Manager e, desde o lançamento do ano passado, mais de 70% dos anúncios passaram a usar ferramentas de IA, com cerca de 20.000 criativos gerados para mais de 7.000 anunciantes.
A arquitetura inclui um gateway de LLM via Vertex AI e um orquestrador de agentes com agentes paralelos, como um para geração de scripts e outro para aplicar guardrails de políticas. A solução também extrai intenções do texto natural para definir segmentação e usa camadas de moderação e padronização do ambiente, com controle de dependências e monitoramento integrado para rodar a IA com baixa latência e segurança.
#InteligenciaArtificial · #IA · #AgentesDeIA · #LLM · #MLOps · #GenAI · #DesenvolvimentoDeSoftware
Terça · 06 out
2026-10-06
1 matéria
IA
Pesquisa · IA
A Musubi anunciou o PolicyLM-1.7B, um modelo leve de decision model para moderação de conteúdo em tempo real, lançado com pesos abertos. A proposta é aplicar políticas escritas em linguagem natural a mensagens em menos de 50 milissegundos, com foco em custo e velocidade semelhantes aos classificadores usados por plataformas sociais.
O PolicyLM-1.7B foi desenhado para lidar com políticas complexas sem exigir novo treinamento quando as regras mudarem, permitindo que equipes humanas iterem a moderação. A empresa também posiciona o modelo como uma forma de rotular conteúdo de maneira escalável e customizável, em um contexto de crescente interesse por decision models após o Jev da TypeSafe AI e iniciativas de OpenAI e Amazon.
#InteligenciaArtificial · #IA · #ContentModeration · #DecisionModels · #LLM · #IAgenerativa · #OpenWeights
Terça · 15 set
2026-09-15
1 matéria
IA
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2026/e/6/hcOAwFRpCGtPxgONB9Dw/54585378881-aa1132375c-o.jpg)
Pesquisa · IA
Executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais têm defendido uma pausa no avanço da inteligência artificial para tornar seu desenvolvimento mais seguro. As falas citam preocupações com a IA ganhar poder excessivo sobre a internet e com a necessidade de regras e padrões internacionais para reduzir riscos.
Dario Amodei, da Anthropic (Claude), pediu moderação do ritmo de avanço e alertou que, em 6 a 12 meses, sistemas podem “dominar toda a internet” se não forem controlados. Sam Altman, da OpenAI, disse que é preciso “marcar um ritmo da fronteira” e mencionou avaliadores independentes; a ONU, por sua vez, cobrou mecanismos rápidos de governança, citando risco existencial para a humanidade.
#InteligenciaArtificial · #IA · #GovernancaDeIA · #RiscosDaIA · #OpenAI · #Anthropic · #ONU
Sábado · 12 set
2026-09-12
1 matéria
IA
/https://s01.video.glbimg.com/x720/14878632.jpg)
Pesquisa · IA
Um artigo científico publicado na Nature Reviews Biodiversity mostra como o tráfico ilegal de fauna e flora ganhou escala na internet, usando redes sociais e outras plataformas para anunciar primatas, aves e plantas. Em um monitoramento de seis semanas, os pesquisadores detectaram mais de 1.600 primatas à venda em quatro redes sociais, e identificaram 33.006 exemplares de espécies protegidas pela Cites em 280 plataformas.
Do total, 54% eram animais vivos e 46% partes ou produtos derivados, incluindo aves, serpentes, rãs, orquídeas e cactos. O estudo aponta baixa percepção de risco, regulação fraca e anonimato como fatores que favorecem a expansão, e defende reforço da vigilância com inteligência artificial, endurecimento da moderação e coordenação entre empresas de tecnologia, reguladores, ONGs e comunidades.
#InteligenciaArtificial · #IA · #TráficoDeAnimais · #TráficoDePlantas · #RedesSociais · #Biodiversidade · #CITES
Quarta · 09 set
2026-09-09
1 matéria
IA
Destaque
Pesquisa · IA
O procurador da cidade de San Francisco enviou uma notificação para a Meta cessar e desistir de anúncios pagos que “permitam” conteúdo de abuso sexual infantil gerado por IA. A carta também pede explicações sobre como essas peças voltaram a circular nas plataformas da empresa.
Pesquisadores do Tech Transparency Project identificaram mais de 350 anúncios em meses recentes que transformavam imagens de menores em vídeos curtos com cenas sexuais, direcionando usuários a baixar apps de geração de imagens e vídeos. As campanhas alcançaram mais de 29.000 contas na União Europeia e também foram exibidas para públicos nos EUA, Austrália e Índia, levando a cidade a questionar falhas de moderação, resposta a denúncias e medidas para impedir a exploração de crianças.
#InteligenciaArtificial · #IA · #Meta · #abusoInfantil · #conteudoGeradoPorIA · #segurancaDigital · #moderaçãoDeAnuncios
Sábado · 22 ago
2026-08-22
2 matérias
Eng · Dev com IA
Destaque
Engenharia · Software com IA
A DoorDash desenvolveu o SafeChat para lidar com abusos verbais no chat do marketplace, onde consumidores, entregadores (Dashers) e comerciantes se comunicam durante pedidos. A empresa afirma que precisa agir com baixa latência: são mais de 4 milhões de mensagens por dia e existe apenas uma fração de segundo para decidir se cada mensagem é segura, sem prejudicar a experiência.
O sistema combina uma etapa inicial com um classificador de ML treinado com dados internos, capaz de responder em menos de 100 ms em 90% dos casos e com custo apenas de infraestrutura. Para o pequeno volume de mensagens que não passam nessa triagem (menos de 10%), o SafeChat chama um LLM para pontuar e classificar eixos como nível de ameaça, grau de palavrões e conteúdo sexual, usando perguntas mais difíceis apenas quando necessário.
#InteligenciaArtificial · #IA · #ModeracaoDeConteudo · #LLM · #MachineLearning · #ArquiteturaDeSoftware
IA
Pesquisa · IA
O LinkedIn anunciou que reduziu em 40% as visualizações de publicações de baixa qualidade após implementar um botão de denúncia para esse tipo de conteúdo. A plataforma também informou que recebeu mais de 1 milhão de reclamações de posts gerados por inteligência artificial e que agora notifica os autores quando a denúncia aponta possível texto genérico de IA.
O diretor de produtos Hari Srinivasan afirmou que os membros já veem menos “textos robotizados” no feed. Para evitar abusos, o LinkedIn ajustou o algoritmo e criou mecanismos que impedem que ondas de feedback negativo sejam usadas para silenciar injustamente outros usuários, além de introduzir um sistema de transparência restrito ao painel de análise de publicações.
#InteligenciaArtificial · #IA · #LinkedIn · #IAgenerativa · #ModeraçãoDeConteúdo · #FraudeDeConteudo
Sexta · 21 ago
2026-08-21
1 matéria
IA
Destaque
Pesquisa · IA
O LinkedIn anunciou em 30 de julho o botão “Seems like AI slop” e informou que a ferramenta já foi bastante usada. Em um post na quinta-feira, o chief product officer Hari Srinivasan disse que “mais de 1 milhão de pessoas” clicaram no botão, disponível no menu de três pontos de uma publicação.
A empresa também afirmou que, após mudanças recentes, os usuários passaram a ver “40% menos views” em conteúdos que a plataforma classifica como AI slop. Além disso, o LinkedIn vai exibir uma mensagem para quem publica indicando que “alguns membros” disseram que o post parece gerado por IA, enquanto intensifica a moderação de comentários criados em escala com pouca ou nenhuma participação humana.
#InteligenciaArtificial · #IA · #LinkedIn · #IAgenerativa · #ModeraçãoDeConteúdo · #DetecçãoDeIA
Segunda · 17 ago
2026-08-17
1 matéria
IA
Pesquisa · IA
O Rogue Studio lançou o Rogue 1.0, uma plataforma de geração de vídeo com IA voltada para criação de conteúdo adulto “rated R”, com foco em produção de nível profissional. A empresa afirma que quer oferecer um ambiente para criadores sem restrições criativas e sexuais, em vez de depender de sites NSFW baseados em tecnologia aberta desatualizada.
O serviço inclui planos de assinatura entre US$ 29 e US$ 299 e reúne modelos de geração de imagens e vídeo, além de ferramentas próprias. A plataforma também estabelece regras para impedir usos ilegais, como deepfakes não consensuais e material de abuso sexual infantil, com três camadas de moderação humana que analisam prompts, intenção e o conteúdo gerado antes de ser disponibilizado ao usuário.
#InteligenciaArtificial · #IA · #IAgenerativa · #VideoComIA · #ConteudoAdulto · #Deepfake · #ModeracaoDeIA
Sexta · 14 ago
2026-08-14
1 matéria
IA
Destaque
Pesquisa · IA
A Apple está separando sua pilha de IA para funcionar de forma diferente na China, com um modelo voltado ao país desenvolvido com ajuda da Alibaba para lidar com exigências regulatórias locais. A Reuters informou que o sistema deve trabalhar em conjunto com o Qwen da Alibaba e possivelmente com tecnologia da Baidu, mas a empresa não detalhou quais modelos assumem cada parte do “Apple Intelligence”. Sem data de lançamento confirmada, a expectativa é que o serviço chegue à China nos próximos meses.
Com isso, recursos que dependem de modelos como ChatGPT, Gemini e Claude não devem oferecer o mesmo comportamento no país, já que essas opções não estariam disponíveis na China. Para desenvolvedores, o desafio é a consistência: mesmo usando a mesma versão do iOS e frameworks como Core ML e Metal, prompts enviados via APIs podem gerar respostas diferentes, recusas ou saídas estruturadas, além de o conteúdo poder ser afetado por camadas de filtragem e moderação exigidas pela conformidade local.
#InteligenciaArtificial · #IA · #AppleIntelligence · #iOS · #LLM · #China · #Qwen · #Alibaba
Quinta · 06 ago
2026-08-06
1 matéria
IA
Pesquisa · IA
A Ars Technica relata que moderadores do subreddit r/AskHistorians, no Reddit, passaram a receber alertas em massa em um canal de Slack usado para triagem de mensagens. Em abril, dezenas de comentários e posts antigos (de até 10 anos) foram removidos automaticamente, e a equipe afirma que não conseguiu reverter o apagamento. A moderação suspeita que as ferramentas de moderação com IA do Reddit, recentemente atualizadas, tenham marcado links para o site Rare Historical Photos como spam, levando à exclusão de publicações que usavam imagens do serviço.
O caso importa porque mostra um risco prático: quando a moderação depende demais de IA, falsos positivos podem eliminar informações valiosas e difíceis de recuperar, afetando a “memória” de comunidades e a confiança dos usuários. Para devs e times de produto, o recado é reforçar validações, revisão humana e métricas que considerem erros de remoção, não apenas eficiência automatizada.
#InteligenciaArtificial · #moderacaoDeConteudo · #Reddit · #machinelearning · #falsosPositivos · #segurancaOnline
Terça · 04 ago
2026-08-04
2 matérias
IA
Pesquisa · IA
A Mistral divulgou o Shieldstral, um classificador de segurança multimodal com 3 bilhões de parâmetros em “open weights”. O modelo transforma moderação em uma tarefa de perguntas e respostas binárias (sim/não), permitindo que políticas sejam passadas em linguagem natural na hora da inferência, sem precisar de retraining. Segundo a empresa, ele supera modelos abertos de até 7x seu tamanho em segurança de texto e alcança desempenho de ponta em moderação multimodal, gerando scores calibrados e rodando em uma GPU NVIDIA de 16GB.
Na prática, a abordagem facilita adaptar regras de segurança a diferentes produtos e públicos sem reconfigurar o modelo por meio de novas versões. Para devs e times de IA, isso significa uma forma mais flexível de avaliar conteúdo de texto e imagens com um único pipeline, usando thresholds por confiança em vez de rótulos fixos.
#MistralAI · #multimodal · #contentmoderation · #openweights · #safetyAI · #Apache2
IA
Pesquisa · IA
Um caso em subreddits de skincare acendeu o alerta: um usuário que elogiava um spray de ácido hipocloroso acabou sendo investigado por repetir mensagens parecidas em vários tópicos. Moderadores do r/SkincareAddiction identificaram indícios de promoção disfarçada e passaram a filtrar automaticamente as postagens ligadas à marca citada para revisão.
O motivo é que ferramentas de IA como ChatGPT, Perplexity e Gemini têm citado o Reddit com frequência — e isso virou alvo de marcas e agências que tentam “manipular” respostas e resultados. Para devs e tech, a tendência é clara: a disputa por visibilidade em LLMs vai exigir mais governança de conteúdo, detecção de spam e políticas anti-bots em comunidades online.
#Reddit · #IA · #LLM · #AI SEO · #spam · #moderacao · #ChatGPT
Domingo · 02 ago
2026-08-02
1 matéria
IA
Destaque
Pesquisa · IA
Pesquisadores do Fraunhofer IOSB, na Alemanha, criaram a RealorRender, uma ferramenta para detectar deepfakes e justificar a decisão. O sistema combina uma reconstrução por gerador de imagens de IA com um modelo que mede o erro e estima a autenticidade, alcançando entre 85% e 91% de detecção, segundo comunicado do instituto. O projeto é financiado e desenvolvido em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI).
O diferencial está no uso de IA explicável (XAI): a RealorRender mostra quais características e regiões da imagem influenciaram o resultado, com mapas de calor e análise por segmentos (como rosto, cabelo e fundo). Em um cenário de fraudes que já ultrapassaram US$ 1,5 bilhão em 2025, a proposta ajuda plataformas e equipes de segurança a tomarem decisões de moderação e investigação com mais transparência e menos “caixa-preta”.
#deepfakes · #IA explicável · #XAI · #Fraunhofer · #detecção de falsificações · #segurança da informação · #visão computacional