9 resultados para Editoria
Terça · 13 out
2026-10-13
1 matéria
IA
Pesquisa · IA
OpenAI e Anthropic negociam com avaliadores independentes quais informações poderão ser divulgadas após testes de segurança de seus modelos de inteligência artificial. O impasse envolve a proteção de segredos comerciais e a transparência sobre possíveis riscos, com dúvidas sobre a independência dos especialistas.
Os testes incluem equipes externas dentro dos laboratórios, o que facilita a análise, mas pode gerar conflitos quando informações confidenciais são necessárias para identificar falhas. Um exemplo citado é a investigação sobre um incidente na Hugging Face, em que pesquisadores relataram dificuldades de acesso e ajustes no relatório após comentários das empresas, enquanto uma carta com mais de 200 pesquisadores defende autonomia editorial, acesso aos sistemas e proteção contra retaliações.
#InteligenciaArtificial · #IA · #SegurancaDaIA · #OpenAI · #Anthropic · #RelatoriosDeSeguranca · #Transparencia
Sexta · 09 out
2026-10-09
1 matéria
IA
Pesquisa · IA
Editoras americanas do grupo “Big Five” vêm incorporando ferramentas de IA generativa aos processos editoriais sem divulgar publicamente e sem obter consentimento dos autores, segundo entrevistas com funcionários. HarperCollins, Simon & Schuster e Hachette usariam LLMs como Claude e ChatGPT para tarefas como e-mails para agentes literários, textos de divulgação e contracapa, criação de materiais de marketing e até design de capas.
Em HarperCollins, líderes teriam comprado licenças de Claude e criado um programa interno para identificar casos de uso, enquanto preocupações sobre impactos legais, éticos e ambientais teriam sido tratadas como “custo de fazer negócios”. O uso de IA também aparece em suspeitas entre agentes sobre cartas de rejeição escritas com sinais típicos de IA, enquanto Simon & Schuster e Hachette dizem apoiar apenas usos operacionais e com ferramentas aprovadas.
#InteligenciaArtificial · #IAgenerativa · #LLM · #ChatGPT · #Claude · #Editoria · #MarketingDeLivros
Quarta · 07 out
2026-10-07
1 matéria
IA
Pesquisa · IA
A startup britânica Books by People recebeu aprovação do UK Intellectual Property Office para começar a distribuir um selo que indica que um livro foi escrito por uma pessoa, sem uso de máquinas. O marcador, com formato de impressão digital, será exibido na capa e faz parte de um processo de verificação que inclui declaração de autoria e análise manual de rascunhos e materiais de pesquisa.
A iniciativa surge após uma série de controvérsias na indústria editorial envolvendo suspeitas de uso de IA por autores. A Books by People afirma que usa software proprietário e busca “indicadores de humanidade” durante a avaliação, cobrando uma taxa de adesão dos publishers e um valor adicional por obra certificada, com a expectativa de lançar o selo no primeiro livro ainda este ano.
#InteligenciaArtificial · #IA · #IAgenerativa · #EdicaoDeLivros · #DeteccaoDeIA · #PropriedadeIntelectual
Sábado · 03 out
2026-10-03
1 matéria
IA
Pesquisa · IA
David Robinson, ex-funcionário de segurança da OpenAI que escrevia relatórios de segurança para lançamentos de modelos, pediu demissão e passou a alertar em editorial no The Atlantic. Ele afirma que a cultura da empresa está “broken” e que o problema é mais profundo do que apenas criar novas regras para o treinamento de modelos.
Robinson diz que a indústria opera com “extreme confidence” e “perpetual sprints”, acelerando o desenvolvimento de modelos com “unimpeded optimism” e subestimando riscos. Ele defende que laboratórios de IA adotem salvaguardas “nível nuclear”, com redundância e planejamento cuidadoso, e aponta que outros profissionais de segurança também deixaram empresas como Anthropic e Google DeepMind.
#InteligenciaArtificial · #IA · #OpenAI · #SegurancaDeIA · #RiscosDaIA · #EticaEmIA · #Safety
Quarta · 16 set
2026-09-16
1 matéria
IA
Pesquisa · IA
Dario Amodei, CEO da Anthropic, propôs que avaliadores independentes sejam incorporados a todas as “frontier AI companies”, com poder para reportar incidentes de segurança, avaliar se os modelos estão realmente alinhados e divulgar os achados sem “controle editorial”. Amodei disse que a Anthropic daria acesso sem precedentes a avaliadores como METR e Redwood Research, e Sam Altman indicou que a OpenAI também seguiria a prática.
A proposta é vista com bons olhos por avaliadores ouvidos pelo TechCrunch, mas eles pedem detalhes para garantir independência real, incluindo acesso a versões intermediárias (“checkpoints”) e verificação de logs e transcrições de avaliação. O debate também envolve limites de tempo e acesso: casos anteriores com METR e Redwood e testes citados para GPT-6 Astra apontam janelas curtas que dificultaram conclusões confiáveis, levantando a pergunta sobre o que mudará na prática.
#InteligenciaArtificial · #IA · #SegurancaEmIA · #AvaliacoesDeSeguranca · #OpenAI · #Anthropic · #AlinhamentoDeModelos
Quarta · 02 set
2026-09-02
1 matéria
IA
Pesquisa · IA
A startup Pangram, com 24 funcionários e sede em Brooklyn, promete estimar o quanto um texto foi gerado com participação de IA, fornecendo um percentual de “AI involvement”. A empresa ganhou destaque após acusações públicas envolvendo livros e colunas: a estimativa atribuída à Pangram chegou a 78% no caso de “Shy Girl”, e a Hachette cancelou a publicação; depois, a ferramenta também foi citada em episódios como a Modern Love do The New York Times, com pontuação de 100%, e em obras como “Daggermouth” (60%) e “Call Me, I’ll Hide the Body” (97%).
Em julho, a Substack anunciou a integração da Pangram à plataforma para que leitores possam verificar rapidamente possíveis usos de IA. A demanda cresce com a popularização de LLMs e a necessidade de diferenciar escrita humana de “churn” gerado por modelos, mas o tema também enfrenta resistência de autores e especialistas do setor editorial, que criticam a detecção por software e questionam a confiança na ferramenta.
#InteligenciaArtificial · #IA · #DeteccaoDeIA · #IAgenerativa · #LLM · #Substack · #EdicaoDeConteudo
Quarta · 26 ago
2026-08-26
1 matéria
IA
Destaque
:quality(85)/1846c6a3-4788-41d5-9a18-a48a3f18c13d.jpeg)
Pesquisa · IA
A União Europeia começou a aplicar novas regras de transparência para conteúdos criados ou modificados por inteligência artificial. O Artigo 50 do AI Act, em vigor desde 2 de agosto, determina que empresas identifiquem imagens, vídeos e áudios gerados por IA quando eles puderem ser confundidos com conteúdo real.
A regra também vale para certos textos produzidos ou manipulados por IA sobre temas de interesse público, quando não houver revisão humana ou controle editorial. O descumprimento pode levar a multas de até 15 milhões de euros ou 3% do faturamento anual mundial, e a UE permite diferentes abordagens, como marcas d’água invisíveis e metadados, além de rótulos visuais para o usuário.
#InteligenciaArtificial · #IA · #AIAct · #UniaoEuropeia · #Deepfakes · #Transparencia · #Desinformacao
Quinta · 13 ago
2026-08-13
1 matéria
IA
Pesquisa · IA
A Anthropic passou a inserir watermarks invisíveis nas respostas do Claude, adicionando um código no texto editorial do chatbot para marcar o conteúdo como gerado por IA. A mudança foi implementada para atender ao EU AI Act e ao Transparency Code, que exige rotulagem de conteúdos gerados ou editados de forma identificável por sistemas computacionais.
Enquanto reguladores europeus podem ver a medida como necessária, usuários do Claude no Reddit reagiram com críticas e descontentamento. Parte dos participantes argumentou que a marcação poderia “pegar” estudantes e profissionais que usam o chatbot para tarefas como reorganizar parágrafos e resumir transcrições, enquanto outros defenderam a política como um meio de detectar saídas de IA e reduzir riscos.
#InteligenciaArtificial · #IA · #Claude · #Anthropic · #Watermarking · #EUAIAct · #Transparencia
Domingo · 02 ago
2026-08-02
1 matéria
IA
Destaque
Pesquisa · IA
Um usuário compartilhou um “benchmark” pessoal usando o Claude Opus (da Anthropic) para gerar SVGs a partir de prompts. No exemplo citado, o modelo produziu um desenho de um sapo com anotações estruturais e descrições editoriais exagerando a anatomia, incluindo a “mandíbula Habsburgo” e dentes inferiores projetando sobre o lábio superior.
O que chama atenção é como o modelo consegue interpretar instruções e ainda adicionar interpretações “criativas” ao detalhar partes do desenho. Para devs e makers, isso reforça a utilidade de LLMs para gerar assets (como SVG) e também a necessidade de revisar/ajustar prompts quando o objetivo é precisão visual ou consistência anatômica.
#inteligenciaartificial · #LLM · #Anthropic · #Claude · #SVG · #promptengineering · #IAgenerativa