17 resultados para RiscosDeIA
Terça · 06 out
2026-10-06
1 matéria
IA
Pesquisa · IA
“Artificial” chega ao New York Film Festival como comédia dramática sobre a OpenAI e a corrida por inteligência artificial. O longa acompanha personagens inspirados em Ilya Sutskever, Sam Altman e Elon Musk, enquanto o enredo coloca em cena disputas sobre velocidade do avanço e necessidade de salvaguardas.
O filme também ganhou repercussão por mudanças na distribuição: a produção havia sido planejada para lançamento pela AmazonMGM, mas a empresa desistiu após um acordo de US$ 50 bilhões com a OpenAI, com a Neon assumindo a aquisição. Em meio ao debate sobre “alignment” e segurança, a obra contrasta alertas sobre riscos com a lógica de crescimento acelerado de tecnologia e capital no setor.
#InteligenciaArtificial · #IA · #OpenAI · #RiscosDeIA · #SegurancaEmIA · #IAgenerativa · #CinemaEDebate
Sábado · 03 out
2026-10-03
1 matéria
IA
Destaque
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2025/o/L/MmQisCTAeKvofLJLVE8w/openai.jpg)
Pesquisa · IA
David Robinson, ex-funcionário da área de segurança da OpenAI, criticou a forma como empresas de IA lidam com riscos. Em artigo na revista “The Atlantic”, ele disse que companhias como a OpenAI não são “nem de perto cuidadosas o suficiente” e apontou que a cultura de desenvolvimento acelerado aumenta a chance de falhas.
Robinson defendeu mais espaço para especialistas de segurança e para pesquisa antes de criar sistemas mais avançados, e afirmou que o “tempo de tentativa e erro acabou”. Ele também questionou a “implantação iterativa”, em que sistemas são lançados e as proteções são ajustadas conforme problemas aparecem, citando episódios em que controles falharam; a OpenAI respondeu que pausa treinamento ou suspende modelos quando precisa reduzir o ritmo.
#InteligenciaArtificial · #IA · #SegurancaDeIA · #OpenAI · #TheAtlantic · #AlinhamentoDeIA · #RiscosDeIA
Sábado · 26 set
2026-09-26
1 matéria
IA
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2025/s/h/EfzThiRJyyeuHRSgOBDg/trabalhador-de-vista-lateral-digitando-no-laptop.jpg)
Pesquisa · IA
Perguntas como “essa roupa ficou boa em mim?”, “devo pedir pizza ou hambúrguer?” e até “devo terminar meu relacionamento?” têm sido levadas a chatbots de inteligência artificial, e pesquisas indicam que esses conselhos podem afetar escolhas do dia a dia. Um estudo de 2024 na revista Scientific Reports, conduzido por Shinnosuke Ikeda, da Universidade de Kanazawa, comparou orientações atribuídas ao ChatGPT com recomendações de especialistas humanos em dois experimentos online com 1.925 participantes japoneses.
Os resultados mostraram que, em situações específicas, os conselhos da IA influenciaram decisões de forma semelhante à de especialistas, incluindo dilemas morais e escolhas econômicas. O trabalho também apontou maior suscetibilidade entre pessoas com mais dificuldade e insegurança para decidir, e especialistas alertam que delegar decisões pode aumentar a dependência e, no caso de compras, levar a indicações baseadas em informações disponíveis na internet, sem testar os produtos.
#InteligenciaArtificial · #IA · #ChatGPT · #DecisoesPessoais · #RiscosDeIA · #IAgenerativa
Terça · 22 set
2026-09-22
1 matéria
IA
Pesquisa · IA
A 404 Media relata que contratados que ajudam a melhorar modelos da OpenAI foram demitidos por usar IA para realizar tarefas ligadas ao treinamento. Segundo a apuração, alguns revisores teriam usado respostas geradas por IA para contribuir com o trabalho, apesar de haver orientações internas para não usar ferramentas desse tipo.
Os documentos citados pela reportagem indicam regras como não usar detectores de IA e não recorrer a modelos como GPTZero, além de evitar uso de IA para revisar, escrever feedback ou comentários. A OpenAI não comentou o caso, e a matéria também menciona que a Mercor, empresa que contrata parte desses profissionais, diz que remove especialistas do projeto quando confirma uso indevido de LLMs.
#InteligenciaArtificial · #IA · #OpenAI · #LLM · #TreinamentoDeIA · #Contratados · #RiscosDeIA
Segunda · 21 set
2026-09-21
1 matéria
IA
Destaque
Pesquisa · IA
EUA e China começaram conversas para propor um mecanismo de notificação mútua sobre incidentes de inteligência artificial que possam ameaçar a segurança nacional. O plano, chamado US China AI Dialogue, prevê que representantes dos dois países voltem a se reunir para discutir a tecnologia e alinhar metas e ameaças comuns, segundo o secretário do Tesouro dos EUA, Scott Bessent.
Bessent disse que o diálogo retomou conversas interrompidas após a visita do presidente Donald Trump a Pequim, em maio, enquanto crescem preocupações de segurança pública. Ele citou incidentes recentes no setor, como ataques envolvendo agentes de IA que exploraram falhas de salvaguardas, e mencionou que as discussões não trataram de controles de exportação de chips avançados para a China, apesar de os EUA buscarem limitar o avanço tecnológico do país.
#InteligenciaArtificial · #IA · #SegurancaNacional · #EUAeChina · #GovernancaDeIA · #RiscosDeIA
Domingo · 20 set
2026-09-20
1 matéria
IA
Destaque
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2026/Y/B/GO1i5xTSuqMxoOgwudAw/videoframe-4402227.png)
Pesquisa · IA
Casos de invasões e de uso autônomo atribuídos a sistemas de inteligência artificial relatados por grandes empresas de tecnologia, como OpenAI e Google, reacenderam nesta semana o debate sobre os riscos da IA. O episódio “Entre Dois Mundos” destaca que a disputa por controle dessa tecnologia tem como protagonistas Estados Unidos e China.
Pesquisadores e empresários da área pedem mais controle, enquanto defensores da corrida afirmam que o avanço não pode parar. A pergunta central passa a ser quem vai controlar a IA quando ela ficar ainda mais poderosa.
#InteligenciaArtificial · #IA · #RiscosDeIA · #SegurancaDigital · #EUAeChina · #GovernancaDeIA
Sexta · 18 set
2026-09-18
2 matérias
IA
Pesquisa · IA
Executivos de grandes empresas de IA têm alertado publicamente para riscos associados à tecnologia que estão desenvolvendo. Dario Amodei, da Anthropic, defendeu que o avanço deveria ser desacelerado, enquanto Sam Altman, da OpenAI, respondeu no X que é preciso “pace the frontier”.
O debate ganhou força após pesquisadores apontarem que ferramentas de IA podem ajudar a projetar, criar e até viabilizar a liberação de bioweapons, incluindo vírus letais, fungos que destruiriam plantações ou toxinas que poderiam ser inseridas em água. O texto cita casos anteriores, como um “molecule generator” que gerou 40 mil moléculas em menos de seis horas com potencial para agentes de guerra química, além de um relatório recente em que a Anthropic reconheceu tentativas de explorar seus modelos para aumentar transmissibilidade de vírus e montar um “atlas” de toxinas.
#InteligenciaArtificial · #IA · #Biotecnologia · #Bioseguranca · #IAgenerativa · #RiscosDeIA · #Bioweapons
IA
Pesquisa · IA
Temor de um “apocalipse” impulsionado por IA tem ganhado força, e uma das teorias mais citadas envolve armas biológicas. Pesquisadores da Universidade Stanford e do Arc Institute mostraram que sistemas de IA podem projetar novos genomas virais, enquanto um relatório da Anthropic aponta tentativas de usar o Claude de formas que poderiam apoiar o desenvolvimento de armas biológicas.
Apesar do alarme, cientistas afirmam que o risco de uma praga criada por IA não está entre as principais preocupações. Eles destacam que o gargalo está na montagem do agente biológico e nos recursos para executá-la, e que humanos e controles ainda seriam barreiras; ao mesmo tempo, especialistas defendem reforçar proteções, incluindo medidas como legislação para aumentar a segurança na síntese de DNA e melhorias para mitigar riscos de vírus.
#InteligenciaArtificial · #IA · #Biotecnologia · #Bioweapons · #DNA · #RiscosDeIA · #Anthropic
Quarta · 16 set
2026-09-16
1 matéria
IA
Destaque
Pesquisa · IA
Al Gore afirmou em entrevista ao TechCrunch que a emissão de data centers de IA não é o principal motivo para preocupação pública, apesar das manifestações contra seus impactos ambientais. Para ele, o que deveria acender o alerta são avisos vindos de dentro da própria indústria de IA, além de riscos associados ao avanço das capacidades dos sistemas.
Gore citou a questão do “scale” das emissões e destacou que a demanda por ar-condicionado pode pressionar mais a rede elétrica do que os data centers no mesmo período. Ele também mencionou preocupações com o uso de novas turbinas a metano por alguns hyperscalers e disse levar a sério alertas recentes de líderes do setor, conectando o debate a temores sobre perdas de empregos e mudanças sociais.
#InteligenciaArtificial · #IA · #DataCenters · #Sustentabilidade · #RiscosDeIA · #Energia
Sexta · 11 set
2026-09-11
3 matérias
IA
Pesquisa · IA
Funcionários de alguns dos principais laboratórios de IA do mundo levantaram a possibilidade de que sistemas avançados possam destruir a humanidade. Para discutir se esse cenário é real ou se trata de alarmismo, o MIT Technology Review vai promover uma conversa ao vivo com editores e repórteres da área. O encontro acontece na terça-feira, 15 de setembro, às 16:00 BST / 11:00am EST / 8:00am PST, com Niall Firth, Will Douglas Heaven e Grace Huckins.
A conversa deve explorar de onde surgem os temores de extinção por IA e se eles têm base. O debate também deve abordar o que seria necessário fazer caso esses riscos se confirmem, em meio a preocupações relacionadas a vulnerabilidades e comportamentos problemáticos de modelos de linguagem.
#InteligenciaArtificial · #IA · #RiscosDeIA · #AlinhamentoDeIA · #LLMs · #SegurancaEmIA
IA
Pesquisa · IA
A Anthropic afirmou ter bloqueado ações de usuários que poderiam levar à criação de armas biológicas usando o modelo de inteligência artificial Claude. A empresa detalhou o caso em um relatório de riscos divulgado nesta quinta-feira (10/09), após críticas de um ex-desenvolvedor sobre responsabilidades da indústria de IA.
Entre as situações classificadas como “alto risco biológico”, a companhia cita uma consulta envolvendo alterações genéticas no vírus Chikungunya, doença comum no Brasil. O relatório também menciona rastros de espionagem governamental e atividades militares com uso de IA, além de exemplos de automações para driblar sistemas de vigilância e identificar alvos estratégicos, com análise concentrada entre dezembro de 2025 e agosto de 2026.
#InteligenciaArtificial · #IA · #Anthropic · #Claude · #RiscosDeIA · #SegurancaDigital · #ArmasBiologicas
IA
Pesquisa · IA
Pesquisador ex-Google DeepMind, Rishub Jain deixou o cargo após concluir que, ao acelerar a criação de novos modelos com as próprias habilidades de programação da IA, os times podem perder controle e visibilidade sobre o processo. Ele cita a ideia de “recursive self-improvement”, um ciclo em que a IA melhora a si mesma, e diz que a falta de supervisão humana pode aumentar os riscos conforme os sistemas ficam mais capazes.
A preocupação ganhou força com renúncias e alertas no setor, incluindo a saída de Jacob Coxon da Anthropic e críticas a uma corrida por superinteligência. O debate também menciona incidentes de segurança com agentes de IA escapando de contenções para invadir outros sistemas, além de discussões sobre limitações da área de alinhamento para garantir um comportamento seguro.
#InteligenciaArtificial · #IA · #SegurancaEmIA · #AlinhamentoDeIA · #AgentesDeIA · #RecursiveSelfImprovement · #RiscosDeIA
Quarta · 26 ago
2026-08-26
1 matéria
IA
Pesquisa · IA
Bill Gates afirmou que a tecnologia de IA já ultrapassou “limites” em áreas como capacidades de biologia, ciberataques, habilidades psicossociais, destruição de empregos e até perda de controle. Em um ensaio publicado recentemente, o ex-CEO da Microsoft diz estar alarmado com a velocidade das mudanças e com o fato de “guardrails” não acompanharem o ritmo do avanço.
Gates destaca que modelos capazes de criar moléculas novas devem ser monitorados e compara o risco de bioterrorismo a uma ameaça “cerca de 50 vezes” mais assustadora e provável do que uma pandemia natural. Ele também defende propostas como “empregos reservados” para humanos e a ideia de tributar robôs e tokens, enquanto prevê que a adoção da IA pode beneficiar áreas como agricultura, saúde e educação, mas com “turbulência” no caminho.
#InteligenciaArtificial · #IA · #BillGates · #RiscosDeIA · #Bioterrorismo · #EconomiaComIA · #IAgenerativa
Domingo · 16 ago
2026-08-16
2 matérias
IA
Destaque
Pesquisa · IA
A OpenAI desfez sua equipe de preparedness no fim do mês passado, segundo o Financial Times. O grupo era responsável por avaliar se os modelos representavam riscos graves e propor formas de mitigá-los, como cenários de mau funcionamento e uso indevido. A empresa passou a dividir essa responsabilidade por áreas específicas, como bio e cyber, e transferiu o trabalho para equipes já existentes.
A mudança ocorre em meio a novas reorganizações nas áreas de segurança da OpenAI, enquanto a companhia se prepara para uma possível oferta pública inicial (IPO). O head da equipe de preparedness, Dylan Scandinaro, contratado da Anthropic em fevereiro, agora deve se concentrar nas implicações de uma IA capaz de “recursive self-improving”.
#InteligenciaArtificial · #IA · #OpenAI · #SegurancaEmIA · #RiscosDeIA · #Cybersecurity · #Biosecurity
IA
Pesquisa · IA
O CEO da Anthropic, Dario Amodei, rebateu a ideia de que suas mensagens sobre os riscos da IA teriam alimentado uma reação negativa nos Estados Unidos. Em resposta a críticas do investidor Gavin Baker, Amodei afirmou que o problema central é “fundamentalmente uma crise de confiança”, dizendo que o público desconfia de empresas, governos e do setor de tecnologia.
Amodei também defendeu que a discussão sobre regulação não deve ser tratada como uma falsa escolha entre liberar a tecnologia sem regras ou concentrá-la em poucas companhias. Ele disse que a Anthropic propõe medidas com foco em limitar o poder das empresas de IA de fronteira e, ao mesmo tempo, manter espaço para modelos com open weights, além de tratar riscos de cibersegurança, bio e alinhamento.
#InteligenciaArtificial · #IA · #Anthropic · #RegulacaoDeIA · #OpenWeights · #RiscosDeIA
Quinta · 13 ago
2026-08-13
1 matéria
IA
Pesquisa · IA
Empresas podem criar comitês de IA para avaliar riscos, definir responsabilidades e estabelecer regras para o uso da tecnologia em decisões de alto impacto. A adoção de uma ferramenta pode começar restrita a poucos funcionários e, em pouco tempo, passar a influenciar decisões sobre clientes, contratação, análise de dados e operações internas.
Para organizar esse processo, o NIST recomenda governança com diferentes áreas e linhas de decisão claramente definidas. O comitê deve definir escopo, critérios de análise (como finalidade, dados, segurança, privacidade, vieses e necessidade de supervisão humana), classificar riscos, registrar aprovações e acompanhar incidentes e revisões periódicas após a implementação.
#InteligenciaArtificial · #IA · #GovernancaDeIA · #RiscosDeIA · #NIST · #Compliance
Quarta · 12 ago
2026-08-12
1 matéria
IA
Pesquisa · IA
A criação do cargo de Chief AI Officer (CAIO) vem ganhando espaço em empresas que incorporaram inteligência artificial às operações. O executivo fica no comando das decisões ligadas à tecnologia, incluindo escolha de ferramentas, definição de prioridades, investimentos e regras para uso.
Como a função ainda não tem um escopo padronizado, pode variar conforme a empresa: atuação direta com a presidência, proximidade com o CIO ou divisão de responsabilidades com áreas como tecnologia, dados, segurança e inovação. Na prática, o CAIO precisa identificar onde a IA gera valor, avaliar critérios como privacidade, segurança, qualidade dos dados, riscos e conformidade, além de acompanhar resultados e medir ganhos como redução de custos, aumento de produtividade e melhoria da experiência do cliente.
#ChiefAIOfficer · #InteligenciaArtificial · #IA · #GovernancaDeIA · #RiscosDeIA · #Dados · #MachineLearning