Críticas ao “hype” de IA: incidentes de hacking e disputas sobre avanços matemáticos

A MIT Technology Review reúne uma sequência de episódios recentes que alimentaram o “hype” em torno de modelos de IA, incluindo alegações da Anthropic sobre desempenho do Claude Mythos em encontrar vulnerabilidades e um incidente envolvendo OpenAI e Hugging Face, com divulgações posteriores de casos semelhantes por Anthropic e Meta. O texto também cita disputas sobre “breakthroughs” matemáticos atribuídos por Anthropic e OpenAI, além do impacto da repercussão do anúncio de saída de um engenheiro da Anthropic, com críticas à corrida por superinteligência.

A publicação argumenta que a cobertura midiática tende a reforçar narrativas que atribuem agência aos sistemas e pode reduzir a cobrança por responsabilidade das empresas, enquanto especialistas apontam que explicações técnicas e verificações independentes mudam o quadro. Em relação aos casos de segurança, cybersecurity experts descrevem falhas como negligência e ausência de práticas básicas, e, no campo matemático, pesquisadores contestam a novidade dos resultados e levantam acusações de conduta inadequada, pedindo que políticas sejam baseadas em especialistas e não em releases.