OpenAI reduz ritmo do treino e isola modelos após riscos de segurança

A OpenAI anunciou que vai reduzir temporariamente o ritmo de desenvolvimento e treinamento de modelos para reforçar monitoramento, alinhamento e segurança. A empresa informou que está “travando” modelos com mais restrições, isolando código considerado arriscado da internet e de outros sistemas internos, além de monitorar atividade potencialmente perigosa em até 30 minutos.

A companhia também disse que a medida pode adicionar cerca de 20% de overhead ao custo de inferência do sistema monitorado e que o processo inclui uma pausa de duas semanas em reinforcement learning (RL) dos “últimos modelos destinados à implantação”. Segundo a OpenAI, o maior ciclo planejado de RL de fronteira permanece em espera enquanto ela executa rodadas menores e mais contidas de treinamento e avaliação.