OpenAI detalha Astra: LLM com “limiar crítico” de cibersegurança

A OpenAI compartilhou novos detalhes do modelo Astra, que está a caminho e deve ser lançado em breve. A empresa afirma que o Astra é o primeiro grande modelo de linguagem a atingir seu “limiar crítico” de cibersegurança, mas diz que o acesso às capacidades mais avançadas será mais limitado.

O laboratório Frontier sustenta que o Astra consegue encontrar falhas de segurança desconhecidas e explorá-las sem orientação humana, e a OpenAI cita um desempenho perfeito no ExploitBench, incluindo a descoberta e exploração de duas vulnerabilidades zero-day em uma versão modificada do teste. Para reduzir abusos, a empresa diz que começou a aprimorar o “harness” para detectar jailbreaks, restringir respostas para contas de maior risco e usar monitoramento adicional para identificar e interromper comportamentos inadequados, além de planejar novas avaliações antes e depois do lançamento amplo.