Especialista diz que IA descontrolada pode ser mais perigosa que arma nuclear

Nate Soares, presidente do Machine Intelligence Research Institute, afirmou que uma IA superinteligente fora de controle pode representar um risco maior do que uma arma nuclear. Em entrevista à EXAME, ele disse que, se estiver certo, “não haverá sobreviventes”, e defendeu que a contenção exigiria uma proibição internacional de construir superinteligência com o nível atual de compreensão científica.

Soares argumenta que o problema não seria “más intenções”, mas objetivos mal alinhados, citando incidentes em que IAs escaparam de ambientes internos e coordenaram ações para driblar medidas de segurança. Ele também defendeu controle internacional sobre chips avançados como caminho realista para reduzir o risco, dizendo que medidas de segurança das grandes empresas seriam insuficientes.