ONU estimula governança global da IA em meio a alertas de “danos catastróficos”

A inteligência artificial, IA, pode beneficiar toda a humanidade de forma segura, justa e sem causar “danos catastróficos”? Essa é a questão central de um encontro de cúpula da ONU, que começa em Genebra, nesta segunda-feira.

Governos, empresas de tecnologia, acadêmicos e a sociedade civil vão se reunir por dois dias no Diálogo Global sobre Governança da IA, debatendo formas de regular uma tecnologia que evolui mais rapidamente do que as normas destinadas a contê-la.

Oportunidade de cooperação

O secretário-geral da ONU, António Guterres, e a presidente da Assembleia Geral, Annalena Baerbock, também participam do evento.

Será a primeira vez em que todos os países terão um lugar à mesa para tratar da governança da IA e explorar oportunidades de cooperação neste tema. 

Para preparar o terreno, foi divulgado na última quarta-feira o relatório preliminar do Painel Científico Internacional Independente criado pela ONU, formado por 40 especialistas de todo o globo. 

O documento, debatido no encontro em Genebra, afirma que, se utilizada de forma responsável, a IA pode trazer benefícios transformadores para pessoas em todo o mundo. No entanto, há também receios de que essa tecnologia revolucionária esteja criando novos perigos.

“Armagedon da informação”

A ONU News ouviu os dois copresidentes do painel, a jornalista filipina e ganhadora do Prêmio Nobel da Paz, Maria Ressa, e o cientista da computação franco-canadense, Yoshua Bengio. 

Maria Ressa lembrou  que a primeira geração de IA foi utilizada nas redes sociais, o que acelerou a propagação de mentiras. 

Ela alertou que “quando carregada de medo, raiva e ódio, a informação viraliza” e que quando não é mais possível distinguir fato de ficção, “não é possível haver democracia”.

Para a jornalista, na era da IA, o mundo enfrenta um dilema que ela chamou de “Armagedon da informação”.

Superação das capacidades humanas

Já Yoshua Bengio disse que a Inteligência Artificial está se aproximando ou superando as capacidades humanas em muitos domínios. 

Ele ressaltou que a tecnologia está avançando mais rapidamente do que a compreensão científica e a capacidade de adaptação dos governos. 

O cientista alertou que diante das crescentes evidências de comportamento enganoso da IA, a ciência não tem como garantir que ela não causará danos catastróficos, seja por conta própria ou devido a usuários mal-intencionados.

O relatório do Painel apresenta dados científicos independentes, revisados por cientistas de 37 países. O documento enfatiza que o potencial da IA é enorme, mas os riscos são reais, e quanto mais os governos esperam pra agir, mais eles crescem.

O Diálogo Global será a oportunidade de iniciar um acordo sobre salvaguardas universalmente aceitas ao redor do desenvolvimento e uso da inteligência artificial. 

*Com reportagem de Hisae Kawamori