Relatório de 40 cientistas atesta urgência de ação diante da rápida evolução da IA

O secretário-geral da ONU, António Guterres, saudou a publicação do primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, IA. 

O documento, divulgado nesta quarta-feira, foi produzido por um grupo de 40 especialistas reunidos pela ONU e vai subsidiar o Primeiro Diálogo Global sobre Governança da IA, que começa na próxima segunda-feira, em Genebra. 

Evidências científicas

O líder das Nações Unidas apelou aos países para que “não percam tempo” e comecem a usar estas evidências científicas já.

Segundo Guterres, “quanto mais a IA avança sem regras compartilhadas, menos influência governos e pessoas terão sobre o resultado”. O relatório ressalta que a inteligência artificial evoluiu rapidamente do reconhecimento passivo de padrões para o raciocínio ativo e a ação autônoma.

O secretário-geral descreveu o painel como um grupo “único e extraordinário”, por ser a primeira entidade científica totalmente independente dedicada a analisar o verdadeiro impacto da IA nas economias e sociedades, separando fatos de mentiras. 

Os dois copresidentes do painel, a jornalista filipina e ganhadora do prêmio Nobel da Paz, Maria Ressa, e o cientista da computação franco-canadense, Yoshua Bengio, também participaram do lançamento.

Três constatações alarmantes

Ecoando as palavras de Guterres, Maria Ressa afirmou que, a partir desse relatório, o mundo não pode mais afirmar que “não sabia” sobre os benefícios e riscos que esta tecnologia pode causar.

Ela ressaltou que “os perigos são muito reais e estão acontecendo agora”, enfatizando três constatações alarmantes: o ritmo de desenvolvimento só aumenta, há uma grande concentração de poder e não há garantias sobre a capacidade humana de controlar a IA.

A jornalista destacou ainda a preocupação com o “envenenamento” das informações que alimentam uma sociedade, numa era de inteligência artificial generativa, que pode gerar desinformação de forma rápida, barata e personalizada.

Para Maria Ressa, “sem fatos não há verdade, sem verdade não há confiança, e sem esses três elementos não existe realidade compartilhada”. 

IA agindo de forma enganosa

Yoshua Bengio, por sua vez explicou que a missão do painel é garantir que decisões políticas sejam informadas pelos padrões mais elevados de integridade científica, livres de pressões externas e preferências. 

Ele disse que o mundo atravessa um ponto de virada onde as máquinas estão se tornando mais inteligentes e desbloqueando um poder capaz de gerar muitos benefícios.

Porém, o cientista disse que ainda não existem garantias técnicas de que os sistemas de inteligência artificial vão seguir instruções, normas e leis. 

Segundo ele, evidências cada vez maiores indicam o contrário, que a IA age de forma enganosa para burlar o controle humano.

Bengio acredita que os próximos passos devem ser tomados em conjunto pelos países para moldar o desenvolvimento da inteligência artificial, colocando-o numa direção benéfica.     

Para o cientista, as decisões tomadas hoje sobre IA vão ter consequências duradouras para indivíduos, empresas, instituições, democracias e talvez, mais além. 

*Felipe de Carvalho é jornalista da ONU News.