Brasileira ajuda a reunir evidências científicas sobre riscos e benefícios da IA

Perante o rápido avanço da inteligência artificial, IA, a ONU montou um time de 40 especialistas que está reunindo argumentos científicos e exemplos concretos sobre riscos e benefícios desta tecnologia.

A pesquisadora brasileira Teresa Ludermir é uma das integrantes deste Painel Científico Internacional Independente. Ela contou à ONU News que o grupo é multidisciplinar, incluindo especialistas em computação, mas também psicólogos, jornalistas e filósofos. O primeiro relatório está previsto para julho. 

Risco de sistemas totalmente autônomos

Um dos temas de grande preocupação é o eventual surgimento de sistemas completamente autônomos, a chamada inteligência artificial de propósito geral.

“Os riscos podem vir a ser muito grandes se a gente perder o controle e se de alguma forma esses sistemas passarem a ter uma autonomia tão grande que eles possam, e a gente já tem visto algumas evidências que eles tentam enganar aos usuários e aos desenvolvedores, por exemplo, para não serem desligados, para continuarem opinando. Então a gente tem essa preocupação da tecnologia sair do controle humano, né? Agora, dito isso, a gente também vê muitas, muitas coisas boas nessa tecnologia. A gente vê a possibilidade de ajudar na educação, na medicina”.

Teresa, que é especialista em computação, ressaltou que durante a pandemia de Covid-19, o desenvolvimento de vários medicamentos e vacinas foi acelerado pelo uso da inteligência artificial.

A também professora da Universidade Federal de Pernambuco, Ufpe, explicou que ainda existem “gargalos tecnológicos” na criação de modelos que tenham autonomia para resolver qualquer tipo de problema, mas não arriscou dar nenhum palpite sobre em quanto tempo esses gargalos serão superados.

“Eu já não me arrisco a fazer uma previsão porque a minha previsão  a cinco anos atrás, antes dos grandes modelos de linguagem, era que a gente só teria essa possibilidade que a gente tem hoje desses modelos em 10, 15 anos e de repente, em dois, três meses, a gente viu tudo mudar”.

Travas de segurança

Teresa explicou que a função do painel é fornecer esclarecimentos com respaldo científico sobre o que é bom e o que pode ser “desastroso para a humanidade”. Não compete ao grupo criar nenhum tipo de regulação. Esta tarefa cabe a cada país ou instituição.

A integrante do painel da ONU mencionou que uma das formas mais eficientes de promover sistemas mais seguros é criar travas desde a fase de planejamento e desenvolvimento inicial das ferramentas de IA. 

No entanto, ela lembrou que as empresas podem não aderir a essas propostas pois estão em constante competição umas com as outras.

Desigualdade entre países

A especialista destacou ainda que o desenvolvimento e aplicação da tecnologia têm como pano de fundo um risco real de aumento de desigualdades entre países. 

“A maior parte das empresas que detêm o poder da inteligência artificial, que são poucas, elas estão no Norte global. Então, eu sei que a nossa audiência não é do Sul global, especificamente de países de língua portuguesa, mas a maior parte dos países de língua portuguesa estão no Sul global. Então, pra gente do Sul global, a gente vê um risco de a gente passar a ser provedor de dados, provedor de mão de obra pra rotular dados, pra fazer a parte mais operacional do sistema e não usufruir com autonomia e com independência dos benefícios da inteligência artificial”. 

Para apresentar seu primeiro relatório no Diálogo sobre Governança da Inteligência Artificial, que será de 6 a 7 de julho, em Genebra, o painel se organizou em grupos temáticos e está realizando reuniões virtuais semanais.

O primeiro encontro presencial ocorreu em Madri, na Espanha, de 22 a 24 de abril.