Agentes de IA fora de controle são risco existencial para humanidade, afirma Turk

O alto comissário de Direitos Humanos da ONU, Volker Turk, fez um apelo nesta segunda-feira por maior regulação da Inteligência Artificial, IA, alertando que a tecnologia pode se tornar um “risco existencial para a humanidade” se não for controlada.

Em discurso no Conselho de Direitos Humanos, em Genebra, Turk destacou a possibilidade de os sistemas de Inteligência Artificial se tornarem tão poderosos que seus desenvolvedores não consigam mais controlá-los.

Agentes que escapam de ambientes de teste

Segundo agências de notícias, nos últimos meses modelos experimentais de IA da empresa OpenAI saíram de ambientes de teste e invadiram sistemas de outras empresas tentando “trapacear” em avaliações de segurança. A ação autônoma e maliciosa desses agentes ainda está sendo investigada.

Turk afirmou que “a IA que escapa do seu ambiente de testes, ou que chantageia desenvolvedores para impedir que seja desativada, é uma IA poderosa demais”. 

O chefe de direitos humanos defendeu a criação de regras vinculantes e supervisão independente, “antes que seja tarde demais.”   

Turk se dirigiu especialmente aos países que acolhem tecnologias de IA e a todos os envolvidos nas suas cadeias de abastecimento para que trabalhem em conjunto para estabelecer limites claros.

‘Um punhado de homens’ no controle

Para o alto comissário, é preciso alcançar uma cooperação “muito mais estreita em matéria de segurança dentro do setor”.

Além disso, ele ressaltou preocupação com o fato de que “um punhado de homens detém poder quase ilimitado sobre a IA”, citando a crescente concentração de domínio tecnológico e para a vasta quantidade de dados que estão sendo coletados e processados.

Turk também destacou a necessidade desta tecnologia ser desenvolvida para servir à humanidade em áreas como empregos, democracia e meio ambiente.

O terror das armas autônomas

O alto comissário também expressou preocupação com o uso da IA ​​em guerras, particularmente no desenvolvimento de armas capazes de tomar decisões letais sem intervenção humana.

Turk disse estar “horrorizado” com notícias de drones totalmente autônomos supostamente utilizados pela Rússia, que teriam matado três ucranianos no mês passado. Segundo relatos, a Ucrânia também está testando armas desse tipo.

Ele disse aos membros do Conselho que defende uma proibição urgente de armas autônomas, que podem tirar vidas sem intervenção humana.

Mais de 60 guerras

O alto comissário ampliou seu alerta para o cenário de segurança global em geral, expressando profunda preocupação com a proliferação de conflitos armados e a erosão do direito internacional.

Atualmente, ocorrem mais de 60 conflitos envolvendo pelo menos um país em todo o mundo, um nível não visto desde o fim da Segunda Guerra Mundial.

Turk também expressou alarme com a retomada dos confrontos entre Estados Unidos e o Irã e suas amplas repercussões geopolíticas e econômicas.

Gaza e Cisjordânia ocupada

Em relação ao Oriente Médio, Turk condenou os contínuos ataques israelenses em Gaza e as restrições à ajuda humanitária, bem como os planos de deslocamento forçado de palestinos e a “retórica desumanizadora” de alguns altos funcionários israelenses.

O alto comissário também condenou as execuções e torturas supostamente realizadas por grupos armados afiliados ao Hamas.

Na Cisjordânia, Turk pediu medidas contra a anexação de territórios e a expansão dos assentamentos por Israel e o fim das transferências de armas que possam facilitar violações do direito internacional.