El responsable de ONU Derechos Humanos pide controlar la IA antes de que se convierta en un riesgo existencial

El máximo responsable de derechos humanos de la ONU, Volker Türk, se sumó este lunes a los crecientes llamamientos a favor de un mayor control de la inteligencia artificial (IA), al advertir de que esta tecnología revolucionaria podría convertirse en un “riesgo existencial para la humanidad” si no se toman medidas.

Sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable, declaró el Alto Comisionado ante el Consejo de Derechos Humanos en Ginebra. Türk planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.

“Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, afirmó. “Estoy haciendo un llamamiento hoy para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde”.

“Un puñado de hombres” con poder casi ilimitado

Türk instó a los países que albergan tecnologías de IA y a los implicados en sus cadenas de suministro a trabajar juntos para establecer límites claros. “Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector”, subrayó. Sin embargo, destacó que el desafío va más allá de la seguridad técnica.

“Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, señaló, refiriéndose a la creciente concentración del poder tecnológico y a las enormes cantidades de datos que se recopilan y procesan. Insistió en la necesidad de una tecnología “que sirva a la humanidad y no al revés”, en relación con el empleo, la democracia y el medio ambiente, y recalcó que los derechos humanos deben seguir siendo el principio rector.

“Horrorizado” por las armas autónomas

El Alto Comisionado también expresó su preocupación por el uso de la IA en la guerra, especialmente por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana. Türk dijo estar “horrorizado” por los informes sobre drones totalmente autónomos que, presuntamente, fueron desplegados por Rusia y mataron a tres ucranianos el mes pasado. Ucrania también ha probado este tipo de armas, según los informes.

“Me sumo a los llamamientos para que se prohíba de forma urgente las armas que pueden quitar vidas sin intervención humana“, declaró a los miembros del Consejo. Asimismo, advirtió de que la guerra en Ucrania, que ahora entra en su quinto año, sigue causando un creciente número de víctimas civiles y daños a infraestructuras energéticas críticas, con muertes y heridos también registrados en territorio ruso.

Más de 60 conflictos en el mundo

Türk amplió su advertencia al panorama general de la seguridad global, y expresó su profunda preocupación por la proliferación de conflictos armados y la erosión del derecho internacional. Actualmente hay más de 60 conflictos en los que participa al menos un país, un nivel que no se veía desde el final de la Segunda Guerra Mundial.

El Alto Comisionado también mostró su alarma por la renovación de las hostilidades entre Estados Unidos e Irán y sus repercusiones geopolíticas y económicas. Las víctimas civiles siguen siendo una realidad, señaló, incluyendo un ataque en una boda en la provincia iraní de Hormozgan.

Gaza y Cisjordania ocupada

En referencia a Oriente Medio, Türk condenó los continuos ataques israelíes en Gaza y las restricciones a la ayuda humanitaria, así como los planes para el desplazamiento forzoso de palestinos y la retórica deshumanizadora de algunos altos cargos israelíes. También condenó las ejecuciones y torturas supuestamente cometidas por grupos armados afiliados a Hamás.

En la Cisjordania ocupada, Türk pidió medidas contra la anexión, la expansión de asentamientos por parte de Israel y la transferencia de armas que pudiera facilitar violaciones del derecho internacional. “La comunidad internacional debe redoblar sus esfuerzos para lograr una paz duradera, en la que Palestina e Israel convivan lado a lado con igual dignidad y derechos”, afirmó. “Las palabras de condena suenan a vacías ante las violaciones deliberadas y el sufrimiento”.