Guterres exige una gobernanza mundial de la inteligencia artificial antes de que sea demasiado tarde

Al intervenir en el primer Diálogo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial, celebrado en Ginebra, el Secretario General de la ONU insistió en la necesidad de ampliar el acceso a la inteligencia artificial para los miles de millones de personas que aún no pueden beneficiarse de ella.

António Guterres subrayó que cualquier acuerdo futuro debe ser “digno de la confianza mundial” y priorizar la seguridad, especialmente la de los niños, para protegerlos de la manipulación y los abusos generados mediante herramientas digitales.

En la misma línea, la presidenta de la Asamblea General, Annalena Baerbock, hizo un llamamiento a la acción colectiva para hacer frente al lado “más oscuro” de la inteligencia artificial. Recordó que, según informes, el 99 % de los deepfakes tienen contenido sexual y que el 96% están dirigidos contra mujeres y niñas.

Reducir la brecha digital

El titular de la ONU afirmó que otras prioridades para una gobernanza mundial de la inteligencia artificial deben incluir garantizar el acceso a esta tecnología para los países en desarrollo y lograr que todos los centros de datos dedicados a la IA funcionen con energía renovable para 2030.

Aunque la inteligencia artificial “está en el centro de nuestro futuro común”, ese futuro debe ser uno en el que “las máquinas puedan informar, pero sean los seres humanos quienes decidan y rindan cuentas”, dijo Guterres. Con ello reiteró el llamamiento que hizo por primera vez ante la Asamblea General en 2017 para establecer normas internacionales sobre esta tecnología.

En los tres años transcurridos desde que la inteligencia artificial comenzó a generalizarse, ha transformado profundamente las economías y las sociedades, para bien y para mal. En este contexto, la ONU ha encabezado los esfuerzos internacionales para definir un marco de gobernanza, que culminaron este lunes con el primer Diálogo Mundial sobre Inteligencia Artificial celebrado en Ginebra.

La reunión congregó a empresas, investigadores, expertos técnicos, organizaciones de la sociedad civil e incluso al compositor de formación clásica y artista transmedia Gadi Sassoon para debatir cómo situar a la humanidad en el centro de esta tecnología revolucionaria. Un segundo diálogo está previsto para mayo de 2027 en Nueva York.

“La inteligencia artificial tiene consecuencias demasiado importantes como para que sea moldeada por unos pocos. Necesitamos una conversación mundial, inclusiva y basada en la evidencia”, afirmó el enviado especial de la ONU para Tecnologías Digitales y Emergentes, Amandeep Singh Gill.

Desde el Panel Científico Internacional Independiente sobre Inteligencia Artificial, su copresidente, Yoshua Bengio, advirtió que no existen señales de que el ritmo de desarrollo de esta tecnología vaya a disminuir. “Pruebas muy preocupantes también han demostrado que los modelos de inteligencia artificial más avanzados son capaces de engañar a los seres humanos para detectar cuándo están siendo evaluados”, afirmó, al tiempo que pronosticó que la inteligencia de estos sistemas seguirá creciendo.

“Parece ciencia ficción, pero es una posibilidad real, que podría cambiar el mundo de maneras que aún no comprendemos y modificar el equilibrio de poder del planeta de formas que exigen toda nuestra atención”, añadió.

Cronología de la regulación de la inteligencia artificial

2017: En uno de sus primeros llamamientos para regular la inteligencia artificial, el Secretario General destacó el “espectacular” potencial de esta tecnología revolucionaria. Sin embargo, también advirtió ante la Asamblea General sobre su posible impacto en el empleo, la seguridad mundial y “el propio tejido de nuestras sociedades”.

2023: El Órgano Consultivo de Alto Nivel sobre Inteligencia Artificial del Secretario General pidió una gobernanza mundial para esta tecnología.

2024: El Pacto para el Futuro y el Pacto Digital Mundial establecieron el mandato para desarrollar un modelo de gobernanza de la inteligencia artificial.

Junio de 2026: El Panel Científico Internacional Independiente sobre Inteligencia Artificial advirtió que esta tecnología podría “causar daños catastróficos, ya sea por sí misma o debido a usuarios malintencionados”, mientras avanza “más rápido que la comprensión científica y la capacidad de adaptación de los gobiernos”.

6 y 7 de julio de 2026: El primer Diálogo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial y la Cumbre IA para el Bien se celebran en Ginebra. Ambos encuentros “deben ahora dar al mundo una dirección clara” sobre los próximos pasos, insistió António Guterres.

El gran igualador

Si se utiliza de forma adecuada y se comparte ampliamente, la inteligencia artificial “podría condensar décadas de desarrollo en apenas unos años” y convertirse en “el gran igualador del siglo XXI”, afirmó el secretario general ante los delegados.

Pero antes de que eso ocurra, la tecnología debe someterse a rigurosas pruebas de seguridad y debe quedar claramente establecida la responsabilidad jurídica:

“Cuando los países se ponen de acuerdo sobre cómo evaluar los sistemas, medir los riesgos y asignar responsabilidades, la seguridad avanza junto con la tecnología”, afirmó. “Cuando no lo hacen, surge un mosaico de normas incompatibles que aumenta los costos, divide al mundo y no protege a nadie”.

El Secretario General añadió que la seguridad y el bienestar de la infancia deben ser una prioridad en cualquier futuro acuerdo sobre gobernanza de la inteligencia artificial e instó a los Estados a adoptar un Compromiso para la Seguridad Infantil en el ámbito de la IA.

“Ningún niño debe convertirse en un conejillo de indias de una inteligencia artificial sin regulación. No permitimos que un medicamento llegue a un niño hasta comprobar que es seguro. Probamos cada juguete; sin embargo, la inteligencia artificial ya ha llegado a nuestros niños, a su aprendizaje, a sus amistades y a sus preguntas más íntimas, antes de que alguien se preguntara qué efectos tendría sobre ellos”.

¿Qué es el Compromiso para la Seguridad Infantil?

En virtud de este compromiso promovido por la ONU, los desarrolladores de inteligencia artificial tendrían que demostrar:

• Que la tecnología es segura: ninguna empresa debería poner a disposición de los niños un sistema de inteligencia artificial sin realizar pruebas específicas de seguridad infantil y sin supervisión independiente
• Tolerancia cero frente al abuso sexual: ninguna empresa debería permitir que su inteligencia artificial genere imágenes sexuales de niños. Todas deben detectarlas, denunciarlas y eliminarlas
• Cuando un niño muestre señales de angustia, “el sistema debe detenerse y ponerlo en contacto con apoyo humano real”, afirmó el Secretario General. “Cuando un niño resulte perjudicado, la respuesta nunca puede ser: Fue el algoritmo”

Los derechos humanos, una prioridad

Como segunda prioridad en la regulación de la inteligencia artificial, António Guterres subrayó que los derechos humanos no son negociables.

“La inteligencia artificial nunca debe menoscabar la dignidad humana ni reforzar la discriminación. Y en todas las decisiones de alto impacto, en la justicia, la atención sanitaria o la labor policial, las máquinas pueden informar, pero son los seres humanos quienes deben decidir y rendir cuentas”, afirmó.

La financiación pública de la IA es “una gota en el océano”

Al reclamar una mayor inversión pública en inteligencia artificial, el titular de la ONU señaló que la financiación privada destinada a infraestructuras de IA ronda los 500 billones de dólares, mientras que el apoyo público para fortalecer las capacidades de los países en desarrollo representa, en comparación, “una gota en el océano”.

Para reducir esa brecha, anunció que más de 20 países ya respaldan su iniciativa para crear una Red Mundial de Intercambio y Cooperación para el Fortalecimiento de Capacidades en Inteligencia Artificial, con el apoyo de la ONU.

“No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial y que esta, a su vez, se transforme en una brecha de desarrollo, de seguridad y de soberanía”, afirmó.

Un llamado a la transparencia

El Secretario General reiteró además su llamamiento para que todas las grandes empresas de inteligencia artificial midan y hagan pública la huella completa de sus sistemas (carbono, agua y uso del suelo) y se comprometan a que todos sus centros de datos funcionen con energía renovable antes de 2030.

“La inteligencia artificial puede parecer intangible, pero su huella no lo es”, afirmó, al señalar que los centros de datos consumen más electricidad que la mayoría de los países.

“Para 2030 podrían consumir más electricidad que todos los países del mundo, salvo cinco, y utilizar suficiente agua para cubrir durante un año las necesidades de los 1300 millones de personas que viven en África subsahariana”, añadió al destacar la Iniciativa de Transparencia Ambiental de la ONU sobre Inteligencia Artificial.