¿Quién debe fijar las reglas de la IA? La ONU presiona por un futuro digital más seguro

La inteligencia artificial (IA) avanza rápidamente, lo que plantea preguntas sobre cómo las sociedades y los gobiernos pueden aprovechar sus beneficios mientras gestionan riesgos que a menudo superan las fronteras nacionales. Estas preocupaciones se intensificaron después de que un antiguo desarrollador de la empresa de IA Anthropic advirtiera el 8 de septiembre de que la IA podría representar una amenaza existencial para la humanidad. Para la ONU, la mejor manera de abordar los riesgos globales de la IA es reunir a los países para adoptar principios y compromisos compartidos sobre su gobernanza.

La coordinación es “indispensable”

“La acción nacional es esencial, pero la coordinación global es indispensable”, declaró el miércoles el Secretario General de la ONU, António Guterres. La ONU trabaja desde hace varios años para ofrecer un foro donde los países puedan desarrollar una comprensión compartida de las tecnologías de IA y debatir cómo cooperar —y proporcionar un marco regulatorio— en cuestiones como la seguridad, los derechos humanos y las disparidades en el acceso.

El trabajo actual de la ONU sobre la gobernanza de la IA se remonta al Pacto Digital Global, adoptado por los Estados miembros en 2024 como parte del Pacto para el Futuro de la ONU, exactamente hace dos años. 

El Pacto hacía un llamamiento a la cooperación internacional en materia de IA y proponía dos nuevos mecanismos: un panel científico independiente para evaluar los riesgos y las oportunidades de la IA, y un diálogo mundial anual donde los gobiernos y otras partes interesadas pudieran coordinar enfoques sobre su gobernanza.

En agosto de 2025, la Asamblea General de la ONU estableció formalmente ambos. El Panel Científico Internacional Independiente sobre IA pretende proporcionar a los gobiernos una evaluación independiente de lo que se sabe —y de lo que no se sabe— sobre la tecnología en rápido desarrollo.

El Diálogo Global sobre Gobernanza de la IA, por su parte, reúne a gobiernos y otras partes interesadas para debatir la cooperación internacional, compartir experiencias y trabajar por una mayor compatibilidad entre los distintos enfoques de gobernanza de la IA. La Asamblea General diseñó ambas instituciones para que se complementaran: el Panel Científico aporta la evidencia, y los países deciden en el Diálogo Global qué hacer en respuesta.

Riesgos ya identificados

El primer informe preliminar del Panel Científico, publicado el 1 de julio, concluyó que las capacidades de la IA están avanzando rápidamente, en especial en áreas como el razonamiento, la programación y la ciencia, creando oportunidades significativas. 

También identificó riesgos como la desinformación, la discriminación, las violaciones de la privacidad, los ciberataques y la llamada “superinteligencia”, que podría volverse difícil de controlar.

“Necesitamos una comprensión compartida de cómo avanzar en el desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo los sistemas cada vez más potentes pueden requerir salvaguardias más sólidas o medidas adicionales para gestionar los riesgos potenciales”, declaró Guterres en sus comentarios previos a la Asamblea General ante los medios de comunicación en Nueva York.

Trabajar por salvaguardias para la IA

El trabajo de la ONU llega en un momento en que los debates pasan de si la IA debe regularse a preguntas sobre qué salvaguardias deben implementarse. 

Guterres ha pedido cooperación internacional para garantizar que el desarrollo de la IA siga siendo seguro, protegido y responsable. Añadió que los esfuerzos voluntarios para frenar el desarrollo de la IA no serán suficientes si son aislados, no verificables o aplicados de forma desigual.

Preguntado sobre cómo la ONU podría convocar una cumbre como parte de un proceso que conduzca a una regulación efectiva, dijo que no podría hacerse la próxima semana, pero que debería ocurrir pronto, con “todos a bordo” del sector público, privado, científico y de la sociedad civil. “Si creemos que el desarrollo de la IA debe frenarse cuando los riesgos se vuelven demasiado grandes, necesitamos algo más que buenas intenciones”, afirmó.

El Secretario General ha pedido un Compromiso de Seguridad Infantil en la IA y un Fondo Global para la IA, que apoyaría a los países en desarrollo en la construcción de infraestructura y capacidades de IA. También subrayó la necesidad de salvaguardias que hagan que la IA sea “segura, transparente, responsable y con la dignidad humana en el centro”.

Aunque los gobiernos nacionales y regionales toman sus propias decisiones sobre la regulación de la IA, el papel de la ONU será reunir a estos gobiernos, proporcionar una base científica para los debates e identificar áreas de cooperación internacional.

La IA en la Asamblea General

Algunas fuentes diplomáticas citadas en informes periodísticos especulan con que el Consejo de Seguridad debatirá sobre inteligencia artificial durante la semana de alto nivel. 

En la Sede de la ONU, al margen del Debate General —donde las preocupaciones sobre la IA sin duda dominarán el estrado—, la Zona de Medios de los Objetivos de Desarrollo Sostenible acogerá un evento el 21 de septiembre, y la serie sobre IA y Desarrollo Humano culminará con un debate el 23 de septiembre. Ambos eventos se centrarán en la relación entre la IA y la agencia humana.

Guterres ha subrayado que la IA será “un tema principal” en sus conversaciones con los líderes mundiales la próxima semana. Comparando el desarrollo de la IA con la carrera armamentística de la era de la Guerra Fría entre Estados Unidos y la Unión Soviética, el Secretario General pidió cooperación entre los países a la vanguardia de la IA, incluidos Estados Unidos y China, para frenar su desarrollo mientras se siguen evaluando los riesgos.

“Los países que tienen mayor capacidad en las fronteras de la IA creo que deberían establecer mecanismos de contacto, intercambiar información y crear algunas salvaguardias comunes para evitar una carrera hacia el abismo que algún día podría conducir a un desastre gigantesco a nivel global”, afirmó Guterres.

Con los mecanismos científicos y diplomáticos ya en marcha, la ONU seguirá trabajando para convertir esa cooperación en acción concreta a medida que la IA se vuelve cada vez más poderosa.