¿Puede la IA servir a la humanidad sin dominarla? Un panel de la ONU analiza cómo gobernarla

El Panel Científico Internacional Independiente de las Naciones Unidas sobre la IA —el primer organismo mundial de este tipo— se está preparando para celebrar su primera cumbre presencial.

Con el objetivo de abordar la compleja relación entre innovación y ética, este grupo de expertos de renombre mundial pone en marcha un estudio histórico sobre las fuerzas que están transformando la vida moderna.

«No nos centramos únicamente en la IA como un campo matemático o algorítmico: también nos preocupamos por garantizar que los seres humanos ocupen un lugar central en la toma de decisiones», afirma Menna El-Assady, profesora adjunta del Instituto Federal Suizo de Tecnología (ETH) de Zúrich.

El-Assady es una de las miembros fundadoras del panel independiente, recomendado por el Secretario General de la ONU.

De nacionalidad egipcia, es una de los 40 miembros, que fueron nombrados formalmente por la Asamblea General en febrero. Proceden de diversos ámbitos, entre ellos el mundo académico, el sector privado, la sociedad civil, organizaciones gubernamentales e internacionales y la comunidad técnica, y cuentan con experiencia en conocimientos técnicos básicos de IA; experiencia en IA aplicada, seguridad e infraestructura; y en políticas, ética e impacto de la IA.

Inteligencia aumentada

«Un humano en la máquina» es una frase que se utiliza a menudo en relación con el uso de la IA. Se refiere a la idea de que un humano siempre debe participar en las decisiones tomadas por las herramientas de IA. 

«Estamos tratando de determinar cuándo debemos confiar en los seres humanos y su experiencia, y cuándo las cosas pueden automatizarse», afirma. «Necesitamos comprender el vínculo entre la IA y los modelos humanos, lo que se conoce como el bucle de coadaptación, y la evolución que se produce cada vez que los seres humanos reciben nueva información, o cuando lo hace la IA».

En Zúrich, El-Assady ha desarrollado el concepto de «inteligencia aumentada», que utiliza la IA para potenciar las capacidades humanas en lugar de sustituir por completo a las personas, y fomenta la cooperación entre la IA y las personas en diversos campos.

Esta experiencia resulta especialmente útil para la labor del Panel, que está examinando las formas en que el uso de la IA está afectando a diferentes ámbitos de la sociedad, como el mercado laboral y el sistema sanitario.

El-Assady aboga por una «infraestructura digital pública», de modo que todo aquel que desee desarrollar IA disponga de los recursos necesarios. 

«También debemos estudiar cómo incorporar diferentes culturas e idiomas en los modelos de IA para que no se limiten a un pequeño número de países», añade.

Confianza, ética y marcas de agua

La creación del panel fue un reflejo de la creciente preocupación por los riesgos de una IA no regulada, sobre todo en el seno de la ONU. 

El Secretario General de la ONU, António Guterres, advirtió al Consejo de Seguridad en septiembre de 2025 que «el destino de la humanidad no puede dejarse en manos de un algoritmo», mientras que Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, afirmó en febrero que los desarrolladores de IA que crean modelos sin comprender los principios sociales y éticos fundamentales corren el riesgo de crear el «monstruo de Frankenstein».

El-Assady coincide en que la ética y la confianza son cruciales para el sector, al igual que la conciencia de las limitaciones de los modelos de IA.

Marca de agua para la IA

Una posible solución propuesta por El-Assady es el «marcado de agua de la IA», que dejaría claro si un contenido ha sido creado por humanos o generado por IA, y cómo distinguir entre ambos.

Estos son ejemplos del tipo de temas que podrían incluirse en el primer informe del Panel Científico, cuya publicación está prevista para el Diálogo Global sobre la Gobernanza de la IA, que tendrá lugar los días 6 y 7 de julio en Ginebra.

El Panel Científico Internacional Independiente sobre IA

• El Panel Científico Internacional Independiente sobre IA es el primer organismo científico mundial dedicado a la inteligencia artificial (IA), que reúne a expertos de primer orden para evaluar cómo la IA está transformando nuestras vidas

• El Panel tiene el mandato de elaborar un informe anual con evaluaciones científicas basadas en datos empíricos sobre las oportunidades, los riesgos y los impactos de la inteligencia artificial, que se presentará en el Diálogo Mundial de las Naciones Unidas sobre la Gobernanza de la IA

• El Panel no es un organismo regulador y no establecerá normas, aplicará estándares ni prescribirá políticas. Proporcionará el análisis riguroso, basado en pruebas, relevante para las políticas pero no prescriptivo que requiere una toma de decisiones informada

• Obtenga más información sobre la labor del Panel aquí