Nuevos espacios para la gobernanza de la IA en la ONU: UNU-AI y el Panel Científico Independiente

Por Javier Surasky


Ya hace tiempo que la gobernanza de la inteligencia artificial (IA) se ha integrado en los debates internacionales. La búsqueda por definir un modelo para su gobernanza global capaz de combinar seguridad con desarrollo continuo de su potencial es el nudo
  gordiano por desatar, especialmente por las implicancias que esa decisión, cualquiera sea, tendrá en la carrera por dominar el espacio de la IA, en el cual los tres mayores jugadores han escogido modelos diferentes: Estados Unidos centrado en el mercado, China imponiendo el control estatal centralizado y la Unión Europea buscando un equilibrio entre riesgos, derechos ciudadanos y progresos tecnológicos.

En los últimos meses, aún debilitada por su situación financiera y la imposibilidad de resolver temas como la invasión rusa sobre Ucrania o la tragedia que se desenvuelve en Gaza, las Naciones Unidas han impulsado dos iniciativas claves para impulsar la gobernanza de la IA, y casi podría decirse ya que van asumiendo un cuarto camino que combina, pero a la vez se diferencia, de los seguidos por cada una de las tres potencias en el tema. La ONU está apostando claramente por una IA orientada al desarrollo sostenible, que incluya los impactos “externos” de su crecimiento, como los ambientales y sociales, considere la brecha tecnológica y cuya formulación esté encabezada por expertos que creen evidencia para la toma de decisiones por la política.

La primera de las iniciativas mencionadas es la creación del Instituto de la Universidad de las Naciones Unidas sobre IA (UNU-AI) en Bolonia, Italia, como un nuevo polo de pensamiento académico sobre el tema, orientado por los valores y principios de la Organización.

El UNU-AI está llamado a ser un instituto de investigación permanente de la UNU, y cuenta con el apoyo del Gobierno de Italia. Su puesta en pleno funcionamiento debería tener lugar antes de que acabe el año en curso, y su principal misión será la de movilizar big data e inteligencia artificial para el avance de los ODS, con énfasis en la formación de capacidades en el Sur Global.

Por otro lado, la Asamblea General de las Naciones Unidas adoptó el 26 de agosto su resolución A/Res/79/325 sobre Mandato y modalidades para el establecimiento y funcionamiento del Panel Científico Internacional Independiente sobre Inteligencia Artificial y del Diálogo Mundial sobre la Gobernanza de la Inteligencia Artificial

Este Panel, que será un órgano asesor de la Asamblea General, estará integrado por 40 expertos provenientes de diferentes disciplinas, elegidos a recomendación del secretario general y designados por la Asamblea General sobre la base de su experiencia y el respeto del equilibrio geográfico y la equidad de género. Lamentablemente, no hay referencias a diversidades epistemológicas ni reconocimiento alguno a la necesidad de integrar los saberes tradicionales de los pueblos originarios ni se incorporan referencias directas a colectivos vulnerables o en situación de riesgo frente a la IA.

Cada experto del Panel actuará a título personal durante su mandato, que se extenderá por tres años, y tendrá como objetivos principales:

  • Realizar evaluaciones anuales basadas en datos científicos independientes sobre oportunidades, riesgos e impactos de la IA, tomando como referencia la labor que realiza el Panel Internacional sobre Cambio Climático (IPCC). De hecho, el modelo del Panel de Expertos está claramente inspirado en el IPCC y el IPBES (protección de la biodiversidad) como interfaces ciencia-política que producen evaluaciones autorizadas, pero no prescriptivas.
  • Mantener un diálogo interactivo con la Asamblea General dos veces al año, y presentar sus conclusiones durante el Diálogo Mundial sobre la Gobernanza de la IA (DMG-IA).

El DMG-IA es creado en la misma resolución como un foro multiactor que se reunirá anualmente, alternando su sede entre Ginebra y Nueva York, a fin de:

  • Facilitar la cooperación internacional y el intercambio de buenas prácticas.
  • Debatir las implicaciones éticas, sociales, culturales y técnicas de la IA.
  • Abordar las brechas de capacidades tecnológicas y humanas en IA.
  • Promover el software, los datos y los modelos de IA de código abierto.
  • Reafirmar la primacía de la supervisión humana, la transparencia, la rendición de cuentas y el respeto de los derechos humanos en el avance de la IA.

La principal limitación que se impuso al DGM-IA es la definición expresa de que no debe abordar las cuestiones del uso militar de la IA, lo que deja a todo ese campo de aplicaciones fuera de su agenda. Un compromiso político necesario para evitar el bloqueo de todo el sistema creado,

El mayor riesgo que pesa sobre el Panel, y en menor medida también sobre el DGM-IA, está dado por el hecho de que su financiación dependerá en gran medida de contribuciones voluntarias de Estados, sector privado y filantropía, lo que plantea dudas sobre la sostenibilidad y sobre la verdadera capacidad que tendrá para actuar de forma independiente

Actuando en conjunto, el UNI-AI estará especialmente enfocado en la producción de conocimiento experto, mientras que el Panel sumará a ello una visión de legitimidad política en el ámbito multilateral, por lo que existen oportunidades claras para la colaboración entre ambos.

Estas dos iniciativas son signos de los esfuerzos que se realizan a nivel global por avanzar hacia una rápida institucionalización de la gobernanza de la IA dentro del sistema ONU capaz de sentar las bases para definir normas compartidas en materia de IA, teniendo en cuenta las desigualdades Norte–Sur en la materia y sus impactos presentes y futuros y procurando evitar una fragmentación normativa sobre IA que, por la naturaleza trasnacional del objeto regulado, llevaría a resultados ineficaces e ineficientes.

Quizás el problema más estructural que pueda afectar tanto a UNU-IA como al Panel y al Diálogo sea su incorporación dentro de un grupo cada vez más grande de foros que abordan la IA como el Observatorio de Políticas de Inteligencia Artificial de la OCDE, el Proceso de Hiroshima del G7, la labor de la UNESCO y la iniciativa AI for Good de la UIT. Garantizar la complementariedad y evitar duplicaciones y competición entre todos estos procesos que tienen lugar por dentro y fuera del marco de las Naciones Unidas será crítico.