Por Javier Surasky
En los últimos meses, aún debilitada por su situación
financiera y la imposibilidad de resolver temas como la invasión rusa sobre
Ucrania o la tragedia que se desenvuelve en Gaza, las Naciones Unidas han
impulsado dos iniciativas claves para impulsar la gobernanza de la IA, y casi
podría decirse ya que van asumiendo un cuarto camino que combina, pero a la vez
se diferencia, de los seguidos por cada una de las tres potencias en el tema.
La ONU está apostando claramente por una IA orientada al desarrollo sostenible,
que incluya los impactos “externos” de su crecimiento, como los ambientales y
sociales, considere la brecha tecnológica y cuya formulación esté encabezada
por expertos que creen evidencia para la toma de decisiones por la política.
La primera de las iniciativas mencionadas es la creación del
Instituto de la Universidad de las Naciones Unidas sobre IA (UNU-AI)
en Bolonia, Italia, como un nuevo polo de pensamiento académico sobre el tema,
orientado por los valores y principios de la Organización.
El UNU-AI está llamado a ser un instituto de investigación
permanente de la UNU, y cuenta con el apoyo del Gobierno de Italia. Su puesta
en pleno funcionamiento debería tener lugar antes de que acabe el año en curso,
y su principal misión será la de movilizar big data e inteligencia
artificial para el avance de los ODS, con énfasis en la formación de
capacidades en el Sur Global.
Por otro lado, la Asamblea General de las Naciones Unidas
adoptó el 26 de agosto su resolución A/Res/79/325 sobre Mandato y modalidades
para el establecimiento y funcionamiento del Panel Científico Internacional
Independiente sobre Inteligencia Artificial y del Diálogo Mundial sobre la
Gobernanza de la Inteligencia Artificial
Este Panel, que será un órgano asesor de la Asamblea
General, estará integrado por 40 expertos provenientes de diferentes
disciplinas, elegidos a recomendación del secretario general y designados
por la Asamblea General sobre la base de su experiencia y el respeto del equilibrio
geográfico y la equidad de género. Lamentablemente, no hay
referencias a diversidades epistemológicas ni reconocimiento alguno a la
necesidad de integrar los saberes tradicionales de los pueblos originarios ni
se incorporan referencias directas a colectivos vulnerables o en situación de
riesgo frente a la IA.
Cada experto del Panel actuará a título personal durante su
mandato, que se extenderá por tres años, y tendrá como objetivos principales:
- Realizar
evaluaciones anuales basadas en datos científicos independientes
sobre oportunidades, riesgos e impactos de la IA, tomando como referencia
la labor que realiza el Panel Internacional sobre Cambio Climático (IPCC).
De hecho, el modelo del Panel de Expertos está claramente inspirado en el IPCC y
el IPBES (protección de la biodiversidad)
como interfaces ciencia-política que producen evaluaciones autorizadas,
pero no prescriptivas.
- Mantener
un diálogo interactivo con la Asamblea General dos veces al año, y
presentar sus conclusiones durante el Diálogo Mundial sobre la
Gobernanza de la IA (DMG-IA).
El DMG-IA es creado en la misma resolución como un foro
multiactor que se reunirá anualmente, alternando su sede entre Ginebra y
Nueva York, a fin de:
- Facilitar
la cooperación internacional y el intercambio de buenas prácticas.
- Debatir
las implicaciones éticas, sociales, culturales y técnicas de la IA.
- Abordar
las brechas de capacidades tecnológicas y humanas en IA.
- Promover
el software, los datos y los modelos de IA de código abierto.
- Reafirmar
la primacía de la supervisión humana, la transparencia, la rendición de
cuentas y el respeto de los derechos humanos en el avance de la IA.
La principal limitación que se impuso al DGM-IA es la
definición expresa de que no debe abordar las cuestiones del uso militar de
la IA, lo que deja a todo ese campo de aplicaciones fuera de su agenda. Un
compromiso político necesario para evitar el bloqueo de todo el sistema creado,
El mayor riesgo que pesa sobre el Panel, y en menor medida
también sobre el DGM-IA, está dado por el hecho de que su financiación
dependerá en gran medida de contribuciones voluntarias de Estados,
sector privado y filantropía, lo que plantea dudas sobre la sostenibilidad y sobre
la verdadera capacidad que tendrá para actuar de forma independiente
Actuando en conjunto, el
UNI-AI estará especialmente enfocado en la producción de conocimiento experto,
mientras que el Panel sumará a ello una visión de legitimidad política en el
ámbito multilateral, por lo que existen oportunidades claras para la
colaboración entre ambos.
Estas dos iniciativas son
signos de los esfuerzos que se realizan a nivel global por avanzar hacia una
rápida institucionalización de la gobernanza de la IA dentro del sistema ONU
capaz de sentar las bases para definir normas compartidas en materia de IA,
teniendo en cuenta las desigualdades Norte–Sur en la materia y sus impactos
presentes y futuros y procurando evitar una fragmentación normativa sobre IA
que, por la naturaleza trasnacional del objeto regulado, llevaría a resultados
ineficaces e ineficientes.
Quizás el problema más estructural que pueda afectar tanto a
UNU-IA como al Panel y al Diálogo sea su incorporación dentro de un grupo cada
vez más grande de foros que abordan la IA como el Observatorio
de Políticas de Inteligencia Artificial de la OCDE, el Proceso de
Hiroshima del G7, la labor de la UNESCO
y la iniciativa AI for Good de la
UIT. Garantizar la complementariedad y evitar duplicaciones y competición
entre todos estos procesos que tienen lugar por dentro y fuera del marco de las
Naciones Unidas será crítico.