Por Javier Surasky-
La Cumbre del Futuro que se reunirá en septiembre de 2024 tiene como objetivo principal fortalecer la gobernanza multilateral. Para ello, se apuesta por dos caminos principales:
- Mejorar la gobernanza del multilateralismo fortaleciendo el rol de la ONU como su centro: se abordan aquí centralmente cuestiones de institucionalidad, procesos y herramientas de acción.
- Actualizar el marco de trabajo del multilateralismo para ponerlo a la altura de los desafíos actuales: en esta línea destacan la discusión de una plataforma para responder ante crisis globales, la incorporación de las generaciones futuras y de la Inteligencia Artificial (IA).
Ambas líneas
son interdependientes ya que la nueva gobernanza deberá responder al marco
ampliado de trabajo del multilateralismo, y a la vez los nuevos temas
requerirán de un multilateralismo más ágil y eficiente que los contenga.
Nos
interesa especialmente las cuestiones referidas a la actualización del marco de
trabajo del multilateralismo, puesto que aun cuando sus asuntos emergentes
tienen contornos claros, el ejercicio debe apoyarse sobre premisas menos
discutidas.
Si la
Cumbre del Futuro tiene éxito, y si no lo tiene solo será cuestión de tiempo,
el mundo avanzará por primera vez en un rompimiento de las dimensiones más
fundamentales que han dado orden a la sociedad humana desde sus orígenes: el
tiempo y el espacio.
Las
relaciones internacionales siempre se han apoyado en el presupuesto indiscutido
de que los sucesos acontecen en un lugar y un momento definidos, aun cuando su
duración sea indefinida. Por ejemplo, podemos no saber cuándo acabará una
guerra, pero identificamos con un nivel alto de precisión donde ocurre y cuándo
se inicia, y sobre ese conocimiento se aplican normas sobre actores
territorializados.
La
irrupción de la IA y de las generaciones futuras en el espacio de la gestión multilateral
rompen con esa lógica: la IA va llevándonos hacia una acción sin lugar
determinable por sí mismo, llevando a una nueva escala el fenómeno iniciado con
internet, y las generaciones futuras rompen con la escala temporal obligándonos
a gestionar en el presente un futuro que no conocemos.
¿Es
posible crear una gobernanza eficiente para un multilateralismo donde tiempo y
espacio se han reconfigurado? Pues es justo ese el desafío que nos toca
enfrentar. Dado lo extenso del tema, vamos a enfocarnos solo en la IA.
Inteligencia Artificial: Algunas Precisiones
Existen múltiples definiciones posibles de IA. Las siguientes son representativas de las diferentes aproximaciones que se han seguido.
- Para John McCarthy, la IA es la “ciencia e ingeniería de la fabricación de máquinas inteligentes, especialmente programas informáticos inteligentes” y por tanto estaba relacionada con el uso de computadoras “para comprender la inteligencia humana”.
- George Luger la define como “la rama de la informática que se ocupa de la automatización del comportamiento inteligente”.
- Marvin Minsky, nos dice que la IA, "es la ciencia de hacer que las máquinas hagan cosas que requerirían inteligencia si fueran realizadas por seres humanos" (citado en Geist y Lohn).
La
primera definición se enfoca en el elemento técnico de la IA (la fabricación de
máquinas y software inteligentes), la segunda pone el acento en la
mecanización de los procesos inteligentes, y la tercera se centra en el “hacer”
y el “pensar” de máquinas que replica el hacer y el pensar humanos.
“¿Pueden
pensar las máquinas?”, se preguntaba Turing en
1950. Esa pregunta renació en la década de 1990, cuando el progreso de los
ordenadores permitió superar límites de cálculo con los que se habían topado los
primeros desarrolladores de IA, a lo que se sumó una explosión en los datos
disponibles para entrenar esas máquinas (en 1991 se hace pública la world
wide web, que en cinco años conectaba ya a 10 millones de terminales). Los
datos son la “harina del pan” de la IA.
Comenzaron
a tener lugar hechos de alto impacto en el público no experto que van desde la
computadora Deep Blue derrotando a Gary Kasparov al ajedrez en 1997 hasta
el ingresó de la IA en los hogares de la mano de las aspiradoras Roomba,
que se lanzan al mercado en 2002. Desde entonces, su penetración en la vida
cotidiana ya no se detuvo: Google Maps, asistentes virtuales de teléfonos
móviles, Netflix y tantos otros servicios que utilizan IA son parte de nuestra
vida cotidiana.
Con el
crecimiento de la IA se han incrementado los riesgos: desde el espionaje masivo
y la compraventa de datos privados hasta la seguridad de los automóviles de
conducción autónoma y el uso de armas de guerra “inteligentes”.
Y es
que la IA es una “herramienta” que, como tal, no tiene intencionalidad propia,
sino que esta le es provista por quien la crea o la utiliza. La intencionalidad
que aporta el usuario de la herramienta, sin embargo, está condicionada por las
características de esta: nadie utilizaría un martillo para quitar un tornillo.
Este último
elemento es el que hace que una regulación de la IA sea en realidad una
regulación de las conductas vinculadas a acciones humanas.
El desarrollo sostenible como fin para la IA
La IA y
el desarrollo sostenible comparten el hecho de ser trabajados en el presente
con efectos directos sobre el futuro que deben ser tenidos en los procesos
actuales de toma de decisiones.
Si actúan de forma coordinada, la IA puede convertirse en un motor de desarrollo sostenible, pero el estado actual de situación es preocupante:
- Las tecnologías digitales aceleran la concentración del poder económico en un grupo de élites empresariales cada vez más reducido: “la riqueza combinada de los multimillonarios tecnológicos, 2,1 billones de dólares en 2022, es superior al producto interno bruto anual de más de la mitad de las economías del Grupo de los 20” (Un Pacto Digital Global, informe de políticas Nº 5 del secretario general).
- Somos testigos de una competencia entre empresas y entre Estados por obtener las ventajas que la IA brinda en las áreas política, económica y militar.
- La ausencia de un marco de gobernanza de las tecnologías digitales conlleva la ausencia de “sistemas básicos de protección; hoy en día es más difícil sacar al mercado un juguete de peluche que un chatbot de IA” (Un Pacto Digital Global, informe de políticas Nº 5 del secretario general).
El
esfuerzo por alinear la IA con el desarrollo sostenible tropieza con varios
problemas. Solo para comenzar, mientras el desarrollo sostenible es
responsabilidad principal de los Estados, el actor principal en la IA es el
sector privado, que se regula fundamentalmente mediante códigos de conducta de
adscripción optativa. Más aún, las empresas, aún trasnacionales, carecen de
subjetividad jurídica internacional (están fuera del alcance del derecho
internacional público).
Por
otro lado, los impactos de la IA en el logro del desarrollo sostenible han sido
extensamente tratados (Vinuesa
et al, 2020; van
Wynsberghe, 2021; Sætra, 2021
y 2022).
En todos los casos queda claro que la IA es una fuerza relevante en el impulso
o detracción del desarrollo sostenible.
La
potencia de la IA en el desarrollo sostenible es de tal magnitud que sus
impactos pueden conducir a acelerar su logro pero también aumentar la intensidad
del toma y daca entre objetivos: la IA podría mejorar la calidad de la
educación y al mismo tiempo aumentar las inequidades entre estudiantes.
Así, las decisiones que se toman en materia de IA y Desarrollo Sostenible tendrán impactos profundos sobre la vida de las personas, especialmente los niños y niñas, los jóvenes y (Oh, no!) las generaciones futuras!
Buscando regular la IA: primeros pasos
Ya en
2015, con el marco de las negociaciones internacionales que llevaron a la
adopción de la Agenda 2030 como telón de fondo, un grupo de investigadores en IA
y científicos sociales fundaron “AI4Good”
(Inteligencia Artificial para el bien) cuya misión es lograr “un mundo donde
podamos aprovechar todo el potencial de las tecnologías emergentes para crear
un cambio social positivo”.
Dos
años después, expertos en IA reunidos en California adoptaron los “Principios
de Asilomar”, para la gobernanza de IA. Se trata de 23 principios agrupados en tres
ejes: investigación, ética y valores y aspectos de largo plazo.
La
lista de iniciativas apuntando en esa dirección continuó creciendo con la
creación del Ethical Framework for a Good AI Society: Opportunities, Risks,
Principles and Recommendations, propuesto por la iniciativa europea “AI4People”
en diciembre de 2018, las Ethics Guidelines for Trustworthy AI de abril
de 2019 adoptada por el Grupo de Alto Nivel de Expertos sobre IA de la Comisión
Europea, o la Declaración de Derechos Humanos para un Entorno Digital
presentada por la Universidad de Deusto en noviembre de 2018.
Ya en
camino a la Cumbre del Futuro, en marzo de 2023, más de 1000 expertos en IA
junto a ejecutivos de la industria tecnológica publicaron una carta
abierta reclamando “se pause de inmediato, durante al menos seis meses, el
entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4”
en tanto implican “profundos riesgos para la humanidad”.
La consideración del tema en el marco multilateral ganó impulso con su inclusión en la Cumbre del Futuro, y la decisión de adoptar allí un Pacto Digital Global “que establezca principios, objetivos y acciones para promover un futuro digital abierto, libre, seguro y centrado en el ser humano, anclado en los derechos humanos universales y que permita alcanzar los ODS” (Un Pacto Digital Global, informe de políticas Nº 5 del secretario general).
El Pacto Digital Global
Bajo
el liderazgo de Suecia y Zambia, que reemplazó a Ruanda en ese rol, las
negociaciones del Pacto Digital Global se encuentran en desarrollo. La
aproximación que tenemos hasta ahora de los contenidos que podría tener están
dadas por la presentación de un borrador inicial y su primera
revisión, publicada el 15 de mayo de 2024, que se estructura con un
preámbulo breve seguido de cuatro capítulos sobre objetivos, principios,
compromisos y acciones y seguimiento y examen.
Si bien se trata de un documento en construcción, esta primera revisión nos muestra cinco objetivos:
- Cerrar todas las brechas digitales y acelerar el progreso en todos los Objetivos de Desarrollo Sostenible.
- Ampliar la inclusión y los beneficios de la economía digital para todos.
- Fomentar un espacio digital inclusivo, abierto, seguro y protegido que respete, proteja y promueva los derechos humanos.
- Promover una gobernanza internacional de datos responsable y equitativa.
- Fortalecer la gobernanza internacional de las tecnologías emergentes, incluida la Inteligencia Artificial, en beneficio de la humanidad.
A cada objetivo se asignan una serie de compromisos alineados con los ODS y que, como estos, tienen como fecha establecida para su logro el año 2030.
Propuesta de elementos a considerar en el diseño de una gobernanza de la IA para el desarrollo sostenible
Comencemos por asumir una serie de hechos sobre los cuales debe darse el diseño de una gobernanza de la IA para el desarrollo sostenible:
- No tenemos experiencia regulando un campo como el de la IA. Cualquier intento de establecer una gobernanza de esta deberá estar sujeto a un continuo ciclo de análisis y mejora. Parafraseando a Julia Stoyanovich, directora del Center para una IA responsable de la Universidad de Nueva York, cualquier regulación será mejor que no tener ninguna. “Mientras no intentemos crear una regulación, no aprenderemos cómo hacerlo”.
- Las formas y procesos tradicionales de gobernanza no son capaces de seguir el ritmo del cambio que muestra la IA ni prever sus consecuencias.
- La importancia del conocimiento experto en la toma de decisiones alcanza niveles especialmente altos, comparables con lo que ocurre en el campo de la lucha contra el cambio climático.
- La extensión de las aplicaciones de la IA y su ya referido impulso por el sector privado hacen que cualquier esquema de su gobernanza deba ser abierto a múltiples actores.
Sobre
estos pilares, proponemos una primera lista de pasos por darse en los niveles
global y regional que consideramos esenciales y urgentes:
A nivel global:
- El principal espacio global de debate sobre el desarrollo sostenible es el Foro Político de Alto Nivel de las Naciones Unidas, que tiene la responsabilidad de brindar guía política a la implementación de los ODS. Si bien el Foro no consigue ser exitoso en esa tarea (Cepei, 2023), sigue siendo el único espacio multilateral global con esa misión. Fortalecer el rol de líder político de ese Foro e incluir en su debate un capítulo permanente sobre IA reforzará su vínculo con el desarrollo sostenible. El Mecanismo de transferencia de Tecnología establecido en la Agenda 2030 debe incorporar un capítulo sobre IA, que incluya metas medibles de transferencia de saberes, equipos y capacidades en la materia.
- La Asamblea General debe solicitar a la Comisión de Derecho Internacional que inicie sus trabajos para llegar a un tratado internacional que regule los elementos más críticos de la IA. En paralelo, los organismos del sistema ONU deben aumentar su trabajo de estudio y aprobación de lineamientos para la IA en sus campos específicos.
- El Consejo Económico y Social debe hacer de la IA un tema permanente en su agenda de trabajo.
A nivel regional:
- El proceso de seguimiento y examen de la Agenda 2030 se apoya en foros regionales de desarrollo sostenible que tienen lugar anualmente en cada una de las cinco regiones en que se organiza el trabajo de la ONU. Esos escenarios deben comenzar a incluir foros sobre IA y desarrollo sostenible.
- Las comisiones económicas regionales de las Naciones Unidas pueden dar inicio al proceso de investigación y sistematización de prácticas y reglas sobre IA en los espacios regionales. La utilización de modelos de análisis y de reportes comparables previamente acordados entre sus expertos resulta indispensable para no duplicar esfuerzos y aumentar la eficacia de los resultados.
- Los procesos y tratado de integración regional deben contar con capítulos específicos que regulen el diseño, transferencia y uso de la IA, haciendo del desarrollo sostenible un pilar de su construcción.
