Hacia la Cumbre del G20. La Declaración de Maceió y las posiciones del G20 para una gobernanza de IA
Por Javier Surasky-
La Inteligencia Artificial está cambiando nuestro mundo, y los debates sobre cómo lidiar con esta tecnología están ocurriendo en todo el mundo. Los miembros del G20 están definiendo los elementos centrales de una posible posición compartida: principios, enfoques y objetivos para una construcción de gobernanza global necesaria pero controvertida.
Como parte del camino hacia la Cumbre del G20 en Río de
Janeiro en noviembre de 2024, los Ministros responsables de la Economía Digital
de los países del Grupo se reunieron en Maceió, Brasil, en septiembre de 2024,
con una Agenda centrada en la inclusión digital, la conectividad, el gobierno
digital, la infraestructura digital pública, la integridad de la información en
línea, la confianza en la economía digital y la inteligencia artificial para el
desarrollo sostenible y la reducción de desigualdades.
Se adoptó una "Declaración Ministerial de Maceió sobre Inclusión Digital para Todos", que incluye cuatro anexos: las Directrices sobre Indicadores y Métricas para la Conectividad Universal y Significativa, los Principios Generales sobre la Gobernanza de la Identidad Digital, y dos declaraciones sobre la Promoción de la Integridad de la Información y la Confianza en el Entorno Digital, y sobre la Habilitación de recursos para el desarrollo, despliegue y uso de la IA para el bien y para todos.
En este post, me centraré en el capítulo sobre IA para el
desarrollo inclusivo y sostenible y la reducción de la desigualdad, y en el
anexo sobre el desarrollo, despliegue y uso de la IA para el bien. Mi objetivo
es explorar el enfoque del G20 sobre este tema, particularmente en lo que
respecta a la gobernanza internacional de la IA.
Los ministros del G20 comienzan reconociendo que la IA
segura y confiable puede ser un catalizador para lograr el crecimiento
económico y el desarrollo inclusivo y sostenible si se utiliza de forma
transparente, ética, responsable y fiable, reafirmando los principios de IA del
G20, la Recomendación de la UNESCO sobre la Ética de la IA, la Declaración de
Líderes de Nueva Delhi del G20, y su compromiso de aprovechar la IA para el
bien, compartiendo sus beneficios para todos y mitigando sus riesgos.
Los ministros apoyan indirectamente el papel de la Asamblea
General de la ONU como un escenario crítico para discutir temas relacionados
con la IA al reconocer la adopción de sus dos resoluciones sobre IA, a saber,
"Aprovechar
las oportunidades de sistemas seguros y fiables de inteligencia artificial para
el desarrollo sostenible" y "Aumentar
la cooperación internacional para la creación de capacidad en materia de
inteligencia artificial". Además, expresaron su interés en el informe
del Órgano Asesor de Alto Nivel sobre Inteligencia Artificial del secretario
general, que aún no se había publicado en el momento de la reunión.
En esa línea, los ministros se comprometieron a seguir un
enfoque de gobernanza de la IA basado en el riesgo, centrado en el ser humano,
orientado al desarrollo y favorable a la innovación, coherente con los marcos
jurídicos existentes sobre seguridad, privacidad y protección de datos
personales, y derechos humanos y de propiedad intelectual, introduciendo una
base jurídica en su enfoque de la gobernanza de la IA.
Se hace mención a los desafíos globales que surgen de la
brecha de IA y las múltiples disparidades dentro y entre países desarrollados y
en desarrollo, y se hace un llamado a la promoción de la cooperación
internacional, el desarrollo de capacidades, la investigación conjunta y la
transferencia voluntaria de tecnología y el intercambio de conocimientos,
mientras que las tecnologías de código abierto y los datos abiertos se destacan
como cruciales para entregar los beneficios de la IA a escala. Aunque equilibrado
por el reconocimiento de la necesidad de asegurar que los sistemas de IA
respeten los diversos contextos lingüísticos, socioculturales, raciales y
geográficos para evitar reforzar o perpetuar la discriminación y los sesgos
presentes en el mundo real.
Los esfuerzos de la Presidencia de Brasil en IA se muestran
al mencionar su Kit
de Herramientas para la Evaluación de la Preparación y Capacidad en
Inteligencia Artificial, producido con el apoyo de la UNESCO, y el informe
"Mapeo
de la Adopción de IA para Servicios Públicos Mejorados en el G20". De
la misma manera, se subraya el evento del G20 "Aprovechando la
Inteligencia Artificial para la Equidad Social y el Desarrollo Sostenible"
como una oportunidad para que los miembros del G20 y los países invitados
equipen a los gobiernos y a los "actores relevantes", incluidos el
sector privado, la academia y la sociedad civil, con las capacidades y
herramientas necesarias para responder a las condiciones, posibilidades y
capacidades relacionadas con las disparidades. El uso continuo de la palabra
"relevante" es peligroso: aunque es ampliamente aceptado, crea dudas
sobre quién es "relevante" y quién decidirá quién es relevante en un
debate que afecta el futuro de todos.
Anticipando los futuros esfuerzos de la Presidencia del G20,
los ministros acogieron con beneplácito los planes de Sudáfrica para seguir
trabajando en IA, el despliegue de infraestructura digital pública y
ecosistemas de innovación digital para apoyar a las MIPYMES y avanzar en la
conectividad universal y significativa, renovando los Términos de Referencia
para el Grupo de Trabajo sobre Economía Digital del G20.
El Anexo 4 sobre "Habilitación de recursos para el
desarrollo, despliegue y uso de la IA para el bien y para todos" se
introduce como parte del compromiso de los ministros de seguir discutiendo
sobre la IA para el desarrollo sostenible y la lucha contra la desigualdad.
En consecuencia, el anexo destaca que "si no se
establecen salvaguardias adecuadas, existe el riesgo de que los sistemas de IA
reproduzcan y exacerben los sesgos sociales, las desigualdades económicas y las
brechas digitales, entre otros". Esta falta de precauciones ocurre en el
marco de enormes diferencias en el disfrute de las oportunidades de la IA entre
los países. Los Ministros reconocieron que el G20 juega un papel fundamental en
liderar los esfuerzos colaborativos para aprovechar el potencial de la IA para
el desarrollo inclusivo y sostenible, lo que requiere un entorno propicio,
incluyendo infraestructura física y digital, capital humano, disponibilidad de
datos, capacidades de investigación y talento digital, acompañado de una
gobernanza adecuada, marcos institucionales y un sector empresarial dinámico,
lo que explica por qué la Presidencia de Brasil ha priorizado fomentar
asociaciones y cooperación entre países y con actores relevantes, entre otros
temas clave.
Una breve lista de hallazgos bastante obvios se incluye en
el anexo:
• La mayoría de los miembros del G20 y los países invitados
están comprometidos en dar forma a sus marcos institucionales y de gobernanza
de IA y tienen iniciativas en curso para mejorar las habilidades digitales e
incorporar la IA en la educación secundaria y superior.
• Surgen brechas relevantes en el despliegue de IA para el
Desarrollo Sostenible entre y dentro de los países. La capacidad de innovación
en IA también difiere entre países.
• Solo algunos países del G20 tienen estrategias para medir
el gasto total en I+D de IA. Sin embargo, se están realizando inversiones en
investigación e innovación en IA, y el desarrollo, despliegue y uso seguro,
protegido y confiable de la IA de manera transparente, ética, responsable y
fiable son cada vez más la piedra angular de las estrategias nacionales de IA.
• Todavía existe la necesidad de implementar políticas para
abordar más a fondo la brecha de género y las relaciones de la agenda ambiental
con la IA.
Basándose en estos "hallazgos", la Presidencia
brasileña esbozó tres ejes y recomendaciones para apoyar el desarrollo del
ecosistema de IA.
Promover la colaboración internacional y la asociación
multisectorial mejorando los intercambios sobre políticas para fomentar marcos
interoperables que promuevan el desarrollo y despliegue seguro, protegido y
confiable de sistemas de IA de manera ética y responsable, al tiempo que se
promueve el crecimiento económico, la cooperación tecnológica y el desarrollo
sostenible, salvaguardando los derechos humanos, las libertades fundamentales,
la inclusión, la equidad y la accesibilidad.
Mejorar los entornos propicios para la IA y el desarrollo de
capacidades fortaleciendo los entornos propicios para la IA y mejorando las
capacidades de IA, invirtiendo en tecnología e infraestructura relacionada con
la tecnología, educación e iniciativas de desarrollo de habilidades, con
particular atención a los países y comunidades de ingresos bajos y medios,
mejorando las capacidades de los países para determinar su futuro digital.
Desarrollar marcos de gobernanza y políticas mediante el
desarrollo e implementación de marcos de gobernanza y políticas favorables a la
innovación y orientadas al futuro que promuevan el empoderamiento digital y de
IA.
Las tres recomendaciones están explícitamente vinculadas al
aprovechamiento de las capacidades de los países del G20 y los invitados
"para cultivar un ecosistema de IA que apoye un crecimiento inclusivo,
sostenible y equitativo y la distribución de beneficios."
Conclusiones:
A pesar de la falta de precisión, la Declaración de Maceió de
los ministros del G20 a cargo de las tecnologías digitales muestra algunas prioridades
del grupo.
- Además de la bien establecida mención de nuevas oportunidades para el desarrollo surgidas de las tecnologías de IA y los riesgos consecuentes vinculados al desarrollo de tecnologías digitales, el G20 se refiere repetidamente a "IA para el desarrollo sostenible inclusivo" como una explicación de lo que "IA para el bien" significa en términos operativos.
- En consecuencia, las opiniones del G20 están estrechamente vinculadas a reducir las desigualdades digitales y cerrar la brecha de IA dentro y entre los países. La cooperación internacional en infraestructura, capacidades técnicas o humanas se identifica como una herramienta importante para alcanzar los objetivos del grupo. Lamentablemente, este impulso por la inclusión no se acompaña de una consideración del rol de los actores no estatales en el avance de esos objetivos.
- El enfoque de gobernanza de la IA que surge del documento es basado en el riesgo, centrado en el ser humano, orientado al desarrollo, favorable a la innovación y participativo. Los derechos humanos y de propiedad informan la base del G20 para la gobernanza de la IA.
- Curiosamente, los ministros del G20 mencionan la protección del medio ambiente y los problemas relacionados con el género como insuficientemente abordados por las políticas públicas de IA hasta ahora y reconocen la defensa de las especificidades locales como una forma de enfrentar la discriminación y el sesgo. Aún así, no se menciona a los jóvenes ni a las generaciones futuras.
- Un mensaje sobre el sistema de la ONU como una parte central del desarrollo de una gobernanza compartida de IA es fácil de identificar, aunque no se declara expresamente. La UNESCO se ve como una contraparte crítica de los esfuerzos del G20, recibiendo más atención que otras partes del sistema de la ONU con responsabilidades clave en el área, como la UIT.
Aun teniendo en cuenta que las discusiones están abiertas y continuarán
más allá de la Cumbre del G20 de 2024, con Sudáfrica asumiendo el liderazgo, está
surgiendo un consenso básico inicial del G20 sobre cómo debería ser la gobernanza
global de la IA. Lo más prudente será prestarle la debida atención, tanta como la
que brindamos a las posiciones de Estados Unidos, China y la Unión Europea en la
construcción de la gobernanza de la IA.
