Por Javier Surasky-
La Cumbre del Futuro se reunirá el próximo septiembre, y su
principal documento de resultado será el “Pacto por el Futuro”, un documento
político no vinculante. El Pacto estará acompañado por dos documentos
complementarios: la Declaración sobre las Generaciones Futuras y el Pacto
Digital Global CGC, por sus siglas en inglés).
En una entrada anterior, analizamos la versión actual de la
Declaración sobre las Generaciones Futuras. Ahora, nos enfocaremos en la
segunda revisión recientemente publicada del Pacto Digital Global (GDC Rev2).
Existen muchas formas diferentes de abordar este documento.
Para simplificar, su objetivo es establecer las bases para futuras discusiones
sobre la gobernanza global de las tecnologías digitales.
El proceso de negociación del GDC está siendo co-facilitado
por los Representantes Permanentes de Suecia y Ruanda ante las Naciones Unidas
(originalmente, los co-facilitadores eran Suecia y Zambia, pero Zambia fue
reemplazada por Ruanda en octubre de 2023).
Los co-facilitadores lanzaron el borrador cero del GDC el 1
de abril de 2024, seguido por la primera revisión el 15 de mayo de 2024, y la
segunda revisión el 26 de junio de 2024.
Hubo muchos cambios entre cada versión del documento.
Enfocándonos en los de la segunda revisión, podemos identificar cambios en la
redacción, eliminaciones e incorporaciones.
Considerando que casi todos los párrafos incluyen
modificaciones, es imposible hacer una revisión detallada de todos los cambios
en una entrada de blog. Por lo tanto, este texto se enfoca en el Preámbulo, los
objetivos y los principios establecidos en la Rev 1. No obstante, incluiré
referencias a algunas modificaciones en el texto que considero de particular
interés.
Para ayudar a los lectores a identificar rápidamente los
cambios introducidos en la Rev 2, los incluimos en cursiva.
Estructura del Pacto Digital Global
Al igual que la Declaración sobre las Generaciones Futuras,
la primera parte del GDC comienza con un breve preámbulo, seguido de dos
párrafos sobre objetivos (párrafo 7) y principios (párrafo 8). La segunda parte
desglosa cada objetivo, estableciendo compromisos y acciones para alcanzarlos
para 2030.
El Preámbulo
El preámbulo reconoce que las tecnologías digitales están
transformando dramáticamente nuestro mundo, brindando un potencial increíble
para el cambio y riesgos igualmente graves. Para realizar el primero y prevenir
los segundos, necesitamos fortalecer la cooperación internacional y, como
agrega la Rev 2, tener en cuenta que “cerrar las brechas digitales requerirá
medios de implementación adecuados, suficientes y predecibles.” El párrafo 6
también menciona la necesidad de la participación de las partes interesadas
“dentro de sus respectivos roles y responsabilidades,” una frase incluida en
varios párrafos de esta segunda revisión.
En consecuencia, el párrafo 4 de GDC Rev2 dice: “Nuestro
objetivo es un futuro digital inclusivo, abierto, sostenible, justo, seguro y
protegido para todos. Este Pacto Digital Global establece los objetivos,
principios, compromisos y acciones que emprendemos para lograrlo.” La inclusión
de la palabra “justo” es el único cambio en este párrafo en comparación con la
versión anterior del documento.
El párrafo 5 proporciona una lista de elementos que actúan
como base para la cooperación requerida: el derecho internacional, la Carta de
la ONU, el derecho internacional de los derechos humanos, el derecho
internacional humanitario (una adición de Rev. 2) y la Agenda 2030. Al mismo
tiempo, los países reafirman su compromiso con la Declaración de Principios y
el Plan de Acción de la Cumbre Mundial sobre la Sociedad de la Información
(CMSI) en Ginebra y la Agenda de Túnez para la Sociedad de la Información.
Curiosamente, el preámbulo no menciona el principio de “no dejar a nadie atrás,” previamente incluido en el párrafo 2 y eliminado en la nueva versión del documento.
Objetivos y Principios
Más allá del objetivo establecido en el párrafo 4, el GDC
enumera cinco objetivos:
- Cerrar todas las brechas digitales y acelerar el progreso en los ODS.
- Ampliar la inclusión y los beneficios de la economía digital para todos.
- Fomentar un espacio digital inclusivo, abierto, seguro y protegido que respete, proteja y promueva los derechos humanos.
- Avanzar en la gobernanza de datos equitativa e interoperable.
- Mejorar la gobernanza internacional de la inteligencia artificial y las tecnologías emergentes en beneficio de la humanidad.
Los principales cambios aquí están en el objetivo 4, que
pedía una “gobernanza internacional de datos responsable y equitativa.” La
referencia a “responsable” ha desaparecido y “internacional” ha sido
reemplazada por “interoperable,” una modificación que se repite
consistentemente en el texto de la Rev 2. Referirse a la interoperabilidad es
un paso en la dirección correcta. Sin embargo, puede debilitar la idea de un
marco acordado internacionalmente para la gobernanza de datos.
Aún me hace falta un objetivo: asegurar que la IA será “para
el bien” o “para el desarrollo sostenible,” ambos conceptos bien establecidos
que se refieren a los fines del desarrollo de la IA. Es fundamental incluir
esto como base para futuras negociaciones sobre la gobernanza global de la IA.
El GDC también reconoce 12 principios que, junto con los principios de la ONU, deberían guiar la cooperación digital. Los dividimos en tres grupos según su función principal:
Definición de Valores: Principios a, f, g e i
- a) Inclusión: Participación equitativa de estados y partes interesadas.
- f) Equidad: Se requiere una cooperación justa para enfrentar la concentración de capacidad tecnológica y el poder de mercado y promover una inclusión significativa en la economía digital.
- g) Accesibilidad: Datos y tecnologías y servicios digitales accesibles y asequibles son esenciales para permitir que cada persona participe plenamente en el mundo digital. “Datos” y “servicios” son palabras agregadas en Rev. 2 ya que Rev 1 solo se refería a tecnologías digitales accesibles y asequibles. Este párrafo también hace referencia a apoyar la diversidad lingüística y cultural en el espacio digital.
- i) Responsabilidad: Para garantizar la seguridad, protección y confiabilidad de las tecnologías emergentes, la cooperación promoverá un diseño, desarrollo, implementación y uso responsable, transparente, centrado en el ser humano y con supervisión humana efectiva.
Guía de Esfuerzos: Principios b, c, d y e
- b) Desarrollo: La Rev 2 reafirma que el GDC está arraigado en la Agenda 2030, que “tiene en cuenta diferentes realidades nacionales, capacidades y niveles de desarrollo” y respeta las políticas y prioridades nacionales. Este párrafo incluye la única mención del principio de “no dejar a nadie atrás” en la Rev 2 del GDC también se ha incorporado una referencia a las necesidades especiales de los países en desarrollo y de ingresos medios.
- c) Derechos Humanos: Establece que todos los derechos humanos deben ser respetados, protegidos y promovidos en línea y fuera de línea. La Rev 2 incluye una mención de los derechos de las personas con discapacidades y elimina una referencia al derecho a la participación.
- d) Igualdad de género y empoderamiento: Se refiere a la “participación plena, equitativa y significativa de todas las mujeres y niñas en el espacio digital” para cerrar la brecha digital de género. Rev 1 afirmaba: “Nuestra cooperación alentará el liderazgo de las mujeres y prevenirá y eliminará la violencia sexual y de género que ocurre a través de o es amplificada por el uso de la tecnología.” La Rev 2 introduce algunas modificaciones importantes al reemplazar la mención del empoderamiento de mujeres y niñas con “integrar una perspectiva de género” e incluir la redacción “Todas las formas de violencia, incluida la violencia sexual y de género.”
- e) Sostenibilidad Ambiental: Destaca las capacidades y oportunidades de las tecnologías digitales para medir, monitorear y resolver desafíos ambientales. Rev. 2 agrega “e implementa acuerdos ambientales multilaterales.” También menciona el consumo de recursos, las emisiones de carbono y la producción de desechos electrónicos de las tecnologías digitales: “Nuestra cooperación aprovechará las tecnologías digitales para la sostenibilidad mientras se minimizan sus impactos ambientales negativos.”
Guía Operacional: Principios h, j, k y l
- h) Interoperabilidad: Para garantizar la comunicación de los sistemas digitales, ahora también incluye el desarrollo de “enfoques de gobernanza compatibles.”
- j) Apertura a la innovación: Reconociendo que “la creatividad y la competencia impulsan los avances digitales,” la cooperación fomentará la innovación.
- k) Participación de múltiples partes interesadas: Este principio afirma que los gobiernos y otras partes interesadas tienen roles y responsabilidades en avanzar hacia un futuro digital inclusivo, abierto, seguro y protegido y llama a trabajar juntos en un “espíritu de solidaridad y asociación global.”
- l) Prospectiva: La cooperación internacional promovida por el GDC debe ser capaz de identificar, anticipar (agregado en la Rev 2), evaluar, monitorear y adaptarse a las oportunidades y riesgos tecnológicos emergentes.
Otros Cambios Relevantes Introducidos por la Rev 2
Más allá de los objetivos y principios del GDC, su segunda
revisión incluye modificaciones que son clave de notar debido a su repetición
en el texto (indicando un cambio formal en la “redacción aceptada”) o posibles
impactos.
Mayor Atención a los Problemas de Datos: Incluso si los
problemas de datos eran importantes en la Rev 1, esta nueva versión del GDC
amplía su alcance. Por ejemplo, al establecer compromisos bajo el objetivo 1
(Cerrar todas las brechas digitales y acelerar el progreso en los ODS), Rev. 2
agregó “datos” como parte de la promesa hecha por los Estados de desarrollar,
difundir y mantener, a través de la cooperación de múltiples partes
interesadas, software de código abierto seguro y protegido, plataformas, datos,
sistemas de IA y estándares que beneficien a la sociedad en su conjunto.”
(párrafo 17.a) y bajo el objetivo 2 (Ampliar la inclusión y los beneficios de
la economía digital para todos), los gobiernos se comprometen a “realizar
evaluaciones nacionales y regionales para informar acciones que aborden las
brechas y necesidades en la transformación digital y fortalecer la recopilación
y el uso de datos para informar la toma de decisiones.”
Además, un nuevo párrafo 42 explica que los Estados
“consideran que los sistemas de datos seguros y protegidos y la capacidad son
críticos para la formulación de políticas basadas en evidencia y la prestación
de servicios públicos. La falta de inversión en sistemas de datos públicos y
actividades estadísticas puede obstaculizar el progreso en el logro del
desarrollo sostenible.”
La Expresión “Dominio No Militar” aparece por primera vez
en el GDC. Los párrafos 13.e sobre priorizar y establecer objetivos para
desarrollar competencias digitales de funcionarios e instituciones públicas
“incluido el desarrollo de capacidad y habilidades en ciberseguridad en el
dominio no militar”; el párrafo 20 sobre estándares y capacidad de
ciberseguridad para facilitar transacciones comerciales; el párrafo 21.i sobre
promover la creación de capacidad y habilidades relacionadas con la
ciberseguridad en el “dominio no militar,” y el párrafo 49 sobre los esfuerzos
para avanzar en sistemas de IA seguros, protegidos y confiables en el “dominio
no militar.”
Los asuntos de género: La nueva redacción del párrafo 56
(55 en la Rev 1) llamó mi atención. Invita a las organizaciones de desarrollo
de estándares a desarrollar estándares de IA que promuevan la seguridad, la
confiabilidad, la sostenibilidad y los derechos humanos. En la Rev 1, la lista
también incluía un cuarto elemento: la equidad de género. Esto es una gran
contradicción con el principio del GDC de promover la igualdad y el
empoderamiento de género. A pesar de ello, el documento tiene una buena
recepción de los temas de género.
Las “partes interesadas relevantes”: La palabra
“relevante” antes de “parte interesada” aparece repetidamente en la Rev 1. La Rev
2 amplió el uso de esta expresión, que podría usarse para excluir a actores y
sectores de participar en procesos relacionados con tecnologías digitales.
Un Fondo Global para la IA: En el párrafo 61 de la Rev 2
(60 en la Rev 1), los estados solicitan al secretario general que establezca un
Fondo Global para la IA para el Desarrollo Sostenible (en la Rev 1, Fondo
Global para la IA) para “catalizar la creación de capacidad en IA que se
requiere para cerrar las brechas de IA y promover soluciones basadas en IA para
los ODS.”
En la Rev 1, este párrafo menciona la colaboración del fondo
con empresas tecnológicas y comunidades técnicas y académicas, y tiene un
segundo objetivo: apoyar el desarrollo de capacidad informática y para producir
conjuntos de datos de calidad. Todas esas referencias fueron eliminadas.
Además, el párrafo 61 de Rev 1 afirmaba: “Este Fondo debe
ponerse en funcionamiento con una cantidad inicial de 100 millones de dólares
estadounidenses en su lanzamiento en 2025, financiado por contribuciones
voluntarias de fuentes públicas, privadas y filantrópicas. Para este fin, el secretario
general debe iniciar consultas entre posibles donantes e informar sobre el
progreso del Fondo en el contexto de los informes anuales sobre el Pacto
Digital Global”.
La redacción de la Rev 2 es muy diferente y mucho menos ambiciosa: “Solicitamos al secretario general que inicie consultas con posibles contribuyentes públicos, privados y filantrópicos e informe sobre el progreso del Fondo dentro de los 12 meses.”
Conclusión
Aun siendo un documento vivo, la Rev 2 del GDC contribuye a
establecer la base para la cooperación internacional digital. Sin embargo, aún
está lejos de ser una guía ambiciosa para futuros pasos hacia el
establecimiento de la gobernanza global de la tecnología digital y la IA. En
particular, se beneficiaría de un diálogo más cercano con los principios y
compromisos de la IA para el Bien.
Los principios del GDC deberían prestar más atención a los
diferentes conjuntos de principios sobre IA establecidos por grupos
internacionales de expertos en el pasado y también observar los principios que
guían los esfuerzos de IA en empresas como Google o Microsoft. Considerar esos
principios fortalecerá el GDC y atraerá más directamente la atención de la
comunidad experta y del sector privado.
Además, el GDC debería considerar cómo se financiará la
cooperación que está solicitando. Eso es una brecha significativa en la Rev 2.
Hay dos discusiones abiertas que consideraré en una futura
publicación: los esfuerzos para establecer el mecanismo de seguimiento de los
compromisos del GDC y el plazo de los compromisos. ¿Por qué estamos
considerando 2030 como la fecha límite del GDC? La respuesta obvia es “Por la
Agenda 2030 y los ODS,” pero sería útil recordar que los debates sobre la
necesidad de considerar un plazo más largo para los ODS están teniendo lugar
mientras se redacta el GDC.
Como un trabajo en progreso, la Rev 2 del GDC deja claro que
hay mucho trabajo por hacer si queremos una base sólida para nuestro futuro
digital necesariamente compartido. Como dijo Lyndon B. Johnson, ex presidente
de los Estados Unidos, durante su discurso en la Casa Blanca el 2 de octubre de
1968: “Si las generaciones futuras han de recordarnos más con gratitud que con
tristeza, debemos lograr más que solo los milagros de la tecnología. También
debemos dejarles una visión del mundo tal como fue creado, no solo como se veía
cuando terminamos con él.”
