Por Javier Surasky
Also available in English here
Cuando hablamos de inteligencia artificial (IA) solemos hacerlo dando por ciertas varias cosas que no cuestionamos, entre ellas la asunción, intencionada o no, de una ontología del agente: sistemas que “aprenden”, “deciden” o “actúan”, con una “ética” y “sesgos”, por solo tomar algunos ejemplos que pertenecen al campo de lo cognitivo y lo moral. Ese lenguaje habilitó que nuestra atención se mueva desde las condiciones materiales de la potencia hacia la atracción que genera una posible autonomía funcional.
Pero el problema de la IA no es solo epistemológico o ético, al menos no en sentido clásico, sino fundamentalmente político-estructural. Hannah Arendt (2003:16) advierte que si conocimiento técnico y pensamiento se separan, corremos el riesgo de convertirnos en “impotentes esclavos no tanto de nuestras máquinas como de nuestros know-how”.
Hay un profundo problema de poder en sentido de Aristóteles, quien define la dýnamis (potencia) no como una entidad, sino como un principio de cambio relacional (Aristóteles, 1994:241), expresado como el principio del movimiento o del cambio que se da en otro, o bien en lo mismo que es cambiado, pero en tanto que se vuelve otro. En esta aproximación, el poder no existe como objeto sólido, sino como capacidad o posibilidad que requiere de un sujeto (la materia) y una dirección (el acto).
En entradas anteriores mostramos las disputas geopolíticas en torno de la IA, y ha quedado claro que el verdadero problema hoy no es lo que puede hacer la IA, sino quién la controla. Ahora corresponde agregar un tercer elemento: ¿Quién es el sujeto aristotélico y cuál es la dirección? O, más directamente, ¿de qué depende la fuerza de la IA y su control?
Metodología y alcance analítico
Vamos a asumir en este trabajo un enfoque hermenéutico-comparativo en que los mitos no se analizan como explicaciones históricas de fenómenos tecnológicos contemporáneos ni como sus anticipaciones simbólicas, sino que se los utiliza como estructuras conceptuales profundas y densas para pensar esos fenómenos. La relación que se establece entre mito y IA es, en nuestro enfoque, analógica en sentido el sentido más estructural posible, y es válida en tanto que la utilizamos como herramienta para problematizar asuntos como la agencia, la producción de mundo y la responsabilidad, sin presuponer lazo alguno de continuidad histórica ni equivalencia literal entre contextos muy diferentes.
El mito es tenido como un dispositivo de pensamiento para desnaturalizar supuestos que, en el discurso técnico sobre la IA, se presentan como evidentes o neutrales. Siguiendo a Hans Blumenberg, nos valemos del mito como una respuesta frente a lo que llama “absolutismo de la realidad”, refiriendo a situaciones en las que los seres humanos perciben que han perdido el control sobre las condiciones de su existencia. (Blumenberg, 1985:3). Es decir que el mito no explica el mundo actual, pero ayuda a hacerlo habitable, delimitando simbólicamente lo que podría ser tenido como una amenaza difusa e incontrolable.
La selección de los mitos que utilizamos aquí responde a su capacidad heurística para iluminar problemas conceptuales en debate en el campo de la IA, y reconoce explícitamente sus límites: no pretende ser la base de normas jurídicas, diseñar políticas públicas ni nada parecido, sino solamente abrir un espacio de diálogo crítico con otros enfoques especializados, exponiendo dimensiones de los problemas que enfrentan que no se deberían reducir a cálculos de eficiencia, precisión o rendimiento.
Volver a los clásicos para encontrar nuevas respuestas
“Un clásico es un libro que nunca termina de decir lo que tiene que decir”, decía Italo Calvino (2015:15), y Lévi-Strauss (1995:232) que “El valor intrínseco atribuido al mito proviene de que estos acontecimientos, que se suponen ocurridos en un momento del tiempo, forman también una estructura permanente”.
Siguiendo a ambos, vamos a “volver” a tres grandes mitos clásicos para tratar de hallar una respuesta a nuestra pregunta inicial mediante el establecimiento de un marco capaz de pensar el poder de esta tecnología como condicional, relacional y materialmente centrado.
En este esfuerzo, los mitos de Anteo, Prometeo e Ícaro se nos presentan como espacios continuos de un único devenir del poder tecnológico: Prometeo describe la expansión de la potencia técnica, Ícaro nos habla del fallo tecnológico por ruptura entre tecnología y capacidad de control, y Anteo es quien los comunica y organiza introduciendo la noción de dependencia y condicionalidad.
El mito de Anteo: fuerza relacional y poder condicional
En el relato de Apolodoro (1985: 116), Anteo es un gigante invencible tanto por su fuerza como porque las dinámicas de los combates que mantiene siempre acaban jugando a su favor: cuando cae al suelo, se vuelve más fuerte, por lo que el desgaste por golpes y cansancio que sufren otros combatientes es, para él, regeneración.
Hijo de Poseidón (Dios del mar) y Gea (la Tierra), Anteo obtiene su fuerza del contacto con el suelo sobre el que se apoya. Es decir, no posee fuerza como atributo interno, no es parte de sí, sino que nace de manera relacional y existe en tanto y en cuanto se dé una condición específica: el contacto físico con el suelo. Anteo no “tiene” el poder con que puede contar mientras toca tierra.
El mito nos cuenta que Anteo fue finalmente derrotado por Hércules, que, por inferencia, logra identificar el origen de su fuerza y aplica una estrategia acorde: lo eleva y lo mantiene suspendido en el aire hasta asfixiarlo. Interrumpido el circuito, Anteo había perdido la capacidad de recuperar sus fuerzas y se había vuelto vulnerable. El poder no residía en el agente (Anteo) sino en las condiciones materiales que lo sostenían. Todo el que intentó vencerlo “en su terreno” fracasó, ya que derrotarlo requería intervenir sobre la base fáctica de su capacidad de agencia, origen de su poder.
Como Anteo, toda potencia efectiva depende de un entorno material que le confiere su carácter y le sirve como ecosistema de reproducción. Hannah Arendt lo formula en términos de mundo y acción: no hay acción sin un mundo artificial previamente construido que la sostenga. El poder no es algo en sí mismo, sino en relación con ciertas condiciones.
La inteligencia artificial representa un poder anteico por excelencia. Depende de infraestructuras como centros de datos, redes energéticas, sistemas de refrigeración, cadenas de suministro, hardware o acceso masivo a datos, una red que Benjamin Bratton define como una “megaestructura accidental que es tanto una infraestructura computacional como una nueva arquitectura de gobierno” (Bratton, 2021:14) en que la retórica de la “nube” oculta el hecho de que la IA toma su poder del suelo.
Benjamin Bratton nos ofrece un vocabulario contemporáneo para expresar ese vínculo a través de su teoría del stack (o “pila”)”, que concibe al mundo de forma directa al integrar diversas «capas» de infraestructura y soberanía, anclando la nube al territorio y a la soberanía digital (Bratton, 2021:43).
Tal vez, por fuera del mito, Anteo no haya muerto sino convertido en una entidad que cambia sus formas: al fin y al cabo, aún en el mundo de los mitos, Anteo tomaba la fuerza de su madre, pero tenía una hermandad (algo discutida) por parte de padre con Proteo, divinidad marina cuyo rasgo distintivo es su capacidad de metamorfosis, por lo que representa el ocultamiento y la mutabilidad.
Prometeo, el fuego y la técnica
En el mito narrado por Hesíodo, Prometeo entrega a los hombres el fuego, que se expresa como techne (capacidad de producir, transformar y dominar procesos naturales), pero no en phronesis, entendida como “un modo de ser racional verdadero y práctico, respecto de lo que es bueno y malo para el hombre” (Aristóteles, 1985:273): Prometeo no pretende ser un redentor que lleve sabiduría o justicia, sino un simple mediador técnico ante las carencias de los humanos, representando la “sabiduría humana [que] se las ingenia para sustituir el fuego natural negado por Zeus, por un fuego técnico” (Hesíodo, 1978:98).
Prometeo no es un semidios (resultado de la unión entre una divinidad y un ser humano), ni un dios del Olimpo, sino un titán, un dios puro, previo a los del Olimpo, pero aunque los dioses olímpicos se imponen a los titanes, Zeus mantiene a Prometeo cerca debido a su capacidad profética, que quiere aprovechar.
La entrega del fuego a los humanos, sin embargo, será un hecho intolerable para Zeus, quien lo condena a un sufrimiento permanente: lo encadena a una roca y un águila le comía cada día el hígado, que se regeneraba por la noche (Hesíodo, 1978:93). Heracles (con consentimiento de Zeus, según algunas versiones) pone fin a ese sufrimiento y libera a Prometeo pero no porque quiera hacer cesar el castigo, sino porque este deja de ser políticamente necesario para ilustrar el poder de Zeus y revindica el nombre de Heracles ante los humanos. Política pura.
El castigo aplicado a Prometeo por transmitir el fuego no era una “sanción moral” sino la penalización por haber producido un desajuste estructural: el fuego en manos de los hombres modifica el equilibrio previo sin introducir un nuevo orden. En Platón, esta concepción deja ver todo su significado político: por culpa de Prometeo la técnica llega a los hombres antes que las virtudes de dikê (justicia) y aidôs (sentido moral, capacidad de contener la acción por consideración al otro y a la comunidad) (Platón: 1981:526-527), esenciales para su uso en el marco de la vida en sociedad.
Prometeo como expansión del mito de Anteo
Desde la mirada platónica, la técnica sin ética es autodestructiva: mientras la primera representa el poder del motor de una nave, dikê y aidôs son su timón y brújula (o GPS), sin los cuales no se la puede conducir ni definir un rumbo.
Cuando leemos lo que ocurre en el mito de Prometeo desde una mirada del de Anteo vemos que el primero describe un traslado de poder: la expansión de la potencia del fuego, que arde en ausencia de contención y justicia, que son elementos tan necesarios a la capacidad de manejo del fuego como el contacto con el suelo lo era para Anteo.
La IA contemporánea repite este esquema de forma precisa. La capacidad técnica se expande a una velocidad mucho mayor que la capacidad de entenderla plenamente, controlar sus posibles daños al conjunto y distribuir sus costos y beneficios de forma justa (equitativa).
Vamos otra vez a los clásicos: aplicando los conceptos aristotélicos, la IA pertenece al ámbito de la poiesis, no de la praxis. Esto es, “hace cosas”, pero carece de capacidad para “decidir qué es correcto” porque no actúa en situaciones humanas donde esto sea relevante y, aunque produce efectos, no ejerce phronesis: no comprende el significado de lo que hace y, por tanto, es inimputable en sí misma. Que la IA medie activamente la acción humana no la convierte en agente, sino que transforma las condiciones materiales y simbólicas bajo las cuales los humanos actúan.
Desde una perspectiva anteica, esto significa que la expansión prometeica de la IA es real, pero no autónoma. Si Anteo encarna la dependencia absoluta de la fuente original, Prometeo representa la “sabiduría humana [que] se las ingenia para sustituir el fuego natural (...) por un fuego técnico” sin tener las virtudes que requiere manipularlo (Hesíodo, 1978:98).
Prometeo no contradice a Anteo: lo presupone y lo lleva a un nivel de mayor complejidad.
Ícaro: no fue solo un fallo humano
Este es, para mí, uno de los mitos más tristes y suele utilizarse como advertencia moral, pero para nosotros cumple el rol de un diagnóstico estructural.
Nos cuenta Ovidio (1980: 6-7) que el gran arquitecto e inventor Dédalo estaba retenido en la isla de Creta junto a su hijo, Ícaro, por orden del rey. Dédalo decide crear dos pares de alas, uno para él y otro para su hijo, a fin de escapar de la isla/prisión.
Dédalo es consciente del diseño de las alas, de sus capacidades y de sus límites, por lo que le indica a Ícaro que no debe volar demasiado, por el riesgo de que el agua moje las plumas con las que están construidas y las haga demasiado pesadas, ni demasiado alto, pues el calor del sol derretiría la cera con la que están unidas en sus laterales, y entonces ambos comienzan a elevarse.
Tras acostumbrarse al vértigo del vuelo, Ícaro se deja llevar por las sensaciones de libertad y exaltación que siente y, desoyendo a su padre, se eleva demasiado, el sol derrite la cera en las alas y, ante la impotente mirada de Dédalo, Ícaro se precipita al mar y muere. Su caída no está ligada ni a un mal diseño ni a falta de información sobre el uso del artefacto, sino de haber ignorado sus límites al modificar las condiciones contextuales de su funcionamiento. Ícaro no cae por una falla técnica, sino por usar la tecnología más allá de los límites que permitían su operación.
Ícaro como estructura del mito de Anteo
Desde la lógica anteica, Ícaro representa un momento crítico: ahora el poder no se pierde ni por falta de contacto con el suelo ni se castiga un acto por romper el equilibrio de las cosas. Se genera un cambio que, lejos de ser accidental, y corregible mediante un mejor uso individual, emerge cuando la escala y la automatización modifican las condiciones mismas de funcionamiento del sistema técnico. Lo que se produce es un cambio estructural en el régimen bajo el cual el artefacto funcionaba, que también transforma la relación entre la potencia técnica y su soporte, porque en Ícaro la técnica supera la capacidad de control por quien la opera.
Desde la lógica anteica, Ícaro representa un momento crítico: ahora el poder no se pierde ni por falta de contacto con el suelo ni se castiga un acto por romper el equilibrio de las cosas. Lo que se produce es un cambio estructural en el régimen bajo el cual el artefacto funcionaba, que también transforma la relación entre la potencia técnica y su soporte, porque en Ícaro la técnica supera la capacidad de control por quien la opera.
Esto permite pensar los fallos de la IA sin recurrir a narrativas de error individual o de hybris psicológica. Ícaro no fue arrogante, no quiso jugar a ser un dios, sino que tuvo un problema de diseño, uso y escala de la tecnología disponible que superó sus capacidades. Ícaro no cayó por “inútil”, sino por haberse comportado de forma profundamente humana en un entorno tecnológico artificial.
Cuando un sistema se despliega de manera masiva, se automatiza la toma de decisiones, se transforma la infraestructura, el resultado no puede ser otro que un cambio en las condiciones previas a su puesta en marcha, algo que Ihde (2015:24) describe como la “compleja estructura de la multiestabilidad” tecnológica.
Este cambio, como señala Peter-Paul Verbeek (2005:114) se produce por mediaciones que redistribuyen el sentido de las acciones sin tener que convertir a los artefactos en agentes con voluntad propia. Los objetos técnicos no actúan como “meros intermediarios neutrales entre los humanos y el mundo, sino como mediadores: ellos median activamente esta relación”. Al cumplir sus funciones, los artefactos desempeñan un “papel profundo en lo que hacemos, cómo percibimos e interpretamos el mundo, y qué elecciones y decisiones tomamos” [Verbeek, 2005:vii].
Así visto, Ícaro no es ni continuidad de Anteo en sentido estricto ni un reverso de Prometeo, sino la puesta en marco de la consecuencia estructural que se produce cuando el vínculo anteico se debilita ante la falta de virtudes que deberían haber llegado antes que la técnica para permitir su despliegue de forma socialmente segura.
Gobernar la IA: gobernar el suelo y las mediaciones
La inteligencia artificial no es un exceso prometeico de habilitación tecnológica ni un error icariano individual. Es un poder anteico: fuerte mientras mantiene contacto con su base material, vulnerable cuando lo pierde.
Gobernar la IA no es moralizar algoritmos, que no tienen capacidad de praxis aunque tengan poiesis, y no ejercen phronesis. Gobernar la IA es “gobernar el suelo” de Anteo convertido en infraestructura, energía, datos. Aunque parezca contradictorio, la IA no decide; responde dependiendo de las condiciones de su “suelo”.
Por ello, los tres mitos abordados pueden estructurarse de manera lógica: Anteo explica el poder condicionado, Prometeo su expansión sin un soporte axiológico acorde, e Ícaro el fallo, abriendo, a través del mito, un camino para redimensionar lo que significa la IA, exponiendo su dimensión política: el control de las condiciones materiales de posibilidad es el control del poder algorítmico. El verdadero problema no es lo que puede hacer la IA, sino quién controla este “artificio humano del mundo” que condiciona nuestra existencia (Arendt, 2003:14).
El problema político central del poder en la IA no está dado por lograr más capacidad de cómputo o de datos, que hacen al poder tecnológico en sí y para sí, sino por el “suelo” que los sostiene y, por ello, es estructural.
Referencias
Apolodoro. (1985). Biblioteca. Biblioteca Clásica Gredos, (85).
Arendt, H, (2003). La condición humana. Paidós
Aristóteles. (1985). Ética nicomaquea / Ética eudemia (. Biblioteca Clásica Gredos, (89).
Aristóteles. (1994). Metafísica. Biblioteca Clásica Gredos, (200).
Blumenberg, H. (1985). Work on myth. MIT Press.
Bratton, B. H. (2021). La terraformación. Buenos Aires: Caja Negra.
Calvino, I. (2015). Por qué leer los clásicos. Colección Biblioteca Italo Calvino, (19). Siruela.
Hesíodo. (1978). Obras y fragmentos. Biblioteca Clásica Gredos, (13).
Ihde, D. (2015). Postfenomenología y tecnociencia: Conferencias en la Universidad de Pekín. Sello Arsgames
Lévi-Strauss, C. (1995). Antropología estructural. Paidós
Ovidio, P. N. (1980). Metamorfosis (Libros VIII–XV). México: Universidad Nacional Autónoma de México.
Platón. (1981). Diálogos I. Biblioteca Clásica Gredos, (37)
Verbeek, P.-P. (2005). What things do: Philosophical reflections on technology, agency, and design. Pennsylvania State University Press.