Por Javier Surasky
Versión original en inglés (EN)
Introducción
Seguimos con el recorrido que iniciamos en nuestra entradaanterior, recuperando los nombres y aportes de mujeres al desarrollo de la IA.
En esta oportunidad, consideramos a 11 de ellas nacidas con posterioridad a la
Conferencia de Dartmouth de 1956, hito formal de nacimiento de la IA
Mujeres destacadas del campo de la IA (post Conferencia de Dartmouth)
1. Leslie Pack Kaelbling.
Nació en agosto de 1961 en los EE. UU., donde desarrolló la
mayor parte de su labor científica en SRI International, Brown University y, en
el MIT, convirtiéndose en una referente en el campo del aprendizaje por
refuerzo aplicado a máquinas que operan en entornos inciertos, lo que resulta
especialmente relevante para la actual robótica.
Su trabajo ayudó a convertir ideas teóricas en métodos que
permiten a los sistemas el aprendizaje de estrategias y comportamientos y su
artículo Reinforcement Learning:
A Survey, escrito junto a Littman y Moore (1996) es un texto de
referencia en los estudios de aprendizaje por refuerzo.
2. Rosalind W. Picard.
Nació en mayo de 1962 en EE. UU. y desarrolló su trabajo
principalmente en MIT, además de impulsar aplicaciones a través de spin-offs
como Affectiva/Empatica.
Su libro Affective Computing (1997) es la piedra
fundamental del campo de la computación afectiva, área que explora cómo los
sistemas pueden reconocer y responder a señales emocionales y estados humanos
(estrés, atención, bienestar), influyendo en tecnologías con sensores y en los
actuales “wearables”, así como en aplicaciones para salud y aprendizaje. Allí
afirma que “Ser mujer en un campo en el que predominan los hombres [le] ha
proporcionado un incentivo adicional para abandonar el estereotipo de la mujer
emocional en favor del comportamiento lógico de una académica"(Picard,
1997:ix).
3. Cordelia Schmid.
Nació en septiembre de 1967 en Mainz, Alemania, pero desarrolló
la mayor parte de su carrera en Francia, convirtiéndose en una referente
mundial en visión por computadora.
Contribuyó a la creación de métodos para reconocer patrones
en imágenes y video, aplicando la idea de que era posible enseñar a las
máquinas a interpretar el mundo visual, combinando matemática, datos y
experimentación a gran escala. Sus aportes se encuentran detrás de las
arquitecturas de aplicaciones actuales de análisis de video y sistemas que
“entienden” escenas complejas, campo en el que su trabajo Action
Recognition with Improved Trajectories, en coautoría con Heng Wang, es
uno de los textos más influyentes (Wang y Schmid, 2013).
4. Cynthia Breazeal.
Nació en noviembre de 1967 en EE. UU. y la parte central de
su trabajo tuvo como sede el MIT Media Lab, desde donde trabajó para llevar la
IA al terreno mediante robots diseñados para interactuar con personas, aprender
de ellas y generar vínculos más naturales, destacándose la construcción de Kismet, proyecto del que
fue la jefa de diseño. Su libro Designing Sociable Robots (Breazeal,
2002) consolidó la visión de una robótica social y contribuyó a situar la
interacción humano-robot en la agenda principal de la IA.
Breazeal es, además, reconocida como una gran impulsora de iniciativas
de alfabetización y educación pública en IA.
5. Daphne Koller.
Nació en agosto de 1968 en Israel y desarrolló su carrera
sobre todo en EE.UU., con una etapa académica clave en Stanford University, y
luego proyectos de gran escala en educación y biomedicina, combinando la IA con
dos campos de alto impacto social, educación y salud, mediante la aplicación de
modelos probabilísticos que permiten razonar en escenarios de incertidumbre, y
luego, más avanzada su carrera, se enfocó en el desarrollo de la biomedicina,
buscando que la IA ayude a acelerar el descubrimiento de fármacos.
Sin embargo, Koller es más conocida por su impulso a la
educación online a gran escala, que la llevó a ser cofundadora de Coursera en
2012.
6. Catherine D’Ignazio.
Nació en 1975 en EE.UU., país donde se desarrolló su carrera,
que hoy la encuentra trabajando en el MIT (Department of Urban Studies and
Planning), donde dirige el Data + Feminism Lab, enfocando su atención en la
intersección entre datos, poder y justicia social, con foco en alfabetización
de datos, tecnología feminista y prácticas sociales. Critica el tratamiento de
los datos como “neutrales” y analiza los daños que produce la automatización de
esas decisiones.
Su contribución/obra más influyente es el libro escrito
junto a Lauren Klein titulado Data Feminism donde las autoras sistematizan
el enfoque del “feminismo de datos”, ofreciendo un marco para trabajar ideas de
poder y representación en prácticas de producción y gestión de datos; “Nuestra
afirmación, una vez más, es que el feminismo de datos es para todos. Es para
personas de todos los géneros, hecho por personas de todos los géneros. Y lo
más importante: va mucho más allá del género. El feminismo de datos trata sobre
el poder, sobre quién lo tiene y quién no, y sobre cómo esas diferencias de
poder pueden desafiarse y cambiarse mediante el uso de datos (D’ignazio y
Klein, 2020:19).
7. Fei-Fei Li.
Conocida como “la madrina de la IA”, Fei Fei-Li nació el 3
de julio de 1976 en China, y desarrolló su carrera principalmente en EE.UU.,
tanto en la academia como en el sector privado, trabajando, por ejemplo, para Google
Cloud. Es la cofundadora de World Labs,
una empresa dedicada a desarrollar sistemas de IA generativa capaces de
percibir, generar, razonar e interactuar con el mundo en 3 dimensiones, y
actual codirectora del Instituto de Inteligencia Artificial Centrada en el Ser
Humano (HAI) de Stanford
Su campo clave de trabajo es la visión por computadora, donde
produjo avances teóricos, como lo muestra, por ejemplo, su participación en el
equipo que redactó el paper ImageNet:
A Large-Scale Hierarchical Image Database (Deng et al, 2020), clave en
el impulso de la era de datasets masivos en visión por computadora, y
desarrollos prácticos. En paralelo, ha impulsado una mirada “centrada en las
personas”, preocupada por aplicaciones responsables y beneficios sociales de la
IA.
8. Yejin Choi.
Nació en 1977 en Corea del Sur, pero desarrolló su carrera
en EE.UU., ocupando posiciones académicas en universidades como la University
of Washington y, actualmente, en Stanford University y en el Stanford HAI.
Su influencia aparece en el campo del denominado commonsense
knowledge & reasoning, en el lenguaje natural. Concentra su atención en
la problemática del “sentido común” de las máquinas, buscando generar modelos que
tengan nociones, al menos básicas, sobre el mundo, a fin de evitar respuestas
absurdas o peligrosas en el contexto real en que se producen. En su camino ha
demostrado que los LLM fallan por no operar con inferencias básicas sobre
intenciones, consecuencias y normas sociales que las personas damos por
sentadas.
9. Timnit Gebru.
Nació en Etiopía en 1983. Su trabajo profesional se ha
desplegado entre academia e industria en EE. UU., país al que llegó como
refugiada, incluyendo Stanford, Microsoft Research y Google, y luego en
investigación independiente con la creación de DAIR (Distributed Artificial
Intelligence Research Institute).
Es una figura central en los debates actuales sobre ética y
responsabilidad en IA, con un largo trabajo sobre la existencia de sesgos en
sistemas, el ocultamiento de costos sociales y la concentración del poder ante
la ausencia de reaseguros de transparencia y control. Participó en el equipo
que redactó el artículo On the Dangers of
Stochastic Parrots (Bender at al, 2021) es una lectura indispensable
para cualquier persona interesada en las discusiones sobre riesgos, costos y
gobernanza de modelos de lenguaje de gran escala.
10. Joy Buolamwini.
Nació el 23 de enero de 1990 Canadá y desarrolló su trabajo
principalmente en EE.UU., más precisamente en el MIT Media Lab y en la Algorithmic
Justice League, combinando investigación, auditoría y divulgación en torno
a la IA con activismo en la exigencia de la fijación de estándares,
evaluaciones y rendición de cuentas.
Convirtió un problema técnico en un tema de debate político
y social al mostrar en su estudio Gender Shades, escrito junto a Gebru,
las disparidades de precisión por género y etnia en clasificación comercial
asistida por IA. Antes, había demostrado que los sistemas de reconocimiento
facial fallaban más con mujeres y con personas de piel negra.
11. Rediet Abebe.
La única de la lista nacida en la década de 1990, para ser
más exactos en 1991, en Etiopía. Se mudó a los EE.UU. para estudiar primero en
Harvard, luego en la University of Cambridge y, finalmente, obtener su
doctorado en ciencias de la computación en Cornell University, con una tesis
titulada “Designing
Algorithms for social good” (Abebe, 2019).
Fue cofundadora de Black in AI y del Mechanism Design for
Social Good, dedicando su labor académica y de campo a promover la equidad
mediante la aplicación de algoritmos y la incorporación de aquella en estos:
diseñó métodos algorítmicos y marcos para entender y mitigar inequidades y
apoyar intervenciones orientadas a generar oportunidades para las poblaciones
postergadas o vulnerables.
Conclusiones
Además de mostrar que las mujeres siempre han jugado un
papel importante en el plano de la IA, incluso desde sus orígenes incipientes,
el listado nos muestra desigualdades que acompañan a la de género dentro de
espacio de la IA y desde sus orígenes, creando un espacio de interseccionalidad
evidente.
Al analizar sus nacionalidades de nacimiento, hallamos nueve
estadounidenses, dos británicas, dos alemanas y dos etíopes, y una persona por
cada uno de los siguientes países: Checoslovaquia (hoy Eslovaquia), China,
Corea, Ghana e Israel. Cinco de ellas son africanas/afroamericanas (Gladys
Brown West, Margaret Hamilton, Timnit Gebru Rediet Abebe y Joy Buolamwini) y
dos tienen ascendencia asiática directa (Fei Fei-Li y Yejin Choi). No hay en la
lista ninguna mujer latinoamericana ni del mundo árabe.
De las 11 mujeres nacidas fuera de los EE.UU., las dos británicas
y una alemana (Katharina Morik) hicieron sus carreras profesionales en sus
países de origen, y la otra alemana (Cordelia Schmid) migró con destino a
Francia. Las restantes se trasladaron para hacer sus carreras profesionales en
el país norteamericano, dos llegaron allí como estudiantes (Ruzena Bajcsy y
Rediet Abebe) y una como refugiada (Timnit Gebru). Esto implica que de las 20
mujeres listadas, 8 fueron migrantes o refugiadas.
Los pocos reportes actuales que existen con datos oficiales sobre
diversidad en IA son relativamente recientes, y sus métricas no siempre son un
buen reflejo de lo que se busca medir (el índice de la UNESCO al que
mencionamos en la introducción, por ejemplo, utiliza datos de Linkedin, que no
son capaces de expresar un panorama integral de lo que ocurre en el campo)
pero, a pesar de esas falencias, todo indica que la postergación que viven las
mujeres en la ciencia se replica, e incluso se ve agravada, en el campo de la
IA, e incluye rasgos interseccionales, especialmente étnicos.
Volver a encontrarse con la labor de pioneras y lideresas en
el área es solo un ejercicio de reconocimiento de sus aportes a la IA
contemporánea, pero también una demostración de su postergación histórica y de
los esfuerzos que deben hacer para lograr reconocimiento.
La lista de 20 mujeres con la que trabajamos es apenas la
punta de un iceberg que incluye a muchas otras mujeres postergadas de las que
nunca llegaremos a saber, porque justamente se les cerraron las puertas de
ingreso al campo o no se les permitió hacer valer plenamente sus capacidades.
Más aún, es una lista a la que le faltan muchos otros nombres que tuvimos que
excluir por motivos de formato, pero que merecen el mismo reconocimiento, tales
como Martha Pollack (1958, IA para asistencia cognitiva [intelligent
cognitive orthotics]), Claudia Eckert (1959, ciberseguridad), Daniela Rus
(robótica+IA y robótica distribuida), Rineke Verbrugge (1965, lógicas para
sistemas multi-agente y modelos computacionales de cognición social/teoría de
la mente), Maarja Kruusmaa (robótica autónoma y bioinspirada), Kate Crawford
(1972) (implicaciones sociales, políticas y éticas de la IA); Nicola Dell (IA
centrada en las personas, tecnología más
segura y equitativa, especialmente para comunidades subatendidas o en riesgo y
tecnología para sobrevivientes de violencia de pareja), Kate Devlin (robótica
social, intimidad y sexualidad), Kira Radinsky (1986, IA predictiva y machine
learning aplicado) o Deborah Raji (1995, auditoría algorítmica y rendición
de cuentas en IA), entre otras.
La primera mujer de nuestra lista cronológica, Ada Lovelace,
no
pudo ser miembro de la Royal Society Library debido a su
condición de mujer, impidiéndole acceder directamente a la literatura
científica de la época. La última, al hablar de que sería la primera profesora
mujer y negra en el departamento de informática de University of California,
expresó: “Voy a entrar en un espacio que no fue diseñado para mí.
La tecnología cambia rápido, los prejuicios dentro del
ámbito científico, no.
Referencias
Abebe, R.
(2019). Designing algorithms for social good (Doctoral dissertation,
Cornell University). https://ecommons.cornell.edu/server/api/core/bitstreams/0154e72e-ec86-4622-bf4e-401e9c9a5eda/content
Bender, E.;
Gebru, T.; McMillan-Major, A. y Shmitchell, S. (2020) On the Dangers of
Stochastic Parrots: Can Language Models be Too Big?, Proceedings of the 2021
ACM Conference on Fairness, Accountability, and Transparency, 610-623. https://dl.acm.org/doi/epdf/10.1145/3442188.3445922
Breazeal,
C. L. (2002). Designing sociable robots. The MIT Press.
Deng, J.;
Dong, W.; Socher, R.; Li, L.-J.; Li, K. y Li, F.-F. (2009). ImageNet: a
Large-Scale Hierarchical Image Database. Proceedings / CVPR, IEEE Computer
Society Conference on Computer Vision and Pattern Recognition.
D’Ignazio, C. y
Klein, L. (2020). Data
Feminism. The MIT
Press.
Pack
Kaelbling, L.: Littman, M. y Moore, A. (1996). Reinforcement Learning: A
Survey. Journal of Artificial Intelligence Research, (4), 237-285. https://www.jair.org/index.php/jair/article/view/10166/24110
Picard, R. (1997). Affective computing. The MIT Press.
Wang, H. y
Schmid, C. (2013). Action recognition with improved trajectories. Proceedings
of the IEEE International Conference on Computer Vision (ICCV), IEEE,
3551-3558. https://openaccess.thecvf.com/content_iccv_2013/papers/Wang_Action_Recognition_with_2013_ICCV_paper.pdf