La inteligencia artificial y los sesgos algorítmicos

Empecemos por esta cuestión: ¿qué significa sesgo? La palabra tiene diferentes acepciones dependiendo del campo de aplicación. Sin embargo, en la mayoría de ellos la esencia es invariante y se traduce en cómo se produce una distorsión de la realidad a partir de informaciones pasadas irrelevantes para el caso. Etimológicamente, "sesgo proviene de sesgar, torcer o atravesar algo hacia uno de sus lados".

En su traducción a psicología cognitiva hace a su vez mención a: "un efecto psicológico que produce una desviación en el procesamiento mental, lo que lleva a una distorsión, juicio inexacto, interpretación ilógica, o lo que se llama en términos generales irracionalidad, que se da sobre la base de la interpretación de la información disponible, aunque los datos no sean lógicos o no estén relacionados entre sí".

Según Cecilia Cores (psícologa) "los sesgos cognitivos son atajos mentales que evolutivamente han sido útiles porque nos han permitido tomar decisiones de forma más rápida". El miedo a perder la oportunidad, la vida que se nos escapa, Bill Gates millonario desde los 25. Decisiones rápidas. Buenas o malas es otra historia.

Aunemos este concepto de sesgo con la Inteligencia Artificial (IA), que como bien menciona mi compañero Sergio Gil en cada charla: ni es tan artificial ni es tan inteligente. La sentencia está fundamentada y bien enraizada en la explicación del proceso de inferencia de las máquinas. La ciencia-ficción tiene más de ficción que de ciencia: las máquinas se alimentan de datos a partir de los cuáles extraen conocimiento (novedoso o ya manifiesto) con el fin de automatizar el proceso de razonamiento.

Lo que la máquina no ve, no lo conoce y no lo introduce en su inferencia. Sin embargo, tan preocupante es la ceguera como la falta de visión periférica (la parcialidad en el juicio de esa ‘realidad’ o Ground Truth entregada a la máquina). Aparece en los relatos teóricos la corriente de Strong AI (lo pongo en inglés porque se me llena más la boca al leerlo): habilidad para percibir, capturar, aprender conocimiento nuevo y emplearlo con sabiduría. Hasta que la máquina no pronuncie el famoso ‘Cogito ergo sum’ seguiremos abocados a la debilidad de la IA, que no es otra que el ser humano titiritero que la ajusta y decide qué porción de la realidad del mundo es relevante.

Cuando hablamos de sesgo en IA hacemos alusión al sesgo algorítmico que hace su aparición cuando el sistema refleja los valores implícitos de los humanos que lo crearon. Y con todas nuestras taras y sesgos cognitivos, no llegaremos a Terminator, ni a Ex Machina ni a la Samantha de Her (pobre Theodore Twombly) hasta que no pasen muchos (fonéticamente, con repetidas ‘u’s) años. No sé si el camino pasa por primero arreglar nuestros propios circuitos para enseñar algo con atisbos de inteligencia o por diseñar una máquina que ignore nuestras incongruencias. ¿A dónde nos han llevado nuestros sesgos? He aquí ejemplos ilustrativos:

• • Correctional Offender Management Profiling for Alternative Sanctions (COMPAS): herramienta para identificar el riesgo de reincidencia de criminales (score entre 1 y 10). Incorpora el análisis de 137 factores entre los que se encuentran la edad, el género y el historial criminal. La raza, la nacionalidad y el color de la piel jugaron un papel importante en la composición de las evaluaciones y predicciones de reincidencia hasta la década de 1970, cuando estudios de investigación diagnosticaron a estos atributos como políticamente inaceptables (Harcourt, 2010; Kehl et al; 2017). Sin embargo, COMPAS se ha utilizado como motor de recomendación para los jueces en varias jurisdicciones de EEUU (el estado de Nueva York, Wisconsin, o California entre otros). Se ha observado que los acusados clasificados como de riesgo medio o alto (puntuaciones de 5 a 10) tienen más probabilidades de ser encarcelados mientras esperan juicio que aquellos clasificados con riesgo bajo (puntuaciones de 1 a 4). A continuación, el análisis de la performance:

• • Word embedding (of a men’s world). Imperativo indicar que la literatura escrita sobre el sesgo de género aún se encuentra en las primeras etapas y que la mayoría del contenido escrito pertenece a artículos que no han sido respaldados por estudios académicos. Hace unos pocos años, especialistas en Procesamiento de Lenguaje Natural, la rama de IA que estudia el lenguaje, confeccionaron un mapa de relaciones entre palabras a partir de miles de millones de textos. Lo que se llama en el argot técnico word embeddings, que permiten llevar las palabras a un espacio vectorial para luego poder computar distancias.Recurriendo a esa red se pueden inducir relaciones como:

• No es más que el resultado de replicar los estereotipos de género presentes en la sociedad. Quizás hoy la sociedad no es una muestra representativa de lo que queremos construir. Ha habido estadísticas que destacan distribuciones desiguales de tipos de ocupación con respecto al género. Reino Unido tiene el porcentaje más bajo de mujeres profesionales de ingeniería de software en Europa, con menos del 10 % según The Women’s Engineering Society (2018).
• ¿Y si el algoritmo IA no es el sistema finalista? ¿Y si se construye algo con mayor poder de mando a partir de estos sistemas sesgados? ¿Y si estamos contribuyendo a la propagación continúa de nuestros ‘yo más oscuros’? ¿Y si el Ground Truth es más bien sólo un indeseable Gold Standard?
• La visibilización y la concienciación, tanto en el ámbito social como en el académico y profesional, son la única vía: ‘hacer consciente a las personas que trabajan directa o indirectamente con los datos de los sesgos. Que sean conocedoras, sobre todo, de que no existe una verdad única, sino que es necesario hacer balanceo y establecer todos los datos en una ecuación para que salga ecuánime la toma de decisión.’

Cuidado con detectar un nicho o una oportunidad en el mercado y coger atajos en los desarrollos obviando el compromiso social (la única Gate que podemos hallar al final del camino no será la de Bill, sino la del fracaso como miembro del ecosistema humano). Cuidado con enarbolar citas de esta naturaleza al tratar con IA:

"La confianza en uno mismo y la rápida decisión son el preludio del éxito". José Martí

José no hacía IA. Rápido en este contexto es siempre sinónimo de mal.