Los Sesgos Algorítmicos: Lo que la Inteligencia Artificial Dice de las Minorías.

Maria Jose Consuegra Jaraba

La inteligencia artificial de la época contemporánea es conocida como un sistema informativo capaz de descubrir patrones e imitar la capacidad intelectual humana para así conseguir realizar tareas y, en muchos de los casos, resolver problemas con base en su habilidad de racionamiento integrada. No obstante, es de vital importancia tener en cuenta que, aunque la inteligencia artificial puede ser muy hábil para realizar tareas específicas y procesar grandes cantidades de información rápidamente, carece de la conciencia y la comprensión del mundo que tiene un ser humano. La inteligencia artificial no tiene emociones ni experiencias personales, y su "pensamiento" está limitado a las capacidades y los datos con los que ha sido programada o perfeccionada a través del Machine Learning, conocido en español como el Aprendizaje Automático, el cual constituye una característica distintiva en su habilidad para emular el comportamiento humano. En otras palabras, toda IA es una manifestación digital de una inteligencia humana que la programó y le dio parámetros y límites operativos, así como determinadas capacidades de aprendizaje en función del acceso a información e interacciones que se le den. Esto sin duda parece a primera vista un beneficio, dado que se tiene cierto rango de control sobre los fundamentos sobre los cuales se sustenta nuestra propia creación, pero lo cierto es que los sistemas algorítmicos pueden producir resultados socialmente sesgados, lo que agrava las desigualdades dentro de nuestra sociedad.

Estos fenómenos se vuelven inexplicables excepto para quienes tienen la palanca: los matemáticos, los informáticos, los dueños del código, quienes solo visibilizan las voces heterocentradas, blancas y monopólicas de las tecnologías, afectando así las percepciones de equidad y diversidad. Por consiguiente, “el riesgo, está en los datos y en la falta de supervisión. Mucho más si, como en muchos campos de la actividad humana, son personas occidentales de género masculino cuya visión del mundo se traslada automáticamente al diseño de las estructuras y reglas del sistema a veces de forma inconsciente, pero también como fruto de la experiencia personal.” (Benítez Eyzaguirre, L. 2019, p.3).

Encontramos un ejemplo de los llamados “sesgos algorítmicos” en el contenido que consumimos diariamente en las redes sociales. El objetivo principal de los algoritmos de estas aplicaciones o páginas es personalizar y optimizar la experiencia del usuario en las plataformas.

La mayoría de los algoritmos de redes sociales ordenan, filtran y priorizan el contenido en función de las preferencias y comportamientos individuales del usuario, haciendo que esto pueda influir en la toma de decisiones de casi todos los campos del conocimiento y de las actividades sociales, políticas y económicas a causa de una confianza peligrosa y casi ciega en los procesamientos informáticos. Otro fenómeno distante, pero no por eso desligado a este caso, es cuando estos algoritmos no se basan en resultados personalizados, ya que no están específicamente diseñados para una plataforma de redes sociales, sino que, en cambio, se entrenan como una inteligencia artificial de uso general que con frecuencia se nutren de datos históricos que son utilizados para hacer predicciones, ocasionando un reforzamiento de los prejuicios que ya conocemos dado que la información proviene de un pasado marcado por la discriminación de género, raza y otros factores. Esto se traduce en motivo de preocupación, ya que, por ejemplo, algunos procesos de selección que hacen uso del aprendizaje automático pueden favorecer de manera injusta a candidatos masculinos en lugar de candidatas femeninas debido a patrones previos de discriminación arraigados en nuestra historia.

Por si fuera poco, para evitar que se sigan presentando esta clase de efectos y extensión de brechas de género, se necesita de un incremento en las estadísticas respecto al número de profesionales en IA que son mujeres cis u parte de otros grupos minoritarios. Mientras no ocurra un cambio en las estadísticas, perdemos su punto de vista en la solución y desarrollo de los algoritmos (Mikaela Pisani, 2021).

Adicionalmente, también se necesita la abolición de la normalización de estos fenómenos en la estructura de nuestra sociedad. En una entrevista realizada por Agnes Bárdon para la UNESCO en 2018, el entrevistado Aude Bernheim señaló que los programas informáticos de traducción asignaban género a las profesiones. Por ejemplo, la expresión en ingles “the doctor” se traducía al español como “el medico” (género masculino), mientras que “the nurse” se traducía como “la enfermera” (género femenino). Aunque podría ser considerado un error de cero impactos, descartar resultados menos generalizados incrementa la cantidad de veces que se consideran irrelevantes a datos inclusivos. Calvin Lai, una investigadora de Harvard, menciona que las conexiones subconscientes de género que las personas adoptan están influenciadas por la frecuencia con la que se encuentran con ellas.

Sin duda, como consecuencia, muchos de los modelos basados en automatización del aprendizaje han codificado los malentendidos y los prejuicios humanos en los sistemas de software que administran cada día más nuestras vidas. Tómese por demostrativo de esta problemática el informe realizado por diversas organizaciones, las cuales han destacado que las mujeres representan menos de una tercera parte de las posiciones en el ámbito científico a nivel global. Esto plantea un serio problema que requiere de un nuevo enfoque, especialmente en un momento en que la inteligencia artificial está en su apogeo, y resalta la importancia de advertir sobre las potenciales amenazas que esto podría conllevar para la percepción o asignación que se presenta sobre el rol de las mujeres, minorías e incluso el rol de los hombres en nuestra sociedad a través de la exposición a expectativas y presiones dañinas. Podemos entonces concluir que es imperativa la inclusión activa y el aporte significativo de grupos minoritarios con el fin de crear algoritmos de Machine Learning que no repliquen pautas previas de discriminación y no den lugar al ciclo continuo de opresión que tecnologías en constante evolución han llegado a perpetuar con anterioridad. Es imprescindible proporcionar formación a los equipos informáticos en cuestiones de género y sensibilizarlos acerca de las variadas problemáticas sociales que afectan a las personas, lo que incluye la manera en que estas problemáticas pueden influir en los datos. Estas capacitaciones tienen como objetivo mantener a todos los miembros del equipo (independientemente de su género, ya sean hombres cisgénero, mujeres cisgénero, personas trans o no binarias) atentos a cualquier aspecto del proceso que pueda dar lugar a sesgos.

Referencias

 Benítez Eyzaguirre, L. (2019). Ética y transparencia para la detección de sesgos algorítmicos de género. Repositorio.consejodecomunicacion.gob.ec. https://repositorio.consejodecomunicacion.gob.ec/handle/CONSEJO_REP/3584 

News.un.org. La ausencia de mujeres en el campo de la inteligencia artificial reproduce el sexismo | Noticias ONU. (2019, June 3).https://news.un.org/es/story/2019/06/1456961 

Observatorio, D. -. (2021, August 19). Sesgos en los algoritmos. Medium. https://datagenero.medium.com/sesgos-en-los-algoritmos-d13898884cd9