¿Por qué necesitamos entender más sobre la Inteligencia Artificial este 8M?

Se acerca el Día Internacional De La Mujer y muchas iniciativas de diversidad e inclusión están relacionadas a visibilizar la brecha de género, retar los prejuicios y buscar la inclusión. Sin embargo, ¿sabemos el impacto de la tecnología, en especial de la inteligencia artificial, en la perpetuación de sesgos de género?

La Inteligencia artificial, conocida como un sistema informático capaz de realizar tareas que normalmente requieren inteligencia humana, está cada vez más presente en nuestra cotidianidad. Desde la interacción con asistentes de voz, las búsquedas que realizamos online en google u otros buscadores, las recomendaciones en plataformas digitales como Netflix o Spotify, entre otros. En las organizaciones, la inteligencia artificial ya se utiliza para la atención al cliente a través de chatbox, para la predicción de fuga de clientes, en el diseño de horarios de personal variable, revisión de potencial de crédito, ubicación de centros logísticos, etc. 

No obstante, al ser sistemas informáticos creados por personas, no son ajenos a los sesgos. El sesgo en los algoritmos de IA, pueden ser resultado de entrenamientos no representativos o incompletos o en la información de la misma data histórica que incluye estereotipos propios de la brecha de género o desigualdad que existe. No es un resultado de malas intenciones sino la falta de un mindset inclusivo que existe en la sociedad.

Algunos ejemplos:

-En un estudio de solicitud de préstamos realizado por el Banco Mundial, en 77 bancos turcos, el 35 % de los oficiales de crédito estaban sesgados en contra de las mujeres solicitantes, y las mujeres recibieron montos de préstamo de $14 000 menos en promedio en comparación con los hombres. 

-En el 2015 se dio a conocer que Amazon utilizó programas de IA sesgados para la revisión de currículos de aplicantes, dando a las candidatas mujeres menor puntaje.  

-Y si incluimos el enfoque interseccional, hay también casos de sesgos raciales en servicios de salud, donde la data mayormente analizada estaba sesgada.

¿Qué podemos hacer?

Existen varios debates relacionados a las acciones que deben hacer las organizaciones para gestionar los sesgos en inteligencia artificial.

-Incorporar diversidad en los equipos de trabajo en TI, evitar que sea sólo un grupo homogéneo. Las personas siempre serán lo primero.

-Desarrollar métodos técnicos de mitigación de sesgos, que incluyan revisión data y prevención de sesgos.

-Trabajar en ética y gobierno IA frameworks, cada vez más común y regulado en otras sociedades. 

-Fomentar espacios de código abierto o colaboración y de co-creación para seguir aprendiendo en este tema.

La inteligencia artificial y otras nuevas tecnologías pueden impactar positivamente si logramos gestionar nuestros propios sesgos al diseñarlas y construirlas. Como agentes de cambio tenemos el compromiso de buscar soluciones inclusivas para todas las personas. 

Aún hay mucho por trabajar, sigamos conversando, capacitándonos y aprendiendo del tema.