¡Atención!: Inteligencia artificial podría discriminar a las mujeres

Por: Equipo “Cápsula Informativa”

Que el poder femenino está cada vez más presente en la vida cotidiana de los chilenos, es una realidad creciente. Sin embargo, todavía hay áreas como el desarrollo de la Inteligencia Artificial (pensamiento de máquinas basado en el aprendizaje automático), por ejemplo, en los que las mujeres aún son inexistentes.

La ausencia de mujeres en los procesos investigativos que se realizan en esta materia, y al igual que otros sesgos, resultan perjudicial para el buen desempeño de la Inteligencia artificial. Lo anterior, porque son esas miradas sin la presencia de mujeres u otros grupos minoritarios, los que no permiten un “aprendizaje inteligente” eficiente.

Si bien los sesgos se pueden introducir en un sistema de Inteligencia artificial de diferentes maneras como, por ejemplo, a través del uso de datos limitados o incorrectos en los algoritmos de aprendizaje automático que entrenan al sistema, el mayor problema no radica en ellos.

El principal desafío que enfrenta el desarrollo de la Inteligencia Artificial es superar los puntos ciegos creados por la falta de diversidad, de experiencia, educación y pensamiento que existe en los propios equipos que trabajan en su desarrollo.

Así, han surgido casos reales de Inteligencia artificial sesgados hacia las mujeres y otros grupos subrepresentados en roles relacionados con la informática, que es donde los profesionales crean modelos de Inteligencia artificial. Por ejemplo: los algoritmos bancarios que otorgan a los hombres límites de crédito mucho más altos y sistemas de reclutamiento laboral que ignoran a las mujeres y a las minorías.

¡Aprendizaje sin mujeres!

El aprendizaje automático juega un papel clave en la mayoría de las Inteligencia artificiales utilizadas hoy en día. Este es el proceso mediante el cual se utilizan grandes cantidades de datos para capacitar a los sistemas de inteligencia artificial para, por ejemplo, extraer el significado de los archivos de texto o audio para responder preguntas o hacer recomendaciones.

Dado lo anterior, la precisión de la Inteligencia Artificial resultante depende en gran medida de la calidad de los datos y los parámetros codificados en los algoritmos de entrenamiento.

Aunque el proceso está altamente automatizado, el sesgo penetra, intencionalmente o no, al elegir conjuntos de datos de entrenamiento y reglas algorítmicas que determinan cómo se entrena la IA.

Los datos defectuosos y los modelos sesgados, pueden llevar fácilmente a la Inteligencia artificial a conclusiones erróneas que afectan los puntajes de crédito de las personas; las opciones de empleo; los ingresos a la escuela y su nivel de riesgo en casos de tribunales penales.

Aunque las mujeres representan aproximadamente la mitad de la población mundial y casi el 47% de la fuerza laboral de estados Unidos, esta paridad cercana termina cuando se trata de Inteligencia Artificial, donde las mujeres representan solo el 12% de los investigadores que crearon la tecnología. Esta es una estadística sorprendente considerando el gran papel que la IA está comenzando a jugar en la vida personal y profesional de las personas.

Es, por esto, que muchos líderes advierten que el sesgo de género puede infiltrarse en los algoritmos de IA. Para cambiar esta dinámica, se involucran en una variedad de esfuerzos para crear conciencia y alentar a más mujeres y miembros de otros grupos subrepresentados, a unirse a la profesión.

La ética en la IA es un tema que preocupa a todas las empresas. Lo esencial para esto es crear sistemas de Inteligencia artificailjustos y garantizar que estén alineados con los valores de los humanos. Y para esto, la diversidad e inclusión son clave en ese contexto.

En IBM, por ejemplo, se trabaja con la mirada puesta en la diversidad e inclusión. Por tanto, a juicios de sus expertos, “construir una IA confiable se considera como una extensión natural de quienes somos y de lo que creemos”

Es imperativo que la IA de hoy refleje los valores de las poblaciones para las que está creada. Debemos continuar saliendo de nuestros silos, mejorando el desequilibrio de género dentro de la informática y la IA e inyectando un espíritu de diversidad e inclusión en la IA que lo haga más justo, preciso y transparente para todas las personas.

Para reducir las brechas, IBM presenta este curso GRATUITO de machine learning y aprendizaje automático al que puedes ingresar en el siguiente link: https://www.edx.org/course/machine-learning-aprendizaje-automatico-con-python