Los sesgos algorítmicos y su impacto en la brecha de género

La tecnología generalmente es considerada como un instrumento neutral, al servicio de las personas, sin embargo, en la práctica es capaz de reproducir y amplificar desigualdades sociales preexistentes, incluyendo la brecha de género.

Un caso paradigmático es el de Amazon, cuando el 2015 implementó un sistema de IA para optimizar la selección de personal, que terminó descartando sistemáticamente a las candidatas mujeres. ¿Por qué? La base de datos que la entrenó contenía diez años de contrataciones predominantemente masculinas (acorde al porcentaje de hombres en la industria tecnológica), lo que provocó que la IA aprendiera que los hombres eran preferibles por sobre mujeres en la empresa, reflejando un mercado laboral desigual. Este sesgo en los datos llevó al sistema a penalizar términos relacionados con mujeres, reforzando patrones discriminatorios en lugar de combatirlos.

Aunque la herramienta fue descontinuada, expuso un problema mayor: los algoritmos no son inherentemente objetivos. Reflejan los prejuicios y desigualdades de los datos con los que son entrenados, perpetuando dinámicas discriminatorias. Esto es especialmente problemático en áreas sensibles, como la contratación, la salud o la justicia, donde las decisiones algorítmicas tienen un impacto directo en la vida de las personas.

Ahora bien, alimentar la IA con datos "neutros" o "equilibrados" no asegura poner fin al sesgo, ya que el funcionamiento interno de la IA es una verdadera "caja negra" donde el humano a cargo es incapaz de explicar cómo se generan los resultados, dificultando la identificar y corrección de sesgos. En este contexto, el concepto de "sesgo digital" emerge como una nueva barrera, donde la tecnología no solo replica las desigualdades, sino que las intensifica.

Este problema cobra especial importancia en Startups de base tecnológica, donde la baja participación de mujeres en la creación y diseño de tecnologías contribuye a generar soluciones que no consideran sus necesidades. En sectores como Fintech, por ejemplo, los algoritmos no responden adecuadamente a las necesidades y comportamientos femeninos, siendo esta una industria altamente masculinizada con altas brechas de género, redundando en la exclusión de clientas y líderes en el sector. Según la Comisión para el Mercado Financiero (CMF), el 68% de las empresas Fintech no tienen mujeres entre sus fundadores, la participación femenina en la fuerza laboral del sector es del 33%, menor al promedio nacional (43%), y la proporción de mujeres usuarias de servicios Fintech alcanza solo el 39%. 

Este panorama no solo evidencia una exclusión del mercado preocupante, sino que también representa un riesgo para las startups. La falta de inclusión puede derivar en fallas en productos, desarrollo de soluciones parciales, pérdida de mercado, pérdida de confianza de los usuarios, disminución en la innovación e incluso consecuencias legales por decisiones discriminatorias. Además, los sesgos no corregidos tienden a amplificarse a medida que las empresas crecen, perpetuando la discriminación y asociándola con sendos costos de rediseño.

Los emprendimientos, entonces, tienen la oportunidad – y la responsabilidad- de liderar los cambios necesarios desde el inicio y durante la vida o uso de la IA. Esto significa ser capaces de reconocer los sesgos en sus sistemas y tomar medidas proactivas: atraer talento femenino, fomentar la participación de mujeres en equipos técnicos y liderazgo, y colaborar con instituciones que les permitan crear tecnologías más inclusivas. La implementación de “algoritmos éticos”, diseños inclusivos y auditorías, no solo contribuirá a cerrar las brechas actuales, sino también abrirá mercados y nuevas líneas de negocio, como en el desarrollo de herramientas inteligentes especializadas para detectar y mitigar sesgos.

¿Estas transformaciones deberían ser impulsadas exclusivamente por la voluntad de las empresas o requieren una nueva regulación? Ejemplos como las normativas propuestas en la Unión Europea que exigen transparencia y responsabilidad en el desarrollo de la IA, sugieren que una regulación adecuada puede ser clave para garantizar estándares mínimos y fomentar la equidad, sin embargo, toda regulación tiene el riesgo de desincentivar la innovación al imponer barreras que frenan el desarrollo tecnológico, por lo que siempre será mejor que sean las mismas Starups las que adopten una nueva visión, para construir una industria más equitativa y convertirse en referentes de innovación y sostenibilidad en la era digital.