Aceptémoslo: nos encanta hablar de la Inteligencia Artificial como si fuera una entidad mística, una especie de oráculo sumamente objetivo que toma decisiones basadas en la “pureza” de los datos, desde crear una tabla en excel hasta temas personales, hemos tomado sus declaraciones como íntegras y sin sesgos, pero estamos un poco alejados de la realidad. Si tomamos en cuenta que la IA se nutre de nuestras interacciones y conocimientos previos, esta realidad se vuelve no solo terrenal sino incómoda, ya que la IA no es una hoja en blanco, es un espejo. Y como todo espejo, si lo que tiene enfrente está torcido, la imagen que proyecta no va a salir derecha.
En el marketing y los negocios solemos decir que lo que no se mide no se mejora. El problema es que, cuando se trata de género, la IA no solo está midiendo mal, está replicando prejuicios que creíamos estar dejando atrás.
La tecnología, en su esencia, no tiene género ni malicia. Sin embargo, se alimenta de lo que nosotros le damos. Como bien señala una investigación reciente, “la inteligencia artificial (IA) es un reflejo del mundo, y como tal, está parcializada“. Esto significa que si los datos históricos están cargados de desigualdad, el algoritmo la va a internalizar como una regla de oro.
Aquí entra en juego un concepto que deberíamos tener bajo el radar: el acrónimo WEIRD (Western, Educated, Industrialized, Rich, Democratic). Un estudio de Harvard encontró que los modelos de lenguaje tienden a responder como ciudadanos occidentales, blancos y ricos . Si a esto le sumamos que el 53.2% de la población en países de la OCDE (incluyendo México) aún cree que si una mujer trabaja sus hijos sufren, tenemos la receta perfecta para que la IA aprenda que el lugar de la mujer no está en la toma de decisiones.
Uno de los puntos donde este “machismo algorítmico” se vuelve más tangible es en el empleo. Muchas empresas usan IA para filtrar currículums pensando que así eliminan el factor humano, pero el historial nos dice lo contrario. El caso de Amazon en 2018 fue la punta del iceberg: el sistema penalizaba currículums que incluyeran la palabra “mujeres” porque había sido entrenado con datos de una década donde la mayoría de los contratados eran hombres.
Esta distancia entre quien diseña el algoritmo y a quien se le aplica genera un vacío ético donde los prejuicios se esconden en las instrucciones. Incluso en algo tan cotidiano como los asistentes de voz, el sesgo persiste. El hecho de que se empleen mayoritariamente voces femeninas para funciones de asistencia no es casualidad; refuerza el estereotipo histórico de que las mujeres están destinadas a roles de servicio y soporte.
Entre algunos de los sesgos que se han encontrado en las respuestas de la IA se encuentran:
No se trata solo de que la IA nos niegue un crédito o ignore nuestro currículum; el machismo algorítmico se cuela en rincones de nuestra vida que ni siquiera imaginamos. Por ejemplo, en la forma en que nos habla: se ha detectado que los modelos de lenguaje suelen adoptar un tono de “amistad” o empatía artificial un 13% más frecuente con las mujeres que con los hombres. Mientras a ellos se les dan instrucciones directas y orientadas a la acción, a nosotras se nos trata con una cercanía que, aunque parezca inofensiva, prioriza la emoción sobre la solución técnica, reforzando la idea de que somos sujetos menos racionales.
En el mundo visual, el panorama no es mucho mejor. Si le pides a una IA generadora de imágenes que dibuje a una “persona exitosa”, lo más probable es que te entregue a un hombre blanco de mediana edad. Pero si especificas que sea una mujer, el sistema suele recurrir a estándares de belleza tradicionales, sugiriendo que nuestro triunfo profesional está ligado indisolublemente a la apariencia física.
Incluso en la salud, este sesgo puede ser vital. Muchos sistemas de diagnóstico se entrenan con datos donde los síntomas masculinos son la “norma”. Por ejemplo, en cardiología, una IA puede fallar al detectar un ataque cardíaco en una mujer porque sus síntomas —como la fatiga o las náuseas— difieren del clásico dolor de pecho que el algoritmo fue “enseñado” a reconocer como el único válido.
Finalmente, hasta nuestras herramientas más básicas de traducción nos regresan al pasado. Al traducir idiomas que no tienen género (como el turco), la IA suele asignar automáticamente el pronombre “él” a profesiones como médico o ingeniero, y “ella” a enfermera o personal de limpieza. Es un recordatorio constante de que el algoritmo no está creando un futuro nuevo, sino simplemente automatizando los prejuicios de ayer.
No todo es distopía. La IA también tiene una defensa: puede ser corregida, y si se implementa bien, la tecnología puede ser el mejor aliado para reducir nuestras propias inclinaciones humanas. Cuando un algoritmo falla por sesgo, suele ser más un reflejo de los problemas estructurales de una organización que una falla propia de la tecnología. En realidad, el sistema solo nos está gritando lo que debemos corregir en nuestra cultura interna.
En México ya hay ejemplos de que este ciclo se puede romper. La fintech Kueski, por ejemplo, utiliza inteligencia artificial para alcanzar la paridad entre sus clientes, desafiando un mercado donde solo el 30% de las mujeres accede a crédito formal, pese a tener mejores historiales de pago. Su modelo de aprobación analiza más de 400 variables donde factores como el género o las preferencias personales simplemente no tienen cabida para evitar cualquier tipo de exclusión.
Por otro lado, el uso de modelos predictivos y conversacionales diseñados para ser imparciales es fundamental para que el género deje de ser una barrera en el acceso a financiamiento para las PyMEs. La clave no es “dejar correr” el sistema, sino gobernarlo y auditarlo periódicamente para asegurar que la inclusión financiera sea una realidad técnica y no solo un discurso.
Incluso desde la política pública se empieza a notar esta preocupación. La reciente iniciativa de reforma electoral de la presidenta Claudia Sheinbaum propone que todo contenido alterado con IA deba ser etiquetado. Aunque se enfoca en campañas electorales, el principio es el mismo: transparencia y trazabilidad. Necesitamos saber quién entrena a la máquina y bajo qué reglas.
El feminismo tiene todavía una batalla enorme que librar en los servidores y las líneas de código. Si permitimos que la tecnología herede nuestros sesgos culturales y lingüísticos sin cuestionarlos, estaremos construyendo un techo de cristal digital mucho más difícil de romper que el físico. La IA puede ser una herramienta increíble para reducir inclinaciones humanas, pero solo si quienes la programan y quienes la usamos nos atrevemos a mirar nuestras propias sombras.
¿Cuál es tu opinión? ¿Has sentido que la tecnología te trata diferente por tu género? Cuéntanos en los comentarios, nos interesa mucho abrir esta conversación.
No se han encontrado publicaciones relacionadas
Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *
Δ