Cuando la inteligencia artificial se convierte en cómplice: el estudio chileno que revela la cara oculta de los algoritmos

Mientras la inteligencia artificial promete revolucionar desde la medicina hasta la educación, un estudio desarrollado en el sur de Chile arroja luz sobre una dimensión inquietante de esta tecnología: su capacidad para perpetuar, normalizar e incluso amplificar la violencia contra las mujeres. La investigación presentada por la Universidad Austral de Chile no solo documenta un problema emergente, sino que plantea una pregunta incómoda para toda la industria tecnológica: ¿estamos construyendo sistemas que replican nuestros peores sesgos de género?

La investigación que incomoda a Silicon Valley desde Valdivia

El estudio presentado por la Universidad Austral de Chile representa un hito en la investigación latinoamericana sobre ética de la inteligencia artificial. A diferencia de trabajos anteriores que se centraban en sesgos generales de los algoritmos, esta investigación analiza específicamente cómo los sistemas de IA pueden convertirse en vectores de violencia de género, desde la perpetuación de estereotipos hasta formas más directas de agresión digital.

La relevancia del trabajo radica en su enfoque situado: mientras gran parte de la literatura sobre sesgos algorítmicos proviene de contextos anglosajones, este estudio examina cómo estas problemáticas se manifiestan en el contexto chileno y latinoamericano, donde las dinámicas de género y violencia presentan particularidades culturales y sociales específicas. Esta perspectiva regional es crucial, considerando que los sistemas de IA se entrenan cada vez más con datos globales que pueden no reflejar adecuadamente las realidades locales.

El equipo investigador de la UACh ha identificado múltiples dimensiones en las que la IA intersecta con la violencia de género: desde asistentes virtuales que normalizan el acoso mediante respuestas complacientes, hasta algoritmos de moderación de contenido que fallan sistemáticamente en detectar violencia dirigida específicamente contra mujeres. Estos hallazgos tienen implicaciones directas para el diseño de políticas públicas digitales en Chile, país que ha avanzado significativamente en legislación sobre violencia de género pero que aún carece de marcos regulatorios específicos para la dimensión tecnológica de este problema.

Los rostros invisibles de la violencia algorítmica

Una de las contribuciones más significativas del estudio es la taxonomía de formas en que la IA puede facilitar o ejercer violencia contra las mujeres. Esta clasificación va más allá de los casos obvios de deepfakes o suplantación de identidad, adentrándose en territorios más sutiles pero igualmente perniciosos: algoritmos de recursos humanos que sistemáticamente descartan candidatas femeninas, sistemas de reconocimiento facial que fallan desproporcionadamente con mujeres de piel oscura, o plataformas de redes sociales cuyos algoritmos de recomendación amplifican contenido misógino.

La investigación documenta cómo estos sesgos no son accidentales sino estructurales, arraigados en datos de entrenamiento que reflejan siglos de desigualdad de género. Cuando un modelo de lenguaje aprende de textos históricos o de internet, absorbe también los patrones de discriminación presentes en esos corpus. El resultado es una tecnología que, lejos de ser neutral, replica y en ocasiones amplifica las dinámicas de poder existentes.

La inteligencia artificial no es un espejo neutral de la sociedad, sino un amplificador que puede magnificar tanto nuestros avances como nuestras injusticias más arraigadas. Cuando los algoritmos aprenden de datos históricos marcados por la desigualdad de género, el resultado es una tecnología que perpetúa la violencia bajo la apariencia de objetividad matemática.

Particularmente preocupante es el hallazgo sobre la violencia facilitada por IA en contextos de violencia doméstica. El estudio señala cómo dispositivos inteligentes del hogar pueden ser utilizados como herramientas de control y vigilancia por parte de agresores, creando una nueva dimensión de violencia tecnológica que las políticas públicas actuales no contemplan. Desde termostatos controlados remotamente hasta cámaras de seguridad convertidas en instrumentos de acoso, la casa inteligente puede transformarse en una prisión digital.

Chile en el mapa de la ética algorítmica

La presentación de este estudio posiciona a la Universidad Austral de Chile, y por extensión al país, en la vanguardia de una conversación global urgente sobre ética de la inteligencia artificial. Chile ha experimentado en los últimos años un crecimiento significativo en investigación y desarrollo de IA, con iniciativas tanto en el sector público como privado. Sin embargo, este desarrollo tecnológico no siempre ha estado acompañado de una reflexión profunda sobre sus implicaciones sociales y éticas.

El trabajo de la UACh llena un vacío crítico en este ecosistema. Mientras organizaciones internacionales como la UNESCO y la OCDE desarrollan marcos éticos para la IA, la adaptación de estos principios a contextos específicos requiere investigación local que comprenda las particularidades culturales, legales y sociales de cada región. En un país donde el movimiento feminista ha logrado avances significativos en visibilizar la violencia de género, extender esta mirada crítica al ámbito tecnológico es un paso lógico y necesario.

La investigación también tiene implicaciones para la industria tecnológica chilena en expansión. Startups y empresas que desarrollan soluciones basadas en IA enfrentan ahora la responsabilidad de considerar las dimensiones de género en sus productos desde la fase de diseño. Esto no es solo una cuestión ética sino también de sostenibilidad empresarial: sistemas que perpetúan sesgos de género enfrentan crecientes riesgos regulatorios y reputacionales en mercados cada vez más conscientes de estas problemáticas.

Hacia una IA feminista: del diagnóstico a la acción

Más allá del diagnóstico, el estudio de la Universidad Austral plantea caminos hacia soluciones. La propuesta no es rechazar la tecnología sino transformarla, incorporando perspectivas feministas desde las etapas más tempranas del desarrollo de sistemas de IA. Esto implica equipos de desarrollo diversos, auditorías de sesgo de género en algoritmos, y marcos de evaluación que consideren explícitamente el impacto diferenciado por género de las tecnologías.

El concepto de "IA feminista" que emerge de esta investigación no se limita a eliminar sesgos, sino que propone activamente diseñar sistemas que promuevan la equidad de género. Esto podría incluir algoritmos de detección temprana de violencia en línea, herramientas de IA que faciliten el acceso a recursos de apoyo para víctimas, o sistemas de análisis de datos que visibilicen patrones de discriminación de género en organizaciones e instituciones.

La Universidad Austral de Chile, al presentar este estudio, no solo contribuye al conocimiento académico sino que lanza un llamado a la acción para múltiples actores: legisladores que deben actualizar marcos normativos, empresas tecnológicas que deben revisar sus prácticas de desarrollo, educadores que deben incorporar ética de IA en sus currículos, y la sociedad civil que debe exigir rendición de cuentas a quienes diseñan los sistemas que cada vez más median nuestras vidas. En la intersección entre tecnología y género, el futuro no está escrito en código inmutable, sino que permanece abierto a la intervención consciente y al cambio.

Contexto clave

Sesgo algorítmico de género: Se refiere a la tendencia de los sistemas de inteligencia artificial a producir resultados que sistemáticamente desfavorecen o estereotipan a las mujeres. Esto ocurre principalmente porque los algoritmos de aprendizaje automático se entrenan con datos históricos que reflejan desigualdades de género existentes. Por ejemplo, si un algoritmo de contratación se entrena con datos de una empresa que históricamente ha contratado más hombres para puestos directivos, el sistema aprenderá que "directivo" se asocia más frecuentemente con perfiles masculinos, perpetuando así el sesgo. La solución no es simplemente eliminar el género como variable, ya que esto puede invisibilizar discriminaciones reales, sino diseñar sistemas conscientes de estas dinámicas.

Violencia de género facilitada por tecnología: Es una categoría emergente que describe cómo las herramientas digitales y de IA pueden ser instrumentalizadas para ejercer control, acoso o daño específicamente contra mujeres. Incluye desde el uso de deepfakes para crear pornografía no consensuada, hasta el empleo de dispositivos IoT (Internet de las Cosas) para vigilancia y control en contextos de violencia doméstica. A diferencia de la violencia digital genérica, esta forma de violencia tiene características específicas relacionadas con dinámicas de género y requiere respuestas especializadas tanto técnicas como legales.

Auditoría de equidad algorítmica: Es el proceso sistemático de evaluar si un sistema de IA produce resultados justos y equitativos para diferentes grupos demográficos, incluyendo género. Estas auditorías examinan tanto los datos de entrenamiento como los resultados del modelo, buscando patrones de discriminación. En el contexto de género, una auditoría podría evaluar si un sistema de moderación de contenido detecta con igual efectividad el acoso dirigido a mujeres que a hombres, o si un algoritmo de crédito ofrece condiciones equitativas independientemente del género del solicitante. Estas auditorías son cada vez más consideradas una práctica esencial en el desarrollo responsable de IA.

Para profundizar

• La regulación de IA con perspectiva de género en América Latina — Mientras Europa avanza con el AI Act y otras jurisdicciones desarrollan marcos regulatorios, la región latinoamericana tiene la oportunidad de incorporar desde el inicio perspectivas de género en sus legislaciones sobre inteligencia artificial. ¿Qué puede aprender Chile de experiencias internacionales y qué particularidades regionales deben considerarse?
• Diversidad en equipos de desarrollo de IA en Chile — La composición de los equipos que diseñan sistemas de inteligencia artificial influye directamente en los sesgos de esos sistemas. Explorar el estado actual de la diversidad de género en carreras tecnológicas y empresas de IA en Chile, así como iniciativas para incrementarla, es fundamental para entender las raíces del problema y sus posibles soluciones.
• Inteligencia artificial como herramienta para combatir la violencia de género — Más allá de los riesgos, la IA también ofrece potencial para detectar patrones de violencia, predecir riesgos y conectar víctimas con recursos de apoyo. Investigar cómo desarrollar estas aplicaciones de manera ética, respetando la privacidad y la autonomía de las mujeres, representa una frontera prometedora que equilibra innovación tecnológica con justicia social.