La Inteligencia Artificial Generativa: Un Arma de Doble Filo en la Era Digital
La tecnología de inteligencia artificial generativa, capaz de crear imágenes, audios y videos hiperrealistas, está demostrando tener un impacto profundamente negativo en la sociedad, particularmente como herramienta para ejercer violencia digital contra las mujeres. Lo que comenzó como una innovación prometedora para efectos especiales y creatividad se ha convertido en un mecanismo para la producción masiva de contenido falso y dañino.
Deepfakes: La Aplicación Más Alarmante
El estudio El espejismo de la inteligencia artificial, un reflejo incómodo con alto impacto en los jóvenes, elaborado por la consultora LLYC, identifica a los deepfakes como una de las aplicaciones más preocupantes de esta tecnología. Blanca Juana Gómez, directora de LLYC México, advierte que el acceso fácil y anónimo a estas herramientas permite la creación de contenido que puede destruir reputaciones y causar daños psicológicos irreparables.
Las cifras son contundentes: según el informe Perpetuando la misoginia con IA generativa de la Universidad de Zúrich, el 98% de los videos deepfake tienen carácter pornográfico, y de estos, el 99% afecta específicamente a mujeres. "El famoso empoderamiento de la mujer no tiene que ser el debilitamiento de los hombres, eso sólo genera más violencia", afirma Gómez.
Un Caso Concreto en México
La gravedad del problema se ejemplifica con un caso documentado en México, donde un estudiante universitario modificó 166 mil fotografías de sus compañeras para convertirlas en material pornográfico, comercializándolo posteriormente a través de la plataforma Telegram. Este incidente ilustra cómo la tecnología puede ser instrumentalizada para la explotación y el lucro a costa de la dignidad de las mujeres.
El estudio de LLYC encontró que el 84% de las mujeres encuestadas teme que su imagen sea utilizada para crear deepfakes sexuales, un porcentaje significativamente mayor al registrado entre los hombres. "Es real que la violencia está muy fuerte, que hay mucha y sofisticada", reitera Gómez en entrevista.
Refuerzo de Estereotipos y Nuevas Dinámicas de Violencia
El problema va más allá de la creación de contenido falso. Los modelos de inteligencia artificial analizados en el reporte tienden a incrementar la brecha de género y reforzar estereotipos dañinos. Los cinco modelos evaluados asumen consistentemente que los hombres son:
- Resilientes e invulnerables
- Capaces de liderar naturalmente
- Merecedores de respuestas complacientes que validen sus puntos de vista
Este fenómeno se complementa con tendencias como las tradwives (mujeres que se enfocan exclusivamente en el cuidado del hogar), que refuerzan roles de género tradicionales. "Esto lleva a los hombres a esquemas patriarcales que no les permiten fallar, ser vulnerables o emocionales", explica Gómez. "Pero los hombres también quieren sentir, expresarse, paternar y el sistema no los deja, eso es una supresión emocional que genera violencia".
Consecuencias Sociales y Soluciones Propuestas
Esta dinámica ha contribuido al crecimiento de movimientos como los incels (célibes involuntarios), cuyos miembros han estado involucrados en varios episodios violentos a nivel global. Frente a este panorama complejo, Gómez propone un enfoque multifacético:
- Impulsar una revolución feminista que busque la igualdad genuina
- Fomentar una educación crítica respecto al uso de modelos de IA
- Programar con equidad desde el diseño de las tecnologías
- Realizar auditorías regulares a los sistemas de inteligencia artificial
La directora de LLYC México enfatiza que la solución no está en demonizar la tecnología, sino en desarrollar marcos éticos robustos y promover una cultura digital responsable. La inteligencia artificial generativa representa tanto un desafío como una oportunidad para repensar cómo construimos sociedades más justas en la era digital.
