El acceso cotidiano a plataformas digitales, redes sociales y sitios web ha configurado nuevas dinámicas vinculares. Mujeres, niñeces, adolescencias e identidades LGBTI+ se ven expuestas a diversas formas de violencia digital, entre ellas de violencia sexual. Esta incluye la creación y difusión no consentidas de contenido sexual, con o sin modificaciones por Inteligencia Artificial.

Grok, X-Twitter y la normalización de imágenes sexuales sin consentimiento

Desde fines de diciembre de 2025, la IA Grok Imagine de Elon Musk, generadora de imágenes y videos en X (ex Twitter), se convirtió en el centro de una polémica internacional por permitir que usuarios generen imágenes sexualizadas de personas reales o reconocibles sin su consentimiento mediante modificaciones digitales de imágenes reales o creadas, difundidas en la plataforma. Las imágenes alteradas son principalmente de mujeres, incluyendo adolescentes, niñeces, y personalidades públicas.

Tres días después de poner en circulación la función, y en medio de críticas por su alto contenido de explotación sexual infantil y cosificación de mujeres, Elon Musk publicó en X que los críticos buscan «suprimir la libertad de expresión» a la vez que le pidió a Grok que publique una imagen de sí mismo en bikini. Con ironía, banalizó la vulneración de mujeres y niñeces; a la vez que mostró a los usuarios que existía una herramienta gratuita y de un click para desnudar digitalmente a cualquiera. Desató así una oleada de imágenes no consentidas de mujeres y niñeces sexualizadas. Grok en once días produjo más de tres millones de imágenes sexuales, incluidas más de 23 mil imágenes de niñeces y adolescencias.

Después de quince días de investigaciones y demandas a nivel internacional, la función fue parcialmente desactivada en X (eliminada primero en la versión gratuita y, días después, en la versión paga), junto a un comunicado de «tolerancia cero con la explotación sexual infantil y contenido sexual no consensuado». Sin embargo, algunas de estas imágenes sexuales o sus URL siguen disponibles en la plataforma. Grok no aplicó filtros suficientes para evitar esta situación. En cuanto a sus competidores –Gemini (Google) y Chat GPT (OpenIA)- operan bajo normas que prohíben la creación de imágenes con contenido sexualmente explícito.

Lo que posibilitó Grok de Elon Musk es un hecho sin precedentes, tanto por la accesibilidad y facilidad del ataque como por su difusión pública generalizada y masiva. Sin embargo, esta agresión y vulneración contra mujeres, niñas y adolescentes no es nueva: actualmente, en el ciberespacio existen muchos y muy diversos sitios web y foros donde se crean, modifican y difunden este tipo de imágenes.

Desde la creación de imágenes falsas de carácter sexual generadas mediante inteligencia artificial –conocidas como deepfake sexual-, a fines de 2017, existe registro de distintas mujeres famosas que fueron las primeras víctimas. Deepfake es contenido creado o manipulado mediante software o inteligencia artificial generativa: imágenes, videos -y audios- que superpone el rostro o cuerpo de una persona en la imagen de otra o imitan la apariencia y voz de una persona de manera convincente que puede engañar a las personas.

Según Estadisticas de deepfakes 2025, las imágenes íntimas no consensuadas son el tipo más frecuente de este fenómeno, representando entre el 96% y 98% de los videos en línea. El 99% de las personas afectadas son mujeres. En contraste, los deepfakes no sexuales -de humor, sátira o desinformación política- suelen estar protagonizados por hombres. Evidentemente, los deepfakes sexuales funcionan como una herramienta utilizada casi exclusivamente para la misoginia y cosificación.

Asimismo, con el avance de la tecnología y la mercantilización de la inteligencia artificial, los deepfakes sexuales son cada vez más sofisticados y accesibles. Lo que en sus inicios constituía un nicho limitado pasó a ser una herramienta de uso común. Procesos que antes requerían muchos recursos y conocimientos, actualmente están «democratizados», permitiendo que usuarios -tanto mediante servicios pagos como gratuitos- accedan a herramientas de IA para la creación de contenido multimedia, con edición automatizada de videos y la generación de imágenes realistas. Su ampliación es exponencial: se estima que en 2023 existían alrededor de 500.000 contenidos deepfakes, para pasar a ser 8 millones en el año 2025. Debido a que, los deepfakes requerían grandes cantidades de datos, su principal blanco fueron mujeres. En la actualidad, en menos de 25 minutos y a partir de una sola imagen es posible crear este tipo de contenido, ampliando la victimización a mujeres no reconocidas públicamente.

A causa de que la inteligencia artificial se entrena y se aplica dentro de relaciones sociales capitalistas y patriarcales, la violencia digital se introduce y es usada en una sociedad marcada por las desigualdades de género, afectando mayoritariamente a mujeres, niñas, adolescentes e identidades LGBTI+. Es una nueva forma de violencia de género, una «actualización» de los mecanismos históricos de opresión y dominación. Según el informe ¿libres para estar en línea? ONU Mujeres, el 58% de las adolescentes y mujeres jóvenes entrevistadas sufrieron algún tipo de acoso en internet y el 47% fueron amenazadas con violencia física o sexual.

¿Lo virtual es real? Contenido falso, consecuencias reales

¿Lo virtual es real? Si bien el contenido es falso, sus consecuencias son reales. En el ámbito digital creamos vínculos, interacciones y relaciones; es parte de nuestra cotidianeidad, y es en el plano digital en el que la violencia de género adquiere características de expansividad y permanencia, agravando sus efectos. A ello se suma su carácter masivo, cotidiano, inmediato, barato, accesible y anónimo. Su impacto trasciende la virtualidad, afectando la integridad sexual, la privacidad y el bienestar socioemocional, así como los ámbitos escolar, laboral, familiar, digital.

A modo de ejemplo, según Corazones verdes de Amnistía Internacional Argentina, una de cada tres mujeres de entre 18 y 55 años sufrió violencia digital durante el debate por la legalización del aborto. El 59% recibió mensajes sexuales o misóginos, el 34% mensajes abusivos, y el 26% amenazas sexuales o psicológicas.

¿Hay límites legales?

En relación a las regulaciones legales sobre la violencia digital, Argentina cuenta con La Ley Olimpia 2023, que es una conquista de la lucha del movimiento feminista. Tipifica la violencia digital como modalidad de la violencia de género, incluyendo la difusión no consentida de contenido sexualmente explícito real o editado, discursos de odio por motivos de género, entre otros, a través de las TIC (Tecnologías de la Información y la Comunicación), incorporando políticas preventivas y de educación digital, junto a medidas de protección incluyendo ordenar a plataformas digitales eliminar contenidos. Por el momento, no existe un registro oficial de casos judiciales por la Ley Olimpia a nivel nacional.

Del mismo modo, en CABA, desde fines de 2024 existe un protocolo escolar frente a situaciones de violencia digital generadas entre pares debido al aumento de pornografía deepfakes entre adolescentes, el ciberacoso y hackeo de cuentas.

A su vez, actualmente existen otros dos proyectos de ley: la Ley Belén y la Ley Ema. La Ley Belén propone la tipificación de la violencia digital como delito, al incorporar al Código Penal la obtención y difusión no consentida de contenido sexual, la sextorsión y la edición digital de imágenes en videos de pornografía. Mientras que la Ley Ema busca prevenir y abordar casos de difusión de contenido íntimo sexual sin consentimiento, violencia digital y de género, en todas las escuelas del país, garantizando formación docente y directivo y el acompañamiento a las víctimas.

En la misma línea, a nivel internacional, leyes como Take It Down en Estados Unidos y la Ley de Seguridad en Línea en el Reino Unido, obligan a las plataformas a actuar y proporcionar recursos legales a las víctimas.

La violencia digital no es un fenómeno aislado sino una extensión de la violencia de género estructural del sistema capitalista patriarcal.

La extrema derecha y la política Deepfake

Por último, resulta importante contextualizar el auge de los deepfakes en general y de tipo sexual en particular, ya que se inscriben en el ataque explícito de la extrema derecha y su ofensiva reaccionaria que atraviesa el escenario político internacional.

Es en este contexto, y con el segundo mandato de Donald Trump, que se profundiza la reproducción de discursos reaccionarios, antifeministas y negacionistas de la violencia de género, así como los ataques a las mujeres y a las identidades LGBTI+. Esta política misógina impacta en las plataformas y sitios web, que alinean sus normas y políticas, flexibilizando controles, reduciendo moderación de contenidos y relativizando la violencia digital.

En Argentina, la prevención y erradicación de la violencia digital necesariamente debe incluir la aplicación efectiva de la Educación Sexual Integral (ESI) en todos los niveles educativos, de manera laica, feminista, científica y con perspectiva de diversidad sexual, como herramienta clave para prevenir violencias. Incluyendo el sistema educativo y la formación de docentes y directivos.

La violencia digital es un nuevo rubro de la violencia de género estructural del sistema capitalista patriarcal, por lo que enfrentar, prevenir y erradicar los deepfakes sexuales que cosifican y vulneran diariamente a mujeres y niñas forma parte de una lucha política contra el avance reaccionario de la extrema derecha.

En este nuevo mundo al que estamos entrando, y frente a la connivencia entre grandes empresas tecnológicas y gobiernos de extrema derecha, es urgente la organización del movimiento de mujeres y diversidades LGBTI+ junto a la clase trabajadora para denunciar y responder a estos ataques.