En junio de este año se conoció una noticia que rápidamente acaparó la atención nacional: en un grupo de WhatsApp que integraban alrededor de 50 adolescentes de dos colegios pre universitarios de CABA, se intercambiaban y comercializaban imágenes y videos generados con IA de contenido pornográfico, de adolescentes a quienes se les había robado y alterado su imagen, es decir, porno Deepfake.
El hecho se viralizó rápidamente y surgió un debate alrededor de qué respuesta se debía dar frente a los agresores. Pero poco se habló de la estructura que hay por detrás de esta nueva forma de violencia de género alentada por la ofensiva reaccionaria que hoy estamos viviendo de mano de la extrema derecha, y que es también un negocio rentable para los millonarios dueños de las Hi-Tech.
El enorme desarrollo que estamos viendo en relación a las tecnologías y, particularmente, de la Inteligencia Artificial, conlleva profundos debates, particularmente vinculados a su regulación, y al servicio de quién y de qué intereses sirven. Las Deepfakes reflejan una nueva modalidad de violencia contra las mujeres y diversidades amplificadas por el uso de herramientas digitales, y por tanto una de las nuevas problemáticas que el movimiento feminista tenemos por delante.
Porno Deepfake: una nueva modalidad de violencia de género
Las porno Deepfake son una nueva modalidad de violencia digital que se basa en la generación de imágenes y videos falsos, pornográficos, eróticos y/o de intimidad sexual, creado con Inteligencia Artificial. Son contenidos que tienen algún elemento real: parten de una imagen (puede ser solo la cara o el cuerpo) de una persona real y mediante la Inteligencia Artificial se recrea un contenido falso: el escenario, el resto de cuerpo, los movimientos, etc.
Existen las Deepfakes “en general”, es decir que no son de contenido pornográfico, que muchas se utilizan con fines políticos, para desacreditar o simplemente generar una fakenews.
Pero las porno Deepfakes es una forma de violencia de género, porque se sostiene y a la vez reproduce la opresión patriarcal: se dirige a someter, humillar y estigmatizar a mujeres y diversidades. Para graficar esta idea damos dos ejemplos: primero, se sabe que el 96% de las Deepfakes son porno Deepfakes, y el 99% de estas son contra mujeres o diversidades. Segundo, las aplicaciones que se utilizan están programadas para modificar fotos de mujeres y diversidades (ya sean niñas, adolescentes o adultas), pero en casi ninguna se puede hacer con fotos de varones. De esta manera se perpetúa un sistema de opresión contra la mitad de la humanidad, mujeres y diversidades, niñes y adolescentes.
En el patriarcado las mujeres y diversidades somos despojadas/enajenadas de nuestra propia sexualidad: la obligatoriedad de la maternidad es la contracara de la “puta”. La sexualidad está al servicio de la reproducción social, o del placer masculino, pero nunca de nuestros propios deseos, placer, decisión. Los cuerpos y sexualidad de las mujeres y diversidades (y extensivamente de niñes y adolescentes) se pueden comprar, vender, alquilar, matar: es una mercancía más del mercado capitalista.
Atacar directamente la sexualidad, que es uno de los aspectos más íntimos, más sensibles de la subjetividad, es también una herramienta de deshumanización. Por eso decimos que es un arma del capitalismo patriarcal de sometimiento, domesticación, que se dirige contra personas individuales, pero que tiene como objetivo más general el conjunto de mujeres y diversidad, y el movimiento feminista en tanto uno de los actores más importantes de la pelea contra la extrema derecha.
Un negocio millonario para unos pocos dueños de las Hi-Tech
Si la sexualidad es una mercancía, podemos decir que las Deepfakes son un negocio enormemente monetizado y rentable a través del cobro en las plataformas digitales que las realizan. Encontrar estas aplicaciones o páginas online es muy sencillo en un buscador cualquiera, y sólo requiere declarar ser mayor de edad, y pagar. Inclusive, se publicitan como páginas donde “podés desnudar a tu pareja, colega, amiga”.
Es decir, cuando un grupo de adolescentes modifica con IA imágenes de sus compañeras para distribuirlas, no está haciendo “un mal uso” de la aplicación, sino siguiendo exactamente el propósito para el que fueron creadas.
El cobro se hace a través de billeteras virtuales o incluso con tarjetas de crédito, lo que es una demostración clara de que las porno Deepfakes son producto de una logística internacional, financiera, tecnológica e incluso legal, que sostiene este tipo de violencia contra las mujeres y diversidades.
De una manera similar que las redes de explotación sexual y trata, hay un régimen capitalista y patriarcal que crea las condiciones, garantiza su funcionamiento, y además genera ganancias.
Incluso la legalidad (en realidad la falta de leyes) es un elemento facilitador para su desarrollo. Todas las Deepfakes son generadas con IA que, o bien son parte de aplicaciones como META, Grok o ChatGPT, o se puede acceder por páginas online a las que se accede fácilmente a través del buscador Google.
Es decir, hay una concentración de interacciones en pocas plataformas digitales, donde se podría rastrear la información de los ataques perpetrados, o incluso los primeros pasos para prevenirlo (en 2025, en Google se buscó “cómo matar a una mujer sin dejar rastro” 163 millones de veces y nada se hizo para evitar los femicidios que se cometieron después).
Es cierto que en relación a la legislación alrededor de las IA todavía hay grandes discusiones, pero sobre todo lo que hay son grandes intereses de las corporaciones HI-TECH y de los movimientos de la extrema derecha mundial interviniendo.
En Argentina, aún no hay una legislación que condene las Deepfakes como un delito. Laura Sánchez, madre de Ema Bondaruk (la adolescente de 15 años que en el 2024 se suicidó un día después que un compañero del colegio difundiría un video íntimo) está a la cabeza de impulsar una serie de legislaciones y protocolos de atención en casos de violencia de género digital.
Recientemente, a través de la Ley Olimpia, la “violencia digital” se introdujo en la Ley de Violencia de Género como una de las formas de violencias contenida por la ley, pero en ningún caso significa delito (porque no hay pena). Sigue siendo parte de las peleas.
El gobierno de Milei y la extrema derecha son responsables
Pero también hay una responsabilidad que es política, en Argentina de la mano de Milei y su gobierno de misóginos y odiantes que envalentona todo tipo de ataque.
En 2024, por ejemplo, en el Foro de Davos dijo que los homosexuales son pedófilos. Tiene como parte de su círculo de propagandistas a Pablo Laurta, femicida de la madre y abuela de su hijo, y fundador de la agrupación de pedófilos y violentos Varones Unidos. Arenga que las mujeres que abortamos somos genocidas, que no existe la violencia de género, y que no sólo que no matan a una mujer cada 36 horas, sino que además hacemos denuncias falsas para ensuciar a los varones.
Atacan la ESI acusando a sus defensores de “pervertir” a les niñes, cuando la verdad es que de todas las denuncias que se lograron hacer por abusos sexuales a niñes, el 80% se hizo gracias a la ESI.
Estos discursos son acompañados del desmantelamiento de las políticas y programas que hemos conquistado con años de lucha, desfinanciando todos los dispositivos de prevención y asistencia a las distintas formas de violencia. Y si destruyen lo que ya existe, es muy difícil pensar que van a financiar, legislar, capacitar en esta problemática novedosa.
Todos estos discursos educan en la violencia contra las mujeres y diversidades. Por eso la defensa de la ESI laica, científica y feminista, es nuestra herramienta que le oponemos directamente para educar en la construcción de relaciones respetuosos, basadas en el afecto y el consentimiento; en la libertad de explorar el propio cuerpo, deseo e intimidad, y descubrir y construir quien es cada une; para identificar situaciones abusivas o violentas y poder pedir ayuda.
Ver esse post no Instagram
Las porno Deepfakes son parte de la batalla contra las mujeres y las diversidades de la extrema derecha que, en nuestro país, tiene como primer responsable al gobierno de Milei y las empresas de IA.
Lo digital es real
Finalmente, queremos dedicarle unos párrafos a la cuestión de las víctimas. En distintas partes del mundo existen incipientes movimientos u organizaciones (en general encabezados por víctimas o familiares de víctimas) que están poniendo luz sobre la importancia de tomar nota sobre esta problemática, instalando la idea de que lo digital es real.
Estas formas de violencia, aunque se den en ámbitos virtuales, tienen consecuencias muy reales, y muy graves. En primer lugar, porque quienes lo perpetran son personas reales, a veces se saben quiénes son y a veces no. También, porque significa una exposición concreta, por más que la imagen sea inventada, se representa tan bien la realidad que es muy difícil distinguir si es fake o no.
Muchas veces los ataques se perpetúan en el tiempo, afectando todos los ámbitos de la vida de la víctima, con niveles de incertidumbre realmente muy graves. El hecho de no tener seguridad sobre la identidad del agresor puede generar un estado de paranoia permanente que tiene un alto impacto negativo en los vínculos sociales cotidianos de las personas afectadas.
Las consecuencias subjetivas y físicas son las mismas que si el ataque se diera en la vida “real”: sentimientos de miedo, de vergüenza, paranoia, baja autoestima, autolesiones y hasta suicidios. Por esto es muy importante tener una política especializada en este tipo de situaciones, que permita abordar cada caso dándole la importancia y profundidad que tienen, sin minimizar, desalentar, o subestimar las consecuencias.
Contra la extrema derecha y los millonarios de las IA
La ofensiva reaccionaria contra las mujeres y diversidades se sirve de todas las herramientas que encuentra en su camino, y la Inteligencia Artificial es una de estas. Las feministas nos enfrentamos a los monstruos de la extrema derecha, a los megamillonarios que lucran a costa de los cuerpos de mujeres, diversidades y niñes, y peleamos por vivir y disfrutar plenamente nuestra sexualidad, para liberarla de toda opresión: que nadie nos imponga qué, cómo, con quién ni dónde sentir el placer de nuestros cuerpos, placer al que no podemos ni queremos renunciar.
La defensa de la ESI es fundamental para seguir peleando en la batalla ideológica que los reaccionarios están librando. Es urgente una legislación que penalice la distribución y comercialización de las Deepfakes, pero que también regule el uso de los sitios y aplicaciones habilitados para este fin. ¡Hay que afectar los intereses y los millones de quienes se enriquecen con nuestra explotación!
Por otro lado, hay que pelear por políticas de capacitación, prevención, y asistencia para las víctimas, con perspectiva de género. Que cuenten con presupuesto suficiente para tener equipos formados en la temática, y recursos materiales para dar respuesta frente a la inundación de denuncias de estos casos.
Estas son algunas de las reivindicaciones que tenemos que construir como movimiento de lucha, en la perspectiva anticapitalista de la construcción de una sociedad en la que las que relaciones sexoafectivas no sean de opresión y mercantilización, sino de reciprocidad, placer y como experiencia de construcción subjetiva de cada ser.
