



















ADOLESCENCIAS CONECTADAS: EROTOCONTENIDOS, CUERPO Y DERECHOS EN LA CULTURA DIGITAL
Mesa redonda interdisciplinaria
EJE 7: SEXUALIDADES, INFANCIAS Y ADOLESCENCIAS
3- Deepfakes sexuales en las adolescencias: violencia digital, consentimiento y desafíos jurídicos ante la inteligencia artificial
Congreso de Salud Mental
Mendoza
2026
Infancias y adolescencias en riesgo
12 y 13 de noviembre
CUARTAS JORNADAS DE SUICIDIO
Primeras Jornadas de Salud Mental Relacional
Imágenes sintéticas, daños reales
Deepfakes sexuales entre pares, subjetividad y responsabilidades institucionales
Intimidad, identidad e integridad sexual de niñas, niños y adolescentes ante la inteligencia artificial generativa
Sergio Gustavo Benaroya
Resumen
Esta ponencia analiza la creación y circulación no consentida de imágenes sexuales o íntimas producidas mediante inteligencia artificial, con especial atención a los deepfakes sexuales entre pares y a sus efectos sobre niñas, niños y adolescentes. Desde una perspectiva interdisciplinaria que articula sexualidad, salud mental y derechos humanos, propone comprender estas prácticas como formas de violencia sexual digital cuyo daño no depende de la existencia de una escena sexual efectivamente ocurrida. La apropiación de la imagen y la imposición de una representación sexual pueden comprometer la intimidad, la identidad, la dignidad y la integridad sexual de la persona representada.
La exposición recupera la noción de urgencia subjetiva para examinar experiencias de humillación, pérdida de control y exposición vividas como situaciones sin salida, especialmente cuando la circulación involucra al grupo de pares. Problematiza, asimismo, las respuestas limitadas a la eliminación posterior del contenido y propone articular acompañamiento singular, intervención institucional, educación sexual integral y prevención desde el diseño tecnológico. Finalmente, plantea la necesidad de marcos regulatorios que no se concentren exclusivamente en quienes producen o comparten imágenes, sino que alcancen también a las herramientas y servicios que facilitan estas prácticas.
Palabras clave: deepfakes sexuales; consentimiento; violencia sexual digital; niñez y adolescencia; salud mental; responsabilidad institucional.
1. Introducción: una imagen puede ser falsa y la violencia, real
La expansión de la inteligencia artificial generativa obliga a revisar una asociación habitual: que el daño derivado de una imagen íntima presupone necesariamente una escena real previamente registrada. En los deepfakes sexuales, esa escena puede no haber ocurrido. Sin embargo, la persona representada existe, su imagen resulta apropiada y la circulación puede afectar sus relaciones y su vida cotidiana. El carácter sintético del contenido no vuelve ficticia la vulneración.
En este trabajo utilizamos la expresión deepfakes sexuales para referirnos a representaciones sexuales fabricadas o alteradas mediante inteligencia artificial que atribuyen a una persona identificable un cuerpo, una desnudez o una participación sexual que no corresponden a un registro auténtico de esa persona. El recorte es deliberado: no se examina aquí toda imagen sexual sintética, sino la apropiación no consentida de la identidad de alguien, particularmente de niñas, niños y adolescentes.
El problema no reside únicamente en que un observador confunda la imagen con una fotografía auténtica. También reside en que una persona sea colocada, sin su consentimiento, en una representación sexual sobre la cual no pudo decidir. No estamos solamente ante una falsificación visual, sino ante una imposición sobre la identidad y la intimidad ajenas.
La ponencia integra dos desarrollos previos: uno centrado en la protección del derecho a la imagen y la integridad sexual en el entorno digital, y otro dedicado a la singularidad y la urgencia subjetiva en contextos algorítmicos. Su articulación permite evitar dos reducciones: tratar estas prácticas como un mero problema tecnológico o considerarlas exclusivamente como un conflicto de reputación.
2. Consentimiento, intimidad y apropiación de la identidad sexual
Una fotografía disponible en una red social no equivale a una autorización para cualquier uso posterior. Publicar una imagen del rostro, compartir una fotografía con amistades o participar en espacios digitales no supone aceptar su transformación en contenido sexual. La distinción entre exposición y autorización resulta central para una lectura respetuosa de la intimidad y del derecho a la propia imagen.
Desde esta perspectiva, el consentimiento no puede presumirse a partir de la disponibilidad técnica del material. Que una imagen pueda descargarse, copiarse o procesarse no significa que exista autorización para sexualizarla. Tampoco una eventual autorización para un uso determinado debe confundirse con una habilitación ilimitada para producir, modificar o difundir nuevas representaciones.
En niñas, niños y adolescentes, la protección debe articularse con el reconocimiento de su condición de sujetos de derechos, su participación y su autonomía progresiva. La Convención sobre los Derechos del Niño y la Ley 26.061 ofrecen el marco general de protección de la dignidad, la vida privada y los derechos de la infancia; no corresponde leerlas como una regulación técnica específica de los deepfakes, sino como fundamentos para orientar la respuesta institucional (Naciones Unidas, 1989; Argentina, 2005).
Lo vulnerado no es solamente el control sobre un archivo. Se compromete también la posibilidad de decidir sobre la propia presentación corporal, la intimidad y los significados sexuales atribuidos a la propia identidad. Por ello, proponemos comprender estas prácticas como violencia sexual digital, sin que esta caracterización conceptual sustituya la determinación jurídica que corresponda en cada caso.
La pregunta por qué alguien publicó una fotografía desplaza la atención desde la apropiación hacia la conducta de la persona afectada. Prevenir la exposición indebida es una tarea de cuidado; convertir esa exposición en explicación justificante de la agresión es una forma de culpabilización. La misma distinción debe sostenerse cuando las fotografías fueron publicadas por personas adultas mediante prácticas de sharenting.
3. Deepfakes sexuales entre pares: proximidad, pertenencia y asimetrías
Cuando quienes producen o comparten las imágenes son compañeros de escuela o integrantes de un mismo grupo, existe el riesgo de minimizar la situación como una broma, una provocación o un conflicto adolescente. Sin embargo, compartir una edad aproximada no elimina las diferencias de poder ni vuelve simétricas las posiciones de quienes intervienen.
La pertenencia grupal, el reconocimiento social y el temor a la exclusión son dimensiones relevantes para comprender la experiencia subjetiva de estas violencias. Las plataformas y las redes no constituyen un espacio accesorio: participan en las formas contemporáneas de reconocimiento e identificación. Por eso, la exposición ante pares puede afectar simultáneamente espacios que suelen pensarse por separado: la escuela, las amistades, la vida familiar y la participación digital.
Proponemos distinguir la producción inicial de las intervenciones posteriores: solicitar la imagen, fabricarla, reenviarla, exhibirla o utilizarla para hostigar son conductas diferentes. Esa diferenciación permite reconstruir responsabilidades sin diluirlas en la expresión impersonal de que el contenido “se viralizó”. No todas las participaciones son equivalentes, pero ninguna debe analizarse al margen de su contexto y de sus efectos.
La perspectiva de género permite preguntar qué estereotipos se movilizan, a quiénes se pretende humillar y qué mandatos sobre los cuerpos y la sexualidad se reproducen. No se trata de presumir una experiencia idéntica para todas las personas, sino de examinar cómo la agresión utiliza desigualdades y sanciones sociales para intensificar la exposición.
Cuando quienes ejercen estas conductas también son adolescentes, la intervención debe sostener simultáneamente la protección de la persona afectada y una respuesta de responsabilización acorde con los derechos de quienes participaron. La alternativa no debería reducirse a minimizar la violencia o expulsar a sus autores del espacio educativo. Se requiere una respuesta que nombre el daño, establezca límites y trabaje sobre las condiciones de repetición.
4. Subjetividad, cuerpo y daño: más allá de la autenticidad de la imagen
La demostración de que una imagen fue generada artificialmente puede resultar importante, pero no necesariamente resuelve el padecimiento. La persona puede saber que la escena nunca ocurrió y, aun así, experimentar vergüenza, temor, desconfianza o pérdida de control. Lo que duele no depende exclusivamente de la autenticidad del contenido, sino también de la mirada de los demás y de la incertidumbre sobre su circulación.
La agresión opera sobre una representación del cuerpo que se presenta como propia, pero que fue construida por otros. Se impone una escena sexual ajena a la decisión de quien aparece representado y se altera la relación entre identidad, reconocimiento y mirada social. En este sentido, el daño no debe quedar reducido a una eventual pérdida de reputación: la dignidad de la persona no depende del juicio moral que otros formulen sobre su sexualidad.
La circulación puede prolongar la experiencia de exposición incluso después de la eliminación de una publicación. La incertidumbre sobre quién conserva copias, dónde se compartió el material o cuándo podría reaparecer constituye una dimensión relevante del problema. Esta persistencia es un obstáculo para recuperar la sensación de control.
Estos señalamientos no autorizan a presuponer una respuesta emocional uniforme. No toda persona afectada desarrollará un trastorno ni toda exposición tendrá las mismas consecuencias. El propósito de una lectura interdisciplinaria es reconocer el daño posible y escuchar su significación singular, evitando tanto la banalización como la patologización automática.
5. La urgencia subjetiva como orientación de escucha
Se propone la noción de urgencia subjetiva para escuchar situaciones vividas como intolerables o sin salida, aun cuando no se presenten inicialmente los indicadores tradicionales de una emergencia clínica. Recuperamos esta categoría como una orientación conceptual de escucha, no como un diagnóstico ni como sustituto de la evaluación clínica del riesgo.
La experiencia de atrapamiento puede expresarse en la percepción de que no existe un afuera: los mensajes continúan, los comentarios reaparecen y la persona teme que cualquier encuentro con sus pares vuelva a colocarla en la escena de humillación. En tales circunstancias, desconectarse no siempre se vive como alivio; también puede significar perder vínculos o quedar sin información sobre lo que ocurre.
La pregunta clínica no debería agotarse en determinar si la imagen es verdadera o falsa. Debe habilitar el relato de qué significó la exposición, quiénes participaron, qué relaciones se alteraron, qué respuestas institucionales se recibieron y con qué apoyos cuenta la persona. Tampoco resulta necesario que el profesional contemple reiteradamente el contenido para reconocer la legitimidad del sufrimiento.
Como criterio de intervención, proponemos evitar expresiones tranquilizadoras que clausuren la escucha: “se nota que es falso”, “no pasó de verdad” o “dejá de mirar el teléfono”. La intención de aliviar no debería cancelar la experiencia de quien consulta. La prioridad consiste en construir una respuesta de cuidado que permita recuperar palabra, apoyos y capacidad de decisión.
Reconocer esta dimensión subjetiva no implica desatender las situaciones de riesgo agudo. Por el contrario, exige que la escucha del padecimiento y la evaluación clínica pertinente se articulen, sin esperar a que la persona alcance un deterioro extremo para ofrecer acompañamiento.
6. Los límites de una respuesta centrada en eliminar contenido
La eliminación del material es una medida de protección relevante, pero no equivale por sí sola a reparar el daño. Puede reducir la exposición sin resolver la humillación ya producida, la alteración de los vínculos o el temor a que el contenido reaparezca. Tampoco garantiza, por sí misma, que desaparezcan todas las copias.
Una respuesta limitada al retiro llega después de la producción y deja en segundo plano las condiciones que permitieron fabricar la imagen. Si cada episodio se trata únicamente como un archivo que debe borrarse, permanecen sin examinar las herramientas utilizadas, las dinámicas grupales y las decisiones institucionales que favorecieron o minimizaron la agresión.
Proponemos, por ello, articular tres planos: detener la circulación, acompañar a la persona afectada e intervenir sobre las condiciones de repetición. El primero requiere respuestas accesibles y oportunas; el segundo, escucha y protección; el tercero, medidas educativas, institucionales y tecnológicas. Ninguno sustituye a los otros.
La preservación de elementos relevantes para una eventual investigación debe coordinarse con las autoridades y equipos competentes, sin convertir la búsqueda de prueba en una nueva difusión del material. La persona afectada no debería quedar obligada a exhibir reiteradamente la imagen ni a gestionar en soledad todas las solicitudes de retiro. Esta propuesta retoma la preocupación de por la articulación interdisciplinaria y la prevención de la revictimización.
Cuestionamos que el cuidado recaiga únicamente en niñas, niños, adolescentes y familias. Recuperamos esa coincidencia para proponer responsabilidades diferenciadas y coordinadas, evitando que la corresponsabilidad termine significando que nadie asume una tarea concreta.
En el ámbito educativo, proponemos criterios de actuación que permitan recibir el relato, evitar la culpabilización y contener la circulación dentro de la comunidad. La intervención no debería transformarse en una exposición pública del caso ni exigir una confrontación inmediata con quienes participaron. La protección y la escucha deben orientar las decisiones, junto con la participación de la persona afectada de acuerdo con su edad y madurez.
En salud mental, corresponde integrar la experiencia digital a la comprensión del padecimiento. Esto supone explorar los vínculos y los significados de la exposición, sin reducir el problema a la cantidad de horas de pantalla ni atribuir todo malestar a la tecnología. En los sistemas de protección y justicia, proponemos coordinación para evitar relatos y recorridos innecesariamente repetidos.
La educación sexual integral ofrece un horizonte de trabajo para abordar consentimiento, intimidad, diversidad corporal, relaciones de poder y respeto por la dignidad ajena. En esta ponencia se propone incorporar situaciones de representación sintética a esa conversación: poder fabricar una imagen no otorga derecho a hacerlo, y conocer que es falsa no vuelve inocua su circulación.
La prevención debe incluir también a quienes presencian o reciben el material. El grupo puede sostener la humillación o contribuir a interrumpirla. Construir acuerdos de cuidado exige trabajar sobre esas decisiones cotidianas y ofrecer canales de ayuda que no se vivan como una amenaza de castigo para quien pide protección.
8. De la moderación posterior a la prevención desde el diseño
La intervención sobre contenidos ya publicados debe complementarse con una discusión sobre las herramientas que hacen posible su producción. No resulta suficiente pedir prudencia individual si, al mismo tiempo, existen servicios cuyas funcionalidades facilitan usos abusivos de la imagen ajena. La prevención desde el diseño constituye una línea propositiva central y se articula con las evaluaciones de impacto psicosocial.
Proponemos orientar la discusión regulatoria hacia evaluaciones de riesgo previas al despliegue, salvaguardas frente a la sexualización no consentida de personas identificables, mecanismos accesibles de denuncia y respuesta, y revisión de la eficacia de las medidas adoptadas. Estas exigencias deben examinarse según el papel de cada actor: quien desarrolla un modelo, quien ofrece una aplicación y quien aloja o distribuye contenidos no cumple necesariamente la misma función.
El etiquetado del origen artificial puede aportar información, pero no sustituye el consentimiento. Una imagen que anuncia ser sintética puede seguir constituyendo una apropiación sexual de la identidad ajena. Del mismo modo, la alfabetización digital no debería utilizarse para trasladar a la víctima la tarea de detectar y neutralizar todas las formas de manipulación.
La regulación requiere, además, salvaguardas de privacidad y proporcionalidad. Evitar estas violencias no debería convertirse en justificación para recopilar indiscriminadamente datos de niñas, niños y adolescentes ni para imponer vigilancia generalizada. El desafío consiste en diseñar medidas verificables de protección que no produzcan nuevas vulneraciones.
Estas líneas se presentan como propuestas de política pública y regulación. No se afirma que todas constituyan obligaciones actualmente vigentes ni que exista una solución técnica infalible. La corresponsabilidad exige distribuir tareas según capacidades, funciones y riesgos, sin equiparar la responsabilidad de una persona adolescente con la de un proveedor tecnológico.
9. Protección jurídica y cautela en el encuadre penal
La perspectiva de derechos de la infancia permite sostener que la intervención protectora no debe esperar a que se resuelvan todas las controversias sobre la calificación penal. La Convención sobre los Derechos del Niño y la Ley 26.061 constituyen referencias generales para orientar la protección de la dignidad, la intimidad y la participación de niñas, niños y adolescentes (Naciones Unidas, 1989; Argentina, 2005).
Se discute el alcance del artículo 128 del Código Penal ante representaciones sintéticas. En esta ponencia esa discusión se recupera como un problema interpretativo, no como una conclusión automática sobre la inclusión de toda imagen generada por inteligencia artificial. El análisis jurídico exige atender a las características del material, a las conductas atribuidas, al contexto y a las normas aplicables, con respeto del principio de legalidad.
También corresponde diferenciar las imágenes que se apropian de la identidad de una persona real de aquellas enteramente sintéticas sin una persona identificable representada. Aunque ambas puedan suscitar debates regulatorios, no plantean exactamente los mismos problemas de identidad, prueba y afectación individual. El centro de esta exposición es la primera situación.
La necesidad de precisión penal no debe confundirse con indiferencia institucional. La protección, el acompañamiento y la prevención no se agotan en la sanción. Una política integral debe evitar tanto la promesa de que el derecho penal resolverá por sí solo estas violencias como la idea de que, ante una controversia de tipificación, no existe nada que hacer.
10. Conclusiones
Los deepfakes sexuales plantean una cuestión que excede la autenticidad de las imágenes: quién puede disponer de la representación sexual de otra persona y qué respuestas se construyen cuando esa decisión le es arrebatada. La escena puede ser artificial; la apropiación de la identidad y sus efectos vinculares no lo son por esa razón.
El análisis entre pares exige reconocer la importancia de la pertenencia y de las asimetrías que pueden organizarse dentro de un mismo grupo. Reconocer esa violencia no supone desconocer los derechos de los adolescentes que participaron, sino construir respuestas de protección, límite y responsabilización que no se reduzcan a la minimización o al castigo.
Desde la salud mental, el desafío es escuchar el sufrimiento sin exigir una autenticidad fotográfica que lo legitime. La urgencia subjetiva permite interrogar experiencias de atrapamiento y exposición, siempre en articulación con la evaluación clínica y con el respeto por la singularidad.
Eliminar el contenido es necesario, pero insuficiente. La respuesta debe abarcar la circulación, el acompañamiento y las condiciones que permiten repetir el daño. Eso requiere instituciones capaces de coordinarse y marcos regulatorios que miren también hacia las herramientas y servicios de producción.
Proteger no debería significar retirar a niñas, niños y adolescentes de la vida digital, sino construir condiciones para que puedan habitarla sin que su imagen se convierta en un recurso sexual disponible para otros. El horizonte es restituir capacidad de decisión, sostener vínculos de cuidado y hacer efectiva una protección que no llegue solamente después de la exposición.
Referencias bibliográficas y normativas
Argentina. (2005). Ley 26.061 de Protección Integral de los Derechos de las Niñas, Niños y Adolescentes. Boletín Oficial de la República Argentina.
Benaroya, S. G. Infancias en Urgencia Digital : Clínica del Sufrimiento Psíquico en el Mundo Algorítmico.
Benaroya, S. G. Deepfakes, Infancias y Abuso Digital: Herramientas jurídicas y clínicas en la era de la inteligencia artificial.
Naciones Unidas. (1989). Convención sobre los Derechos del Niño.
.

