Redes sociales: puerta de entrada a apps de desnudos deepfake

¿Qué ha ocurrido?

Un estudio publicado por la organización sin fines de lucro Graphika y reportado por Wired revela que YouTube y X (antes Twitter) actúan como 'puertas de entrada' hacia aplicaciones de desnudos deepfake. Estas apps, conocidas como 'nudify', permiten a los usuarios subir una foto de una persona y generar una versión desnuda sintética, todo por tan solo 1 dólar por imagen. Los investigadores encontraron que las plataformas albergan contenido promocional —como tutoriales, reseñas y enlaces— que dirige a los usuarios a estos servicios, a menudo eludiendo las políticas de moderación.

El informe de Graphika, titulado “Nudify” Apps: The New Frontier of Non-Consensual Intimate Imagery, analizó más de 100 aplicaciones y sitios web de este tipo, identificando que muchas de ellas utilizan plataformas de redes sociales como principal canal de marketing. Los investigadores documentaron cientos de publicaciones en YouTube y X que incluían enlaces directos o acortados a estas apps, a veces disfrazados como tutoriales de edición de fotos o reseñas de software. Algunas de estas publicaciones acumulaban miles de visitas y comentarios de usuarios buscando instrucciones más detalladas.

El estudio también señala que estas aplicaciones suelen operar en una zona gris legal: aunque la mayoría de los países tienen leyes contra la pornografía infantil o la difusión no consentida de imágenes íntimas, la creación de deepfakes sexuales no siempre está explícitamente tipificada. Sin embargo, en Estados Unidos, la Comisión Federal de Comercio (FTC) ha advertido que estas prácticas podrían violar leyes de protección al consumidor si las apps no informan adecuadamente a los usuarios sobre el consentimiento. Además, varios estados como California, Nueva York y Texas han aprobado o están considerando leyes que penalizan específicamente los deepfakes sexuales no consentidos.

¿Por qué es importante?

El problema no es nuevo, pero la escala y accesibilidad sí. Hace apenas unos años, crear un deepfake requería conocimientos técnicos y hardware potente. Ahora, cualquiera con unos pocos dólares puede generar material sexual no consentido. Las víctimas son principalmente mujeres, y el daño psicológico y reputacional es inmenso. Un estudio de 2023 de la organización Deeptrace estimó que el 96% de los deepfakes en línea son pornográficos no consentidos, y el 99% de las víctimas son mujeres. El estudio de Graphika documentó que algunas de estas apps tienen millones de usuarios y generan ingresos significativos mediante suscripciones, algunas de hasta 30 dólares al mes.

El impacto va más allá del individuo: las empresas también son vulnerables. Ejecutivas, celebridades y figuras públicas han sido blanco de estos deepfakes, lo que puede dañar su reputación y afectar sus carreras. En el ámbito corporativo, los deepfakes pueden utilizarse para chantaje o desprestigio, como ocurrió en 2023 cuando un deepfake de un CEO fue usado para engañar a un empleado y transferir 25 millones de dólares. Aunque ese caso fue financiero, la tecnología subyacente es la misma.

La FTC ya ha tomado medidas contra empresas que ofrecen servicios de desnudos deepfake. En 2022, la agencia multó a la aplicación FaceApp por engañar a los usuarios sobre el uso de sus fotos, pero no ha habido acciones específicas contra las apps nudify. Sin embargo, el Congreso de EE.UU. está considerando la Ley de Prevención de Deepfakes Sexuales No Consentidos, que tipificaría como delito federal la creación y distribución de este tipo de contenido. Mientras tanto, plataformas como Meta y TikTok han actualizado sus políticas para prohibir explícitamente los deepfakes íntimos no consentidos, aunque la aplicación sigue siendo un desafío.

Consecuencias y perspectivas

Este hallazgo presiona a las plataformas a tomar medidas más estrictas. YouTube, por ejemplo, ya prohibió los enlaces a estas apps, pero los investigadores encontraron que los evasores usan acortadores de enlaces y palabras clave codificadas como “nudify” o “undress ai”. X, bajo la dirección de Elon Musk, ha reducido su equipo de moderación en un 80% desde que adquirió la plataforma en 2022, lo que podría agravar el problema. Según un informe de Bloomberg de 2023, X ahora depende más de sistemas automatizados que de moderadores humanos, lo que facilita que contenido dañino pase desapercibido.

A largo plazo, se espera que los reguladores exijan responsabilidad a las plataformas por el contenido que alojan, similar a las leyes de derechos de autor. La Ley de Servicios Digitales (DSA) de la Unión Europea, que entró en vigor en 2024, impone obligaciones más estrictas a las plataformas para eliminar contenido ilegal, incluidos los deepfakes no consentidos. En Estados Unidos, la Sección 230 de la Communications Decency Act protege a las plataformas de ser consideradas responsables por contenido de terceros, pero hay crecientes llamados a reformarla para casos de abuso sexual.

Para los usuarios, la lección es clara: nunca compartan fotos íntimas en línea y activen configuraciones de privacidad estrictas. Sin embargo, esto no es suficiente, ya que los deepfakes pueden crearse a partir de fotos públicas de redes sociales. Las empresas tecnológicas deben invertir en detección proactiva de deepfakes y eliminar rápidamente el contenido abusivo. Herramientas como StopNCII.org permiten a las víctimas generar un hash de sus imágenes para que las plataformas las bloqueen, pero su adopción aún es limitada.

“Las redes sociales se han convertido en el principal canal de distribución de estas herramientas dañinas”, señala el informe de Graphika.

¿Qué deben saber los lectores?

• No es un problema marginal: El estudio identificó decenas de apps con millones de descargas combinadas. Algunas, como Undress.app, reportan más de 10 millones de descargas en Google Play.
• El costo es mínimo: Algunas ofrecen la primera imagen gratis y luego cobran suscripciones de menos de 10 dólares al mes. El precio bajo reduce la barrera de entrada para los abusadores.
• Las plataformas tienen políticas, pero no las cumplen: YouTube prohíbe el contenido sexual no consentido, pero los enlaces se cuelan mediante acortadores como Bitly o TinyURL. X también tiene políticas, pero la moderación reducida permite que el contenido persista.
• Hay herramientas de protección: Servicios como StopNCII.org permiten a las víctimas generar un hash de sus imágenes para que las plataformas las bloqueen. También existen extensiones de navegador que detectan deepfakes, aunque su precisión varía.
• Legislación en movimiento: Países como Reino Unido y Australia ya han tipificado como delito la creación de deepfakes sexuales no consentidos. En España, la Ley Orgánica de Garantía Integral de la Libertad Sexual (solo sí es sí) podría aplicarse a estos casos.

Conclusión

El estudio de Graphika es una llamada de atención. Las redes sociales no solo son un escaparate para el contenido legítimo, sino también un vector para el abuso. La solución requiere cooperación entre plataformas, reguladores y usuarios. Mientras tanto, la amenaza de los deepfakes sexuales no consentidos seguirá creciendo si no se toman medidas drásticas. La tecnología avanza más rápido que la ley, y cada día que pasa sin una acción coordinada, más víctimas potenciales quedan expuestas. Es hora de que las plataformas asuman su responsabilidad y que los gobiernos doten a las autoridades de las herramientas legales necesarias para combatir este flagelo.