Apple y Google presionados para eliminar apps de desnudos con IA no consentidos

¿Qué ha ocurrido?

El 17 de julio de 2026, el fiscal de la ciudad de San Francisco, David Chiu, envió cartas de cese y desistimiento a Apple y Google, exigiéndoles la eliminación inmediata de ocho aplicaciones 'nudify' de sus respectivas tiendas (App Store y Google Play). Estas apps utilizan inteligencia artificial para generar imágenes de desnudos a partir de fotos de personas reales, sin su consentimiento. Según la oficina del fiscal, las aplicaciones violan las leyes estatales y locales contra la pornografía no consentida y la difamación. Las aplicaciones señaladas, cuyos nombres no fueron revelados públicamente, habrían sido descargadas millones de veces combinadas, según estimaciones de la fiscalía. La acción se basa en el Código Penal de California (PC 647.8) que prohíbe la distribución de imágenes íntimas no consensuadas, y en la ordenanza local de San Francisco que tipifica como delito la creación de deepfakes sexuales. David Chiu declaró: 'Estas apps son máquinas de abuso. Permiten que cualquiera convierta a una persona real en un objeto sexual sin su permiso, y las tiendas de aplicaciones se benefician de ello'. Este movimiento se produce tras una investigación de meses que incluyó la descarga y prueba de las apps por parte de la unidad de ciberdelitos de la fiscalía, que encontró que muchas de ellas evadían las políticas de contenido mediante descripciones engañosas y etiquetas de edad falsas.

¿Por qué es importante?

Este caso representa un hito en la lucha contra el abuso de la IA generativa. A diferencia de otros incidentes aislados, aquí se trata de aplicaciones comerciales disponibles públicamente que han sido descargadas millones de veces. La acción legal no solo apunta a los desarrolladores, sino también a las plataformas que las distribuyen, lo que podría establecer un precedente sobre la responsabilidad de Apple y Google en la moderación de contenido generado por IA. Además, pone de relieve la insuficiencia de las políticas actuales de revisión de aplicaciones para detectar herramientas de deepfake maliciosas. Históricamente, las tiendas de aplicaciones han lidiado con aplicaciones que violan sus términos, pero el auge de la IA generativa ha multiplicado la dificultad: las apps 'nudify' pueden pasar las revisiones automáticas al no contener código malicioso explícito, y las revisiones humanas a menudo no detectan el propósito real hasta que se analiza el comportamiento en tiempo de ejecución. Este caso se suma a otros recientes, como la demanda de una estudiante de secundaria en Nueva Jersey contra creadores de deepfakes en 2023, o la multa de la FTC a una empresa de IA por generar imágenes no consensuadas. Sin embargo, la diferencia clave aquí es que se apunta directamente a los guardianes de las plataformas (Apple y Google), lo que podría forzar cambios sistémicos en la revisión de apps con IA.

Consecuencias potenciales

Si Apple y Google no cumplen, podrían enfrentarse a demandas y multas significativas. La fiscalía de San Francisco ya ha advertido que iniciará acciones legales si las apps no son retiradas en un plazo de 30 días. Las multas por cada infracción podrían alcanzar los 10.000 dólares por día según la ley local, y además las víctimas individuales podrían presentar demandas civiles. Más allá del caso concreto, se espera que esta presión acelere la adopción de regulaciones más estrictas, como la Ley de Servicios Digitales de la UE, que ya exige a las plataformas evaluar riesgos sistémicos de sus servicios, o proyectos de ley similares en estados como Nueva York y Texas. En el mercado, esto podría afectar la confianza de los inversores en startups de IA que operan en áreas grises, y aumentar los costos de cumplimiento para las grandes tecnológicas. Para los usuarios, significa una mayor conciencia sobre los riesgos de las apps de IA y la necesidad de herramientas de verificación de contenido, como los sistemas de marcas de agua digitales que están desarrollando empresas como Microsoft y Adobe. Para las empresas tecnológicas, implica una inversión mayor en sistemas de detección automática de abusos y mayor transparencia en sus procesos de revisión. Apple ya ha invertido en equipos de revisión humana y aprendizaje automático, pero este caso demuestra que aún hay lagunas. Google, por su parte, ha actualizado sus políticas de contenido generado por IA en 2025, pero las apps 'nudify' han logrado eludirlas usando técnicas de ofuscación.

Lo que deben saber los lectores

Las aplicaciones 'nudify' no son nuevas, pero la IA ha hecho que sean más accesibles y realistas. Los primeros casos datan de 2019 con apps como DeepNude, que fue retirada tras una polémica viral. Sin embargo, desde entonces han proliferado versiones mejoradas que utilizan modelos de difusión y redes generativas adversarias (GANs) para producir resultados más convincentes. Aunque algunas tiendas prohíben explícitamente el contenido sexual no consentido, estas apps a menudo se disfrazan como herramientas de edición de fotos o entretenimiento, y utilizan palabras clave como 'body editor' o 'photo enhancer' para evadir filtros. Los usuarios deben desconfiar de cualquier app que prometa desnudar imágenes, ya que su uso puede tener consecuencias legales y éticas graves: en varios estados de EE. UU. es un delito menor o grave, y las víctimas pueden demandar por daños. Además, las víctimas de estos deepfakes tienen recursos legales, como solicitar la eliminación bajo leyes de privacidad como la CCPA en California, o presentar demandas por difamación o violación de derechos de imagen. Organizaciones como la Cyber Civil Rights Initiative ofrecen guías para eliminar contenido no consensuado. Para los desarrolladores de apps, este caso es una advertencia: las políticas de las tiendas están endureciéndose, y la falta de transparencia en el uso de IA generativa puede llevar a la expulsión permanente. En resumen, la acción de San Francisco marca un antes y un después en la responsabilidad de las plataformas frente al abuso de la IA, y es probable que veamos más regulaciones y demandas en el futuro cercano.