Meta usa tus fotos de Instagram para entrenar IA sin tu permiso

Meta, la empresa matriz de Instagram y Facebook, ha activado por defecto el uso de imágenes de cuentas públicas de Instagram para entrenar su modelo de inteligencia artificial generativa, Muse Image AI. La medida, reportada por Engadget, permite a la compañía utilizar el contenido visual de millones de usuarios sin su consentimiento explícito, a menos que estos opten por bloquearlo manualmente. Este movimiento se suma a una tendencia creciente entre las grandes tecnológicas de aprovechar datos de usuarios para entrenar modelos de IA, pero con un enfoque particularmente agresivo: la exclusión voluntaria (opt-out) en lugar de la inclusión voluntaria (opt-in).

¿Qué ha ocurrido?

Según la información publicada por Engadget, Meta ha actualizado sus términos de servicio para incluir el uso de fotos de Instagram en el entrenamiento de sus modelos de IA. La opción está activada por defecto para todas las cuentas públicas, lo que significa que los usuarios deben buscar en la configuración de privacidad y desactivarla manualmente si no desean que sus imágenes sean utilizadas. Engadget señala que la configuración se encuentra en 'Configuración' > 'Privacidad' > 'Uso de datos para IA', aunque la ubicación exacta puede variar según la versión de la aplicación. Meta ha confirmado que las cuentas privadas no se ven afectadas, pero cualquier cuenta pública —incluyendo aquellas de empresas, influencers y usuarios comunes— está automáticamente incluida.

"Meta has automatically opted all public accounts into its Muse Image AI" — Engadget

Muse Image AI es un modelo generativo de imágenes que Meta anunció en 2023, diseñado para crear y editar imágenes basándose en descripciones textuales. A diferencia de otros modelos como DALL-E de OpenAI o Midjourney, Muse se entrena con datos propietarios de Meta, incluyendo imágenes de Instagram y Facebook. La compañía afirma que el uso de estas imágenes mejora la calidad y relevancia del modelo, pero no ha especificado qué proporción del conjunto de entrenamiento proviene de Instagram.

¿Por qué es importante?

Este movimiento de Meta reaviva el debate sobre la recolección de datos personales para inteligencia artificial. A diferencia de otras empresas que han solicitado consentimiento explícito, Meta opta por un modelo de exclusión voluntaria (opt-out), lo que puede resultar en que la mayoría de los usuarios no sean conscientes de que sus fotos están siendo utilizadas. Según un estudio de Pew Research Center de 2023, el 62% de los usuarios de redes sociales no revisan los cambios en las políticas de privacidad, lo que sugiere que una gran mayoría podría no saber que sus imágenes están siendo usadas. Esto plantea serias preguntas sobre la transparencia y el control que los usuarios tienen sobre su propio contenido.

Además, el enfoque de Meta contrasta con el de otras empresas tecnológicas. Por ejemplo, OpenAI requiere que los usuarios de ChatGPT Plus acepten explícitamente el uso de sus datos para entrenamiento, y Google permite a los usuarios de Workspace desactivar el uso de datos para mejorar sus modelos de IA. En cambio, Meta ha optado por una estrategia más agresiva, similar a la que utilizó con el reconocimiento facial en el pasado, que finalmente resultó en multas y acuerdos legales.

Consecuencias potenciales

• Privacidad: Los usuarios pueden sentir que su contenido es explotado sin su permiso, erosionando la confianza en la plataforma. Esto es especialmente preocupante para influencers y profesionales que dependen de Instagram para su negocio, ya que sus imágenes son su principal activo.
• Regulación: Podría atraer la atención de reguladores de protección de datos, especialmente en la Unión Europea bajo el GDPR. Recordemos que en 2023, la UE multó a Meta con 390 millones de euros por violaciones de privacidad relacionadas con publicidad dirigida. El uso de imágenes para IA podría considerarse un nuevo procesamiento de datos que requiere consentimiento explícito según el GDPR.
• Competencia: Otras plataformas como X (antes Twitter) o TikTok podrían seguir el ejemplo, normalizando el uso de datos de usuarios para entrenar IA sin consentimiento. De hecho, X ya anunció en 2023 que usaría publicaciones públicas para entrenar su modelo Grok.
• Calidad del modelo: El uso de imágenes reales de Instagram podría mejorar la capacidad de Muse Image AI para generar imágenes realistas, pero a costa de la privacidad. Meta afirma que las imágenes se anonimizan y se agregan, pero los críticos señalan que es posible reconstruir información personal a partir de metadatos.
• Impacto en creadores: Los artistas y fotógrafos que publican su trabajo en Instagram podrían ver sus estilos replicados por la IA sin compensación, lo que reaviva el debate sobre los derechos de autor en la era de la IA generativa.

¿Qué deben saber los lectores?

Si tienes una cuenta pública en Instagram y no deseas que tus fotos sean utilizadas para entrenar IA, debes acceder a la configuración de privacidad y desactivar la opción correspondiente. Los pasos exactos varían según la versión de la aplicación, pero generalmente se encuentra en 'Configuración' > 'Privacidad' > 'Uso de datos para IA'. Sin embargo, ten en cuenta que incluso si desactivas esta opción, Meta podría haber utilizado ya tus fotos anteriores al cambio. Además, la opción puede estar oculta o ser difícil de encontrar; Engadget sugiere que algunos usuarios han reportado que la configuración no aparece en todas las regiones.

Es recomendable revisar periódicamente los ajustes de privacidad, ya que las plataformas pueden cambiar sus políticas sin previo aviso. También considera que las cuentas privadas no están incluidas automáticamente, pero si alguna vez cambias tu cuenta a pública, tus imágenes podrían ser utilizadas retroactivamente. Para mayor protección, algunos expertos recomiendan no publicar contenido sensible en cuentas públicas y revisar los términos de servicio de las plataformas que utilizas.

Contexto histórico

No es la primera vez que Meta enfrenta críticas por el uso de datos de usuarios. En 2018, el escándalo de Cambridge Analytica reveló cómo los datos de Facebook se utilizaron sin consentimiento para fines políticos, lo que llevó a una multa de 5 mil millones de dólares de la FTC y a cambios en las políticas de privacidad. Ahora, el uso de imágenes para IA plantea riesgos similares, pero con implicaciones tecnológicas más amplias. A diferencia de Cambridge Analytica, donde los datos se usaron para segmentación política, aquí los datos se usan para entrenar un modelo que podría tener aplicaciones comerciales, como la generación de contenido publicitario o la edición de fotos.

Otro antecedente relevante es el programa de reconocimiento facial de Facebook, que en 2021 fue descontinuado tras años de críticas y demandas. En ese caso, Meta también utilizaba un modelo de opt-out, y finalmente acordó pagar 650 millones de dólares para resolver una demanda colectiva en Illinois por violaciones de la ley de privacidad biométrica. Este precedente sugiere que el nuevo uso de imágenes para IA podría enfrentar desafíos legales similares.

En el ámbito global, la Unión Europea está avanzando en la regulación de la IA con la Ley de IA, que clasifica los sistemas de IA según su riesgo. El uso de datos personales para entrenar modelos generativos podría considerarse de alto riesgo, lo que obligaría a Meta a realizar evaluaciones de impacto y a obtener consentimiento explícito. Mientras tanto, en Estados Unidos, la FTC ha mostrado interés en regular el uso de datos para IA, y en 2023 emitió una advertencia a las empresas sobre el uso de datos de usuarios para entrenar modelos sin transparencia.

En conclusión, la decisión de Meta de activar por defecto el uso de imágenes de Instagram para entrenar Muse Image AI representa un paso más en la creciente mercantilización de los datos personales. Aunque la compañía argumenta que mejora sus servicios, el enfoque de opt-out y la falta de transparencia podrían tener consecuencias legales y de confianza a largo plazo. Los usuarios deben estar atentos y tomar medidas para proteger su privacidad, mientras que los reguladores probablemente intensificarán su escrutinio sobre estas prácticas.