India cita a Meta por anuncios de CSAM en Instagram

¿Qué ha ocurrido?

El gobierno de India ha citado a Meta, empresa matriz de Instagram, después de que una investigación de la BBC revelara que la plataforma mostraba anuncios pagados que promocionaban contenido de abuso sexual infantil (CSAM, por sus siglas en inglés) a usuarios en el país. El ministro de Tecnología de la Información, Ashwini Vaishnaw, ordenó a los funcionarios del ministerio buscar una explicación formal de la compañía, según informó Business Standard, citado por The Next Web. La investigación de la BBC identificó anuncios que redirigían a grupos de Telegram donde se compartía CSAM, lo que sugiere que los sistemas automatizados de Meta no detectaron estos anuncios ilegales. El caso ha provocado una reacción inmediata del gobierno indio, que exige respuestas sobre cómo se permitió que estos anuncios se publicaran y qué medidas tomará Meta para evitar que se repita.

¿Por qué es importante?

India es el mercado más grande de Meta por número de usuarios, con más de 300 millones de cuentas en Instagram, lo que representa aproximadamente el 30% de la base global de usuarios de la plataforma. Este incidente expone fallos críticos en los sistemas automatizados de moderación de contenido de Meta, que no detectaron anuncios que promovían material ilegal. Ocurre en un momento clave en que India está redactando su nueva Ley de Protección de Datos Personales (DPDP Act, 2023) y reforzando las regulaciones sobre intermediarios digitales a través de enmiendas a la Ley de Tecnología de la Información (IT Act, 2000). La citación gubernamental podría sentar un precedente para una fiscalización más estricta de las grandes tecnológicas en el país, que ha sido uno de los más activos en exigir responsabilidades, incluyendo bloqueos de cuentas y solicitudes de eliminación de contenido. Además, este caso se suma a una serie de controversias globales sobre la seguridad infantil en plataformas sociales, como el escándalo de Facebook Papers en 2021, que reveló que la compañía conocía los riesgos de CSAM en Instagram. La falta de detección de estos anuncios sugiere que Meta no ha implementado adecuadamente tecnologías como PhotoDNA, una herramienta de hash de imágenes desarrollada por Microsoft que permite identificar CSAM conocido, o que sus sistemas de revisión publicitaria son insuficientes para el volumen de anuncios en India.

Consecuencias potenciales

Meta enfrenta riesgos legales y regulatorios significativos. La Ley de Tecnología de la Información de India, en su sección 67B, penaliza la publicación o transmisión de material que represente a niños en actos sexuales, con penas de hasta siete años de prisión y multas. Además, el nuevo Código de Protección de Datos Personales (DPDP Act) impone multas de hasta 250 millones de rupias (aproximadamente 3 millones de dólares) por infracciones relacionadas con el tratamiento de datos de menores. Si se demuestra negligencia por parte de Meta, las sanciones podrían ser aún mayores. A corto plazo, Meta podría verse obligada a invertir más en sistemas de detección de CSAM, como PhotoDNA o herramientas de inteligencia artificial, y a revisar sus políticas publicitarias para incluir revisiones humanas adicionales en mercados de alto riesgo. A largo plazo, este incidente podría acelerar la implementación de normas más estrictas para todas las plataformas sociales en India, afectando a competidores como YouTube (propiedad de Google) y WhatsApp (también de Meta). Por ejemplo, India ya ha propuesto un marco de 'intermediarios responsables' que exige a las plataformas eliminar contenido ilegal en un plazo de 24 horas y cooperar con las autoridades. Este caso podría servir como catalizador para que estas normas se apliquen con mayor rigor, aumentando los costos de cumplimiento para las tecnológicas. Además, la presión pública podría llevar a boicots de usuarios y a una mayor vigilancia por parte de los reguladores de otros países, como la Unión Europea, que ya está implementando la Ley de Servicios Digitales (DSA) con requisitos estrictos de moderación de contenido.

Lo que los lectores deben saber

• La investigación de la BBC identificó anuncios que llevaban a grupos de Telegram donde se compartía CSAM, lo que indica que el problema no se limita a Instagram sino que involucra a otras plataformas. Telegram ha sido criticado anteriormente por su falta de moderación de contenido ilegal.
• Meta ha declarado que tiene políticas estrictas contra el CSAM y que invierte en tecnología para detectarlo, pero este caso muestra deficiencias. La compañía utiliza inteligencia artificial y herramientas como PhotoDNA para identificar contenido conocido, pero los anuncios promocionaban grupos de Telegram que podían contener material no identificado previamente, lo que dificulta su detección automática.
• India ha sido uno de los países más activos en exigir responsabilidades a las grandes tecnológicas. En 2021, el gobierno emitió directrices para que las plataformas eliminaran contenido dañino en 24 horas, y en 2023, la nueva DPDP Act estableció reglas estrictas para el tratamiento de datos de menores. Además, India ha bloqueado cientos de cuentas y sitios web por contenido ilegal, incluyendo CSAM.
• El caso también pone de relieve la dependencia de Meta de los sistemas automatizados de moderación. Según un informe de The Wall Street Journal de 2021, los algoritmos de Instagram solo detectan una pequeña fracción del CSAM, y la compañía depende en gran medida de los informes de los usuarios. Esto sugiere que la supervisión humana sigue siendo crucial, especialmente en mercados con grandes volúmenes de usuarios como India.

“Este incidente subraya la necesidad de supervisión humana en los sistemas de moderación de contenido, especialmente en mercados con grandes volúmenes de usuarios”, señala un análisis de TheVortiq. “La tecnología por sí sola no puede prevenir todos los abusos; se requiere una combinación de herramientas automatizadas, revisión humana y cooperación con las autoridades”.

En conclusión, la citación de Meta por parte del gobierno indio es un aviso claro de que las grandes tecnológicas deben mejorar sus sistemas de moderación de contenido o enfrentar consecuencias regulatorias. Este caso no solo afecta a Meta, sino que establece un precedente para todas las plataformas digitales que operan en India, el mercado de internet más grande del mundo después de China. Los inversores y usuarios deben estar atentos a las próximas medidas del gobierno indio, que podrían incluir multas, auditorías obligatorias o incluso restricciones operativas. La seguridad infantil en línea es un tema que trasciende fronteras, y la respuesta de India podría influir en las políticas de otros países en desarrollo que buscan equilibrar la innovación tecnológica con la protección de los derechos de los niños.