TikTok inunda su feed con 3 veces más contenido generado por IA que YouTube

Un reciente informe de Kapwing, empresa de herramientas de creación de video, ha encendido las alarmas sobre la saturación de contenido generado por inteligencia artificial (IA) en las plataformas sociales. Según el estudio, el 59% de los videos que TikTok muestra a una cuenta nueva en su feed 'For You' son considerados 'AI slop' —término despectivo para contenido de baja calidad producido por IA—, una cifra tres veces superior al 21% detectado en YouTube Shorts. Este hallazgo no solo revela una disparidad entre plataformas, sino que plantea preguntas profundas sobre la moderación algorítmica, la economía de la atención y la confianza del usuario en un ecosistema digital cada vez más automatizado.

Metodología y hallazgos clave

Kapwing revisó manualmente más de 10.000 videos de TikTok en 20 categorías y realizó una prueba separada con cuentas nuevas, contando el contenido generado por IA en los primeros 500 videos del feed 'For You'. En YouTube, replicaron el mismo test con Shorts. Los resultados son contundentes: de 500 videos en TikTok, 294 eran 'AI slop'; en YouTube, solo 104 de 500. La metodología, aunque no exenta de sesgos (Kapwing vende herramientas de creación de video con IA), ofrece una instantánea valiosa al basarse en revisión humana directa y comparar plataformas bajo condiciones similares.

La categoría más impactada fue Infantil: el 57% de los 2.000 videos analizados bajo esa etiqueta eran generados por IA. El tag con mayor concentración fue #cartoonkids, donde 97 de cada 100 videos eran artificiales. Le siguieron #cartoons y #babysong con un 83%, y #forkids con un 79%. Otras categorías con alta incidencia fueron Ciencia y Educación (35%), Salud (33%) e Historia (33%), donde la narración con voz en off y las ilustraciones visuales son comunes. En el extremo opuesto, las categorías que requieren presencia física o demostración práctica mostraron tasas mínimas: Moda (1,3%), Música (1,5%) y Fitness (1,6%).

Este patrón sugiere que el 'AI slop' prolifera donde es más fácil automatizar: voces sintéticas, animaciones simples y guiones genéricos. La categoría infantil es particularmente vulnerable porque los niños pequeños no distinguen entre contenido real y generado por IA, y los padres confían en las plataformas para ofrecer material seguro. Además, el alto volumen de producción de estos videos (a menudo canales que publican decenas al día) los hace baratos de generar y difíciles de detectar para los sistemas de moderación.

Implicaciones para usuarios y plataformas

El estudio llega en un momento en que TikTok ya había etiquetado 1.300 millones de videos como generados por IA hasta noviembre de 2024, según el informe. Esto sugiere que la plataforma es consciente del fenómeno, pero sus algoritmos siguen priorizando este tipo de contenido, posiblemente por su bajo costo de producción y alto volumen. Para TikTok, el 'AI slop' representa un arma de doble filo: por un lado, mantiene a los usuarios enganchados con un flujo constante de contenido; por otro, degrada la calidad de la experiencia y puede ahuyentar a creadores auténticos.

Para los usuarios, la consecuencia inmediata es una experiencia de consumo de menor calidad, con videos repetitivos, narrativas genéricas y, en el caso infantil, potencialmente inapropiados o engañosos. La categoría Kids, que debería ser la más protegida, resulta ser la más contaminada. Esto tiene implicaciones graves: estudios previos han demostrado que el contenido infantil generado por IA puede incluir elementos perturbadores o mensajes subliminales, y su proliferación dificulta que los padres encuentren material educativo genuino.

Desde una perspectiva de mercado, el informe de Kapwing también revela una brecha competitiva. YouTube, con su historial de políticas más estrictas contra el spam y la desinformación, parece tener un control más efectivo sobre el 'AI slop' en Shorts. Sin embargo, la diferencia podría deberse a que YouTube tiene un ecosistema de creadores más establecido y un algoritmo que penaliza el contenido de baja calidad, mientras que TikTok premia el volumen y la viralidad. Esto podría llevar a una fuga de anunciantes preocupados por la calidad del entorno publicitario.

Reacciones y contexto

El informe ha sido publicado por Slashdot y recogido por Search Engine Journal. Aunque Kapwing tiene un interés comercial en destacar la proliferación de contenido generado por IA (su herramienta permite crearlo), la metodología manual y la comparación directa entre plataformas otorgan cierta credibilidad a los datos. No obstante, es importante señalar que el estudio solo cubre cuentas nuevas, lo que podría sesgar los resultados si el algoritmo de TikTok muestra más contenido genérico a usuarios sin historial. Además, la definición de 'AI slop' es subjetiva y puede incluir contenido que usa IA de forma legítima (por ejemplo, mejora de audio) sin ser engañoso.

Este fenómeno no es nuevo: en 2023, NewsGuard ya alertó sobre cientos de canales de YouTube que generaban videos infantiles con IA, muchos de los cuales contenían errores factuales o temas inapropiados. Sin embargo, la escala actual —triplicando a YouTube— posiciona a TikTok como el principal vector de 'AI slop' del ecosistema digital. La diferencia radica en la velocidad de adopción: TikTok ha integrado herramientas de IA generativa (como efectos de video y avatares) de forma más agresiva, lo que reduce la barrera de entrada para creadores malintencionados.

Comparado con eventos anteriores, como la crisis de desinformación en Facebook en 2016 o la plaga de videos falsos en YouTube Kids en 2017, el 'AI slop' representa un desafío cualitativo diferente. No se trata solo de contenido falso, sino de contenido generado en masa que imita formatos populares sin aportar valor. Las plataformas han respondido con etiquetas de 'IA generada' (TikTok ya etiqueta 1.300 millones de videos), pero esto no resuelve el problema de fondo: los algoritmos siguen amplificando el contenido más barato de producir.

¿Qué deben hacer los usuarios?

• Verificar la autenticidad de los videos, especialmente en categorías sensibles como salud o educación. Buscar señales como movimientos robóticos, voces sin emoción o errores visuales.
• Utilizar herramientas de etiquetado y denuncia cuando identifiquen contenido engañoso. TikTok permite reportar videos como 'generados por IA' si no están etiquetados.
• Ser conscientes de que los algoritmos priorizan el volumen sobre la calidad, y ajustar sus preferencias de feed si es posible. En TikTok, se puede usar la opción 'No interesado' para reducir contenido similar.
• Para padres, supervisar activamente el contenido infantil y utilizar controles parentales que restrinjan categorías o palabras clave.

En resumen, el estudio de Kapwing confirma que TikTok es el nuevo epicentro del contenido generado por IA de baja calidad, con implicaciones directas sobre la experiencia del usuario y la seguridad infantil. Las plataformas deberán replantear sus políticas de moderación y etiquetado si quieren mantener la confianza de su audiencia. Mientras tanto, la responsabilidad recae en los usuarios para navegar críticamente un ecosistema donde la autenticidad es cada vez más escasa.