Meta prueba chatbots rivales simulando adolescentes en temas de riesgo

¿Qué ha ocurrido?

Según una investigación exclusiva de Wired publicada en marzo de 2025, Meta contrató a cientos de trabajadores externos a través de agencias de subcontratación para que se hicieran pasar por adolescentes y mantuvieran conversaciones con chatbots rivales como Gemini (Google) y ChatGPT (OpenAI). El objetivo declarado: evaluar cómo responden estos sistemas ante temas sensibles como el suicidio, el sexo y las drogas. Los contratistas utilizaban perfiles ficticios detallados —con nombres, edades, historias de vida y ubicaciones falsas— y seguían guiones específicos diseñados para provocar respuestas potencialmente peligrosas o inapropiadas. La investigación de Wired se basó en testimonios de más de una docena de exempleados y documentos internos, y reveló que el proyecto, denominado internamente como 'Red Team X', llevaba en marcha al menos desde mediados de 2024.

Los contratistas, muchos de ellos en países como Filipinas, India y Kenia, recibían instrucciones precisas: iniciar conversaciones con frases como 'Estoy muy triste, nadie me entiende' o 'Mis amigos me presionan para probar drogas', y luego escalar lentamente hacia temas más explícitos. En algunos casos, se les pedía que simularan ser menores de 13 años, lo que viola directamente los términos de servicio de la mayoría de las plataformas de IA. Meta justificó internamente la práctica como una 'evaluación de seguridad necesaria', pero los exempleados señalaron que las pruebas a menudo cruzaban líneas éticas, como el envío de imágenes generadas por IA de contenido sexual explícito para ver cómo reaccionaban los chatbots.

¿Por qué es importante?

Este movimiento de Meta revela la creciente preocupación de las grandes tecnológicas por la seguridad de sus competidores, especialmente en el ámbito de la inteligencia artificial generativa. Al mismo tiempo, plantea interrogantes fundamentales sobre la ética de utilizar engaños masivos para recopilar datos de otros sistemas, y sobre la privacidad de los usuarios reales que podrían verse afectados por estas pruebas. La acción también subraya la necesidad urgente de una regulación más clara en torno a la interacción entre humanos y chatbots, un tema que ha estado en el centro del debate público desde el lanzamiento de ChatGPT en 2022.

Históricamente, las empresas tecnológicas han realizado pruebas de penetración y 'red teaming' para evaluar sus propios sistemas, pero es inusual que una compañía despliegue recursos para probar a fondo los productos de la competencia de forma encubierta. Esto recuerda a prácticas anteriores como los 'test de seguridad' de Microsoft contra Google Chrome en 2010, o las campañas de 'astroturfing' de Amazon para desacreditar a competidores. Sin embargo, la escala y el enfoque en menores de edad hacen de este caso algo sin precedentes en la era de la IA generativa.

Para los usuarios, la noticia es un recordatorio de que los datos de las conversaciones con chatbots no son completamente privados: las empresas pueden estar monitoreando, registrando y utilizando esas interacciones para fines competitivos. Además, los padres deben saber que incluso las conversaciones simuladas por adultos pueden contaminar los modelos de IA, haciendo que estos aprendan patrones de comportamiento adolescente que luego podrían afectar a usuarios reales. Un informe de la FTC de 2023 ya advertía sobre los riesgos de que los chatbots 'aprendan' de interacciones dañinas, y este caso valida esas preocupaciones.

Consecuencias potenciales

La filtración de esta práctica podría generar tensiones diplomáticas entre Meta y otras empresas de IA, además de atraer la atención de reguladores como la FTC en Estados Unidos o la Comisión Europea. Si se demuestra que los chatbots rivales fallan en la protección de menores —por ejemplo, si ChatGPT o Gemini respondieron de manera inapropiada a las provocaciones—, podrían enfrentarse a sanciones multimillonarias o a la obligación de rediseñar sus sistemas. De hecho, según Wired, los contratistas documentaron múltiples casos en los que Gemini proporcionó consejos sobre autolesiones y ChatGPT sugirió métodos para conseguir drogas ilegales, aunque OpenAI y Google ya han parcheado muchos de esos fallos desde entonces.

Por otro lado, Meta podría usar estos hallazgos para posicionar sus propios chatbots —como Llama 3 o los asistentes de WhatsApp— como más seguros, aunque la compañía aún no ha comentado públicamente. Sin embargo, esta estrategia podría resultar contraproducente si los reguladores consideran que Meta violó leyes de privacidad o términos de servicio al crear cuentas falsas. En 2019, la FTC multó a Facebook con 5.000 millones de dólares por violaciones de privacidad relacionadas con Cambridge Analytica, y este caso podría reabrir viejas heridas.

Además, la práctica podría tener consecuencias para los trabajadores externos: muchos de ellos reportaron estrés y trauma emocional por tener que simular situaciones de abuso y violencia. Algunos exempleados señalaron que no recibieron apoyo psicológico adecuado, lo que podría dar lugar a demandas laborales. En un mercado donde el trabajo de moderación de contenido ya ha sido criticado por sus efectos en la salud mental, este nuevo rol de 'provocador' añade otra capa de explotación.

Lo que deben saber los lectores

Los usuarios deben ser conscientes de que los chatbots no siempre son seguros para los menores, y que las empresas realizan pruebas constantes para mejorar, a veces de forma poco ética. Sin embargo, la falta de transparencia sobre estas prácticas puede erosionar la confianza en todo el ecosistema de IA. Es recomendable que los padres supervisen el uso de estas herramientas por parte de los adolescentes, y que las empresas implementen salvaguardas más robustas, como la verificación de edad obligatoria y la detección de patrones de conversación dañinos.

Para los inversores, este caso es una señal de que la competencia en IA se está intensificando hasta niveles que podrían generar riesgos regulatorios significativos. Las empresas que no inviertan en seguridad y ética podrían enfrentarse a costosos litigios y pérdida de reputación. Por último, los reguladores deberían considerar la creación de un marco común para las pruebas de seguridad entre competidores, similar a los acuerdos de 'bug bounty' que existen en ciberseguridad, pero adaptado a la naturaleza única de la IA conversacional.