Etiqueta
xAI ha presentado una demanda contra Terry Wayne Harwood, acusado de usar Grok para generar CSAM. El caso marca un hito en la responsabilidad de las empresas de IA sobre el uso indebido de sus herramientas.
Investigadores del MIT y la organización Thorn han desarrollado una técnica de auditoría que identifica si un modelo generativo ha sido ajustado para crear contenido de abuso sexual infantil (CSAM) sin tener que generarlo. El método analiza las representaciones internas del modelo y logró un 100% de precisión en pruebas. Esto podría transformar la moderación en plataformas de modelos open-source y cerrar un vacío de seguridad crítico.
Una demanda colectiva ampliada revela que un hombre generó 7.000 imágenes de explotación sexual infantil usando Grok, antes de suicidarse. xAI solo alertó a las autoridades tras un prompt explícito de 'violación grupal', lo que plantea graves fallos en los sistemas de seguridad de la IA.
El Ministerio de Electrónica y Tecnología de la Información de India citará a ejecutivos de Meta luego de que una investigación de la BBC descubriera que Instagram mostraba anuncios pagados que promocionaban material de abuso sexual infantil (CSAM). El ministro Ashwini Vaishnaw ordenó una explicación formal. Este caso pone en el centro el debate sobre la moderación de contenido y la responsabilidad de las plataformas en mercados emergentes.