auditoría de modelos

Auditan modelos generativos sin generar contenido ilegal: un avance clave para proteger a menores

Investigadores del MIT y la organización Thorn han desarrollado una técnica de auditoría que identifica si un modelo generativo ha sido ajustado para crear contenido de abuso sexual infantil (CSAM) sin tener que generarlo. El método analiza las representaciones internas del modelo y logró un 100% de precisión en pruebas. Esto podría transformar la moderación en plataformas de modelos open-source y cerrar un vacío de seguridad crítico.