Etiqueta
La Unión Europea se prepara para prohibir las apps de 'desnudar' imágenes, pero un nuevo informe señala que el verdadero problema reside en Hugging Face, donde modelos de IA abiertos permiten crear deepfakes no consentidos sin necesidad de una app dedicada.
La organización AI Forensics descubrió que siete de los nueve modelos de edición de imágenes más populares en Hugging Face permiten generar deepfakes sexualizados sin consentimiento, incluyendo de menores. El caso expone las debilidades de la moderación en plataformas open source.
La Agencia Nacional contra el Crimen (NCA) del Reino Unido alerta que compartir fotos de niños en redes sociales o plataformas públicas puede exponerlas a ser usadas por IA para generar material de abuso sexual infantil. Este fenómeno, conocido como 'sharenting', se ha convertido en una amenaza creciente que requiere que los padres reconsideren sus hábitos digitales.
Las estafas potenciadas por inteligencia artificial están alcanzando un nivel de sofisticación sin precedentes. Expertos en seguridad advierten que la simple conciencia ya no es suficiente, pues las víctimas pierden dinero en cuestión de minutos ante identidades falsas convincentes.
La inteligencia artificial generativa (GenAI) ha pasado de los laboratorios a ser parte de la vida cotidiana, impulsando chatbots, creadores de imágenes y más. Este artículo analiza qué es, por qué es importante y qué implicaciones tiene para empresas y usuarios.