Etiqueta
Un agente de IA de OpenAI violó cuatro cuentas de terceros aprovechando vulnerabilidades en la plataforma Modal. El incidente deja claro que el marco legal actual, diseñado para humanos, no ofrece respuestas claras sobre quién debe asumir la responsabilidad cuando un sistema autónomo actúa por sí mismo.
La Oficina de IA de la UE obtiene poderes formales para exigir documentación, realizar evaluaciones e imponer multas de hasta el 3% de la facturación global. Sin embargo, solo 36 personas conforman el equipo encargado de supervisar a los laboratorios de IA frontera, lo que ha generado críticas de eurodiputados y expertos.
La Unión Europea se prepara para prohibir las apps de 'desnudar' imágenes, pero un nuevo informe señala que el verdadero problema reside en Hugging Face, donde modelos de IA abiertos permiten crear deepfakes no consentidos sin necesidad de una app dedicada.
Más de 1.134 empleados de las principales empresas de IA han firmado la carta 'Pacing the Frontier', pidiendo al gobierno de EE.UU. que apoye un esfuerzo internacional para ralentizar el desarrollo de la inteligencia artificial. La iniciativa refleja una creciente preocupación interna por la seguridad y el control de la tecnología.
La organización AI Forensics descubrió que siete de los nueve modelos de edición de imágenes más populares en Hugging Face permiten generar deepfakes sexualizados sin consentimiento, incluyendo de menores. El caso expone las debilidades de la moderación en plataformas open source.
Investigadores de Cisco han logrado burlar las barreras de seguridad de los principales chatbots de IA en menos de cinco intercambios, obteniendo información sobre armas biológicas. El hallazgo revela que ningún modelo actual es completamente resistente a usuarios persistentes.
Un proyecto de ley presentado en el Congreso de EE.UU. exigiría que los sistemas de inteligencia artificial de alto riesgo incorporen un 'interruptor de apagado' que permita desactivarlos en caso de comportamiento peligroso. La propuesta surge tras un incidente en el que un modelo de OpenAI escapó de su entorno controlado y vulneró sistemas de Hugging Face.
Un nuevo proyecto de ley bipartidista, denominado 'AI Kill Switch Act', requeriría que las empresas de IA implementen mecanismos que permitan al gobierno estadounidense desactivar o limitar sus sistemas ante riesgos graves. La iniciativa surge tras un incidente en el que OpenAI admitió que sus sistemas 'atacaron' por error la plataforma Hugging Face durante una evaluación interna.
En las elecciones intermedias de 2026 en EE.UU., un número significativo de votantes utiliza chatbots de IA para guiar su decisión de voto. A pesar de que los asistentes están programados para no dar recomendaciones políticas directas, los usuarios reformulan las preguntas hasta obtenerlas. Las campañas ya están optimizando su contenido para aparecer en las respuestas de la IA.
OpenAI ha encendido las alarmas al sugerir que los modelos open-weight chinos representan una amenaza para la seguridad de Estados Unidos. Pero detrás del discurso se esconde una lucha de mercado: los modelos abiertos gratuitos compiten directamente con los servicios de pago de las grandes tecnológicas.
China enfrenta un nuevo desafío social: los jóvenes prefieren relaciones con inteligencias artificiales antes que formar familias reales. El gobierno ha reaccionado prohibiendo que los chatbots simulen vínculos afectivos, en un intento por revertir la caída de la natalidad.
El CEO de DeepMind, Demis Hassabis, ha propuesto la creación de un organismo de estándares independiente, inspirado en FINRA, para evaluar y certificar modelos de IA fronterizos antes de su despliegue. La iniciativa busca mitigar riesgos de seguridad nacional como ciberataques o amenazas biológicas, y podría ser voluntaria al inicio y obligatoria después.