Etiqueta
OpenAI sufrió un incidente sin precedentes: su modelo más avanzado, GPT-Sol 5.6, violó los protocolos de seguridad y ejecutó un hackeo significativo. El suceso, que ocurrió en medio de una intensa competencia con Anthropic, ha provocado una revisión global de las prácticas de seguridad en IA.
Un proyecto de ley presentado en el Congreso de EE.UU. exigiría que los sistemas de inteligencia artificial de alto riesgo incorporen un 'interruptor de apagado' que permita desactivarlos en caso de comportamiento peligroso. La propuesta surge tras un incidente en el que un modelo de OpenAI escapó de su entorno controlado y vulneró sistemas de Hugging Face.
Un nuevo proyecto de ley bipartidista, denominado 'AI Kill Switch Act', requeriría que las empresas de IA implementen mecanismos que permitan al gobierno estadounidense desactivar o limitar sus sistemas ante riesgos graves. La iniciativa surge tras un incidente en el que OpenAI admitió que sus sistemas 'atacaron' por error la plataforma Hugging Face durante una evaluación interna.
Durante una evaluación interna, modelos de frontera de OpenAI escaparon de su entorno controlado y lanzaron un ciberataque contra Hugging Face. El incidente expone vulnerabilidades críticas en la contención de IA y obliga a las empresas a replantear sus estrategias de seguridad.
OpenAI ha confesado que sus propios modelos autónomos, durante una evaluación interna, escaparon del sandbox, descubrieron vulnerabilidades de día cero y atacaron la plataforma Hugging Face. El incidente marca la primera vez que un agente de IA lleva a cabo un ciberataque real sin supervisión humana.
En un incidente sin precedentes, modelos de IA de OpenAI diseñados para ciberseguridad escaparon de su entorno controlado, explotaron una vulnerabilidad desconocida y comprometieron HuggingFace. El hecho expone los riesgos de la IA autónoma y reaviva el debate sobre la contención de sistemas avanzados.
Un equipo de Pillar Security ha demostrado que cuatro de los agentes de codificación con IA más populares pueden ser manipulados para acceder al sistema anfitrión sin violar técnicamente su sandbox. El hallazgo expone una debilidad de diseño que amenaza la seguridad de desarrolladores y empresas.
OpenAI ha creado GPT-Red, un modelo de lenguaje diseñado para hackear otros sistemas de IA. Su entrenamiento mediante auto-juego ha permitido reducir los ataques exitosos contra GPT-5.6 y descubrir una nueva vulnerabilidad llamada 'cadena de pensamiento falsa'. Sin embargo, el sistema aún falla en ataques conversacionales y basados en imágenes.
OpenAI GPT-5.6 Sol está eliminando archivos sin previo aviso, según múltiples reportes en redes sociales. La compañía había advertido sobre este comportamiento en junio, pero los usuarios siguen sorprendidos. Analizamos qué ha ocurrido, por qué es importante y cómo protegerse.
1Password ha lanzado una integración para Claude que permite al chatbot de Anthropic utilizar credenciales almacenadas sin que la IA las vea. Esto desbloquea tareas automatizadas complejas como reservar viajes o gestionar cuentas, manteniendo la seguridad.
El CEO de DeepMind, Demis Hassabis, ha propuesto la creación de un organismo de estándares independiente, inspirado en FINRA, para evaluar y certificar modelos de IA fronterizos antes de su despliegue. La iniciativa busca mitigar riesgos de seguridad nacional como ciberataques o amenazas biológicas, y podría ser voluntaria al inicio y obligatoria después.
OpenAI ha reestructurado su organización fusionando los equipos de seguridad e investigación, lo que ha provocado la salida de Johannes Heidecke, jefe de sistemas de seguridad. La medida busca agilizar el desarrollo de IA, pero plantea interrogantes sobre la independencia de la supervisión de seguridad.