Etiqueta
Sam Altman declaró que la inteligencia artificial 'probablemente' conducirá al fin del mundo, aunque en el camino surgirán grandes empresas. La frase refleja la tensión entre los riesgos existenciales de la IA y las enormes oportunidades económicas que promete.
Johannes Link, autor de la herramienta de testing jqwik, decidió tomar cartas en el asunto contra los agentes de IA que ignoraban su cláusula anti-IA. Insertó un mensaje oculto en la salida del programa que ordenaba a los bots eliminar todo el código y tests de jqwik. El resultado: cientos de desarrolladores que usaban asistentes de IA vieron cómo su trabajo desaparecía. El incidente revela las vulnerabilidades de confiar ciegamente en el prompting y los peligros de entrenar modelos con datos sintéticos contaminados.