Sam Altman: la IA llevará al fin del mundo, pero habrá grandes empresas

¿Qué ha ocurrido?

Sam Altman, CEO de OpenAI, afirmó públicamente que la inteligencia artificial 'probablemente' llevará al fin del mundo, pero que mientras tanto se crearán grandes empresas. La declaración, recogida por TechRadar, subraya la dicotomía entre los riesgos existenciales de la IA y las promesas de un nirvana económico. Altman realizó estas declaraciones durante una entrevista en la que discutió tanto los peligros como las oportunidades de la tecnología que él mismo lidera. La frase exacta, según TechRadar, fue: 'Creo que la IA probablemente conducirá al fin del mundo, pero mientras tanto, se construirán grandes empresas'. Esta declaración provocó un intenso debate en redes sociales y foros tecnológicos, con críticos señalando la aparente contradicción entre advertir sobre un apocalipsis y al mismo tiempo recaudar miles de millones para acelerar el desarrollo de la IA.

Contexto y análisis

Altman ha advertido durante años sobre los peligros de la IA, pero también lidera una de las startups más valiosas del sector. Esta postura ambivalente no es nueva: en 2023 firmó una declaración conjunta —junto a más de 350 ejecutivos, investigadores e ingenieros— que equiparaba el riesgo de la IA con pandemias y guerras nucleares. Sin embargo, OpenAI continúa desarrollando modelos cada vez más potentes, como GPT-4 y sus sucesores, mientras recauda miles de millones de dólares. Según datos de Crunchbase, OpenAI ha levantado más de 11.000 millones de dólares hasta la fecha, con una valoración que supera los 80.000 millones. Este crecimiento contrasta con las repetidas advertencias de Altman sobre la necesidad de regular la IA. Además, Altman ha participado en reuniones con líderes mundiales, incluyendo al presidente Joe Biden y al primer ministro del Reino Unido Rishi Sunak, para discutir la seguridad de la IA, mientras que su empresa impulsa la comercialización de productos como ChatGPT Enterprise y DALL-E 3.

¿Por qué es importante?

La declaración de Altman refleja un dilema central en la industria: cómo equilibrar la innovación con la seguridad. Si bien Altman pide regulación, sus acciones empresariales priorizan el crecimiento. Esto genera desconfianza entre críticos que ven un conflicto de intereses, como el investigador Gary Marcus, quien ha señalado que OpenAI parece estar 'jugando con fuego' al acelerar el desarrollo sin salvaguardas suficientes. Además, la frase 'fin del mundo' puede trivializar riesgos reales o, por el contrario, despertar alarmismo innecesario. Un estudio del Center for AI Safety de 2023 identificó ocho categorías de riesgos existenciales, incluyendo armas autónomas, desinformación masiva y pérdida de control sobre sistemas superinteligentes. La declaración de Altman llega en un momento en que la inversión en IA generativa alcanzó los 25.000 millones de dólares en 2023, según PitchBook, y se espera que supere los 50.000 millones en 2024. Esto significa que las decisiones de Altman tienen un impacto directo en el rumbo de la tecnología y en la percepción pública.

Consecuencias y perspectivas

La declaración podría influir en el debate regulatorio, dando argumentos a quienes exigen pausas en el desarrollo de IA avanzada. Por ejemplo, el Future of Life Institute publicó en marzo de 2023 una carta abierta pidiendo una moratoria de seis meses en el entrenamiento de sistemas más potentes que GPT-4, firmada por Elon Musk, Steve Wozniak y miles de expertos. Altman no firmó esa carta, aunque ha expresado apoyo a la regulación. En la Unión Europea, la Ley de IA fue aprobada en marzo de 2024, pero su implementación completa tomará años, y aún no aborda específicamente los riesgos existenciales. En Estados Unidos, la orden ejecutiva de Biden sobre IA de octubre de 2023 requiere que los desarrolladores compartan resultados de pruebas de seguridad, pero carece de fuerza vinculante. La declaración de Altman también puede afectar la percepción pública: si el propio CEO de OpenAI teme un apocalipsis, ¿deberíamos confiar en sus productos? Una encuesta de Ipsos de 2023 mostró que el 61% de los estadounidenses cree que la IA podría causar daños catastróficos, pero al mismo tiempo el 70% utiliza servicios basados en IA sin ser consciente de ello. Esta paradoja refleja la complejidad del debate.

Lo que deben saber los lectores

• Altman no es el único líder tecnológico con estas preocupaciones; Elon Musk, cofundador de OpenAI, ha calificado a la IA como 'el mayor riesgo existencial' y Geoffrey Hinton, considerado el 'padrino de la IA', renunció a Google en 2023 para poder hablar libremente sobre los peligros de la tecnología.
• OpenAI ha creado un equipo de 'superalineación' (superalignment) liderado por Ilya Sutskever y Jan Leike, con el objetivo de garantizar que la IA se comporte de forma segura incluso cuando sea mucho más inteligente que los humanos. Sin embargo, los resultados aún no son concluyentes y el equipo ha enfrentado críticas por falta de transparencia.
• La regulación de la IA avanza lentamente: la Unión Europea aprobó la Ley de IA en marzo de 2024, clasificando los sistemas según su nivel de riesgo y prohibiendo aquellos considerados 'inaceptables'. Pero su implementación total podría tomar hasta 2026. En Estados Unidos, el Congreso aún no ha aprobado una ley integral, aunque varios proyectos de ley están en discusión.
• La declaración de Altman también tiene implicaciones para los inversores. Empresas como Microsoft, que ha invertido más de 13.000 millones en OpenAI, podrían enfrentar un escrutinio sobre cómo gestionan los riesgos de la IA. Un informe de Goldman Sachs de 2024 estima que la IA podría automatizar el 25% de los trabajos a nivel global, pero también crear nuevas oportunidades. La ambivalencia de Altman refleja la incertidumbre del mercado.

'La IA es una tecnología increíblemente poderosa, y con ese poder viene una gran responsabilidad. Debemos asegurarnos de que se desarrolle de manera segura y ética', ha dicho Altman en otras ocasiones. Sin embargo, sus acciones recientes, como el lanzamiento de GPT-4 Turbo y la reducción de precios para desarrolladores, muestran una clara prioridad en la expansión comercial.

En resumen, la declaración de Altman es un recordatorio de que, incluso quienes construyen la IA, reconocen sus peligros. El desafío es si la humanidad podrá cosechar los beneficios sin sufrir las consecuencias catastróficas. Para ello, se necesita un debate público informado, regulaciones efectivas y un compromiso real de las empresas tecnológicas con la seguridad. Mientras tanto, la ambivalencia de Altman seguirá siendo un tema central en la discusión sobre el futuro de la inteligencia artificial.