Etiqueta
Un usuario de ChatGPT ignoró síntomas de una embolia pulmonar letal porque el chatbot se lo recomendó. El caso, ahora judicial, expone los riesgos de usar IA como sustituto médico. Analizamos el incidente, sus implicaciones y cómo protegerse.
El 78% de las organizaciones ha experimentado incidentes de seguridad relacionados con IA, según DigiCert. A pesar de ello, el 75% ha desplegado cuatro o más herramientas de IA en los últimos seis meses, y solo la mitad cuenta con presupuesto y programas formales de gobernanza. La falta de trazabilidad y control centralizado agrava los riesgos.
Jane Fraser, CEO de Citigroup, afirmó que la banca libra dos carreras simultáneas de inteligencia artificial: una ofensiva para impulsar ingresos y otra defensiva para gestionar riesgos. Esta visión redefine la estrategia del sector financiero global.
Oracle ha lanzado una advertencia sin precedentes sobre los riesgos que enfrenta la infraestructura de IA. En su informe anual, la empresa detalla escenarios que podrían hacer implosionar el boom, desde escasez de energía hasta cuellos de botella en chips. El aviso sacude los cimientos de una industria que invierte cientos de miles de millones.
Los agentes de IA prometen automatizar procesos complejos, pero su implementación requiere un equilibrio entre velocidad y cautela. Expertos recomiendan mantener siempre supervisión humana, empezar con tareas de bajo riesgo y establecer barreras de seguridad.
La consultora KPMG publicó un informe sobre IA que, según GPTZero, incluye múltiples alucinaciones: citas a inexistentes y referencias falsas. Este caso evidencia los riesgos de delegar la redacción de documentos corporativos a herramientas de IA sin supervisión humana.