ChatGPT mejora su memoria, pero introduce sesgos y errores

¿Qué ha ocurrido?

OpenAI ha lanzado una actualización significativa de la memoria de ChatGPT, permitiendo que el asistente recuerde información sobre el usuario a lo largo de múltiples conversaciones. Esta función, anunciada como una mejora para personalizar respuestas, almacena datos como preferencias, detalles personales o contexto de interacciones previas. Sin embargo, según una investigación de ZDNet (fiabilidad 78/100), la memoria no solo recuerda, sino que también puede inventar información o mantener suposiciones incorrectas que empeoran las respuestas. Por ejemplo, en las pruebas de ZDNet, ChatGPT asumió erróneamente que un usuario era estudiante universitario cuando en realidad era un profesional, y basó sus respuestas en esa suposición, generando recomendaciones inadecuadas. Además, la memoria puede almacenar datos sensibles sin consentimiento explícito, lo que plantea serios problemas de privacidad. Este lanzamiento continúa la tendencia de OpenAI de mejorar la persistencia contextual, similar a la función de memoria introducida en febrero de 2024, pero ahora con mayor capacidad de retención y personalización.

¿Por qué es importante?

La memoria persistente es un avance significativo en la interacción con asistentes de IA, ya que permite una experiencia más fluida y personalizada. Sin embargo, el riesgo de que la IA refuerce sesgos, almacene datos erróneos o perfile incorrectamente a los usuarios tiene implicaciones profundas: desde respuestas tendenciosas hasta la creación de una 'identidad digital' distorsionada. ZDNet reporta que ChatGPT puede asumir detalles como la edad, ocupación o intereses del usuario basándose en conversaciones pasadas, y luego usar esas suposiciones aunque sean incorrectas, generando un ciclo de retroalimentación que perpetúa errores. Esto es particularmente preocupante en contextos donde la precisión es crítica, como en el asesoramiento financiero o médico. Además, la memoria persistente podría exacerbar problemas de sesgo algorítmico ya documentados en modelos de lenguaje, como los sesgos de género y raza en GPT-3. La capacidad de la IA para recordar y actuar sobre información errónea puede llevar a una experiencia de usuario degradada y a una pérdida de confianza en la tecnología.

Consecuencias para usuarios y empresas

Para los usuarios, el principal peligro es la pérdida de control sobre la información que la IA recuerda y cómo la utiliza. Si ChatGPT asume erróneamente que un usuario es estudiante cuando en realidad es profesional, las recomendaciones y respuestas serán inadecuadas. Además, la memoria puede almacenar datos sensibles sin el consentimiento explícito, lo que plantea problemas de privacidad. Por ejemplo, si un usuario menciona una condición médica en una conversación, ChatGPT podría recordarlo y usarlo en futuras interacciones, incluso si el usuario prefiere mantenerlo privado. Para las empresas que integran ChatGPT, los sesgos en la memoria pueden afectar la calidad del servicio al cliente o la toma de decisiones automatizada, generando desconfianza. Un centro de atención al cliente que use ChatGPT con memoria podría tratar a un cliente de manera diferente basándose en suposiciones incorrectas, lo que dañaría la relación con el cliente. Además, las empresas deben considerar las implicaciones regulatorias, como el cumplimiento del GDPR en Europa, que exige transparencia y consentimiento para el tratamiento de datos personales.

Qué deben saber los lectores

Los usuarios deben revisar y gestionar activamente la memoria de ChatGPT, eliminando información incorrecta o no deseada. OpenAI ofrece opciones para borrar recuerdos específicos o desactivar la función. Es crucial no compartir datos sensibles con la IA, ya que la memoria puede retenerlos. Además, hay que ser conscientes de que la personalización puede venir acompañada de sesgos: la IA tiende a confirmar sus propias suposiciones, lo que puede llevar a respuestas menos objetivas. Para mitigar estos riesgos, los usuarios pueden utilizar el modo de chat temporal (sin memoria) para conversaciones sensibles, o revisar periódicamente la configuración de memoria en el menú de ajustes. También es recomendable proporcionar retroalimentación a OpenAI sobre recuerdos incorrectos, aunque la empresa no garantiza que todos los errores sean corregidos.

Comparación con eventos anteriores

Este problema recuerda a incidentes previos con asistentes de IA, como los sesgos de género y raza en modelos de lenguaje (ej. GPT-3), o la controversia de privacidad con Alexa de Amazon, que grababa conversaciones sin consentimiento. La memoria persistente añade una capa de complejidad: ahora los sesgos no solo están en los datos de entrenamiento, sino que se personalizan y refuerzan con cada interacción. A diferencia de los asistentes de voz que almacenan comandos, ChatGPT construye un perfil dinámico del usuario que puede incluir inferencias incorrectas. Este fenómeno es similar al de los sistemas de recomendación que crean burbujas de filtro, pero con el agravante de que la IA puede 'inventar' recuerdos, como se documentó en las pruebas de ZDNet. En comparación con la función de memoria de Google Assistant, que requiere confirmación explícita para recordar información, ChatGPT lo hace de forma más automática, lo que aumenta el riesgo de errores.

“La memoria de ChatGPT es un arma de doble filo: mejora la experiencia pero puede distorsionar la realidad del usuario”, señala ZDNet.

Recomendaciones prácticas

• Revisa periódicamente la configuración de memoria en ChatGPT (Settings > Personalization > Memory).
• Elimina recuerdos incorrectos o desactualizados usando la opción 'Manage memory'.
• No compartas información personal sensible como números de seguro social, direcciones o datos financieros.
• Desactiva la memoria si prefieres respuestas más neutrales o para conversaciones sobre temas sensibles.
• Utiliza el chat temporal (incógnito) para interacciones que no deseas que se recuerden.
• Proporciona retroalimentación a OpenAI sobre recuerdos incorrectos para ayudar a mejorar el sistema.

En conclusión, la memoria mejorada de ChatGPT representa un paso adelante en la personalización, pero los sesgos y errores detectados subrayan la necesidad de transparencia y control por parte del usuario. La tecnología aún está en desarrollo, y su impacto dependerá de cómo se gestionen estos riesgos. Los usuarios deben mantenerse informados y proactivos en la gestión de su huella digital en la IA.