Vulnerabilidad en la app de ChatGPT expone datos sensibles de usuarios

Recientemente, se ha dado a conocer una vulnerabilidad en la versión para macOS de ChatGPT, desarrollada por OpenAI, que resalta el riesgo que enfrentan las aplicaciones de inteligencia artificial. Este fallo, que ya ha sido corregido, podría haber permitido a un atacante tomar el control de ChatGPT en el ordenador de un usuario, lo que le habría otorgado acceso a todos los registros de chat y otros datos almacenados por la aplicación, así como a sesiones de navegación. La vulnerabilidad fue identificada por investigadores de la Fundación Objective-See, quienes advierten sobre el acceso profundo que tienen estas plataformas de inteligencia artificial y el riesgo que esto conlleva. Patrick Wardle, analista de software en la Fundación Objective-See, comparó a las aplicaciones de IA con un administrador de edificio que tiene acceso a todas las llaves, destacando que si estas aplicaciones son comprometidas, el problema puede ser grave, ya que el código no privilegiado podría tener acceso a información sensible.

OpenAI reconoció públicamente este error de seguridad y su solución en el registro de cambios del sistema el 25 de septiembre. Shane Bauer, portavoz de OpenAI, declaró que la empresa sigue evolucionando sus prácticas de seguridad, aunque también reconoció la necesidad de actuar con mayor rapidez. La aplicación de ChatGPT para macOS cuenta con múltiples componentes que se comunican de manera segura mediante la verificación de firmas digitales, con el objetivo de confirmar que ambos procesos son componentes de OpenAI y no software malicioso externo que intente hacer una solicitud. El diseño del sistema exige comprobaciones de firma en tres niveles para garantizar que no haya software malicioso dirigiendo componentes de OpenAI para hacer solicitudes que aparenten ser de confianza.

No obstante, los investigadores de la Fundación Objective-See encontraron que existía un componente de confianza, un intérprete de scripts, que aceptaba un script no confiable, el cual podía ser manipulado para inyectar dicho script en el proceso principal de ChatGPT. Wardle explicó que, aunque se verifican el proceso padre y abuelo, el script malicioso simplemente generaba el intérprete de scripts tres veces antes de hacer la solicitud, logrando así satisfacer los requisitos de verificación. Este fallo, que él califica como «increíblemente trivial» de explotar, solo requería unas pocas líneas de código para demostrar su efectividad.

Además de acceder a los registros de chat de ChatGPT, esta vulnerabilidad podría haber permitido a los atacantes ejecutar comandos a través de ChatGPT, como acceder a navegadores o aplicaciones sensibles, haciendo que las solicitudes parecieran instrucciones legítimas del software de OpenAI. Wardle presentará un análisis de varios errores en aplicaciones de macOS relacionadas con IA en la conferencia de seguridad Objective by the Sea, que se celebrará en noviembre. Recientemente, también identificó un fallo, ya corregido, en la función de dictado del nuevo asistente de IA Muse de Meta, que podría haber sido explotado por un atacante local para obtener un token de autenticación mal gestionado y acceder a datos de usuario.

Wardle también ha enviado un nuevo informe sobre una vulnerabilidad relacionada con la integración entre ChatGPT y el nuevo asistente Dots de OpenAI, que actualmente está siendo revisado por la empresa. El analista subraya que las empresas de IA están centradas en añadir nuevas funciones, pero advierte que, a medida que se incorporan más características, también se amplía la superficie de ataque. Por lo tanto, considera crucial que estas empresas prioricen la seguridad, algo que a menudo parece ser considerado como un pensamiento secundario.

Etiquetas: Inteligencia Artificial, ChatGPT, Vulnerabilidad