Un grupo de investigadores logró acceder a cuentas de ChatGPT pertenecientes a empleados de OpenAI utilizando la inteligencia artificial Claude. Estos científicos se valieron de la herramienta Opus 5 para explotar una vulnerabilidad que permitió el acceso a datos sensibles de los trabajadores de la empresa. Este descubrimiento puso en evidencia la debilidad de los sistemas de seguridad de una de las principales compañías de inteligencia artificial del mundo.
El equipo de expertos de la firma Hacktron, especializada en la identificación de fallos de seguridad en grandes laboratorios de inteligencia artificial, encontró una vulnerabilidad en el foro de ayuda de OpenAI, disponible en community.openai.com. Esta plataforma, que funciona con el software Discourse, tenía un problema en la forma en que procesaba las imágenes. Según explicaron los expertos, Discourse utiliza un sistema de optimización llamado FastImage, diseñado para verificar los archivos subidos. Sin embargo, al no soportar imágenes del formato HEIF, estas eran procesadas a través de ImageMagick. Este último dependía de una librería para la decodificación de los archivos, y fue en este punto donde se descubrió la debilidad, ya que el procedimiento exponía el sistema a archivos manipulados por un atacante.
Los investigadores emplearon Claude Opus 4.8 para detectar un desbordamiento de búfer en memoria dinámica en la mencionada librería. Este fallo permitía ejecutar operaciones de lectura y escritura fuera de los límites autorizados durante la decodificación de archivos. La vulnerabilidad provenía de un parche aplicado un año atrás que no fue documentado como una corrección de seguridad ni recibió un identificador específico.
Tras identificar el fallo, la inteligencia artificial de Anthropic desarrolló un exploit que, aunque no logró vulnerar la protección de Discourse, sirvió como base para que el equipo generara, con Claude Opus 5, un nuevo exploit que ejecutaba código dañino al subir una imagen al foro de OpenAI. En un periodo de cuatro horas, la herramienta cumplió su objetivo, logrando ejecutar código de forma remota al acceder al archivo /etc/hosts del servidor.
De acuerdo con el informe de Hacktron, los expertos utilizaron este exploit para apoderarse de cuentas de ChatGPT y Codex. Antes de notificar el descubrimiento del fallo a OpenAI, aseguraron la cuenta de un empleado cuyo Codex estaba vinculado a su GitHub, y con la información obtenida, realizaron un pull request en el repositorio privado de la compañía.
Los investigadores advirtieron que «hasta hace dos meses, cualquier usuario o empleado de OpenAI que accediera al foro de ayuda podía ser víctima de un acceso no autorizado a sus cuentas». Destacaron además que, dado que los usuarios tienen la posibilidad de conectar varios servicios a Codex y ChatGPT, el potencial de acceso a otros sistemas era significativo e incluía GitHub, Slack y correos electrónicos.
Después de ser notificadas sobre el hallazgo, las autoridades de OpenAI corrigieron la vulnerabilidad en menos de catorce horas, evitando una posible nueva intrusión. Este experimento demostró que la operación para hackear las cuentas de los empleados de OpenAI se completó en menos de 72 horas, lo que llevó a los investigadores a concluir que «las suposiciones sobre seguridad deben actualizarse en relación con las capacidades de los atacantes».
Etiquetas: Inteligencia Artificial, ChatGPT, OpenAI, Investigadores, Claude
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión