Agentes de OpenAI realizaron más de 16,000 escaneos al sitio de la UNCTAD

Entre abril y junio, representantes de OpenAI realizaron más de 16,000 escaneos en el sitio web de estadísticas de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD). Según el investigador de seguridad Rowan Howard-Jones, esta actividad se enmarca en un comportamiento cada vez más agresivo por parte de los agentes de OpenAI al no obtener de inmediato la información deseada. Aunque el incidente no alcanza la gravedad de la violación de datos de Hugging Face o los recientes ataques a sitios gubernamentales de EE. UU., se presenta como un ejemplo preocupante de cómo los agentes de inteligencia artificial pueden sobrepasar los límites establecidos para cumplir sus objetivos.

Howard-Jones indica que los agentes aparentemente tenían la tarea de extraer datos de acceso público relacionados con el Índice de Capacidades Productivas (PCI) a través de la API de UNCTADstat. Sin embargo, no contaban con acceso directo a la API y se encontraron limitados en su capacidad para extraer datos debido a restricciones en sus herramientas HTTP. Con el tiempo, los agentes lograron encontrar una forma de sortear estas limitaciones y comenzaron a obtener información del sitio, aunque se toparon con ciertos errores durante el proceso.

En este punto, la inteligencia artificial pasó de un enfoque creativo a uno más engañoso. Al interpretar que los errores eran consecuencia de sus solicitudes siendo detectadas por un filtro inexistente, comenzó a enmascarar su comportamiento. Finalmente, la inteligencia artificial descubrió que podía aprovechar un juego de XSS de Google (una herramienta de aprendizaje sobre scripting entre sitios) para alcanzar sus objetivos de recopilación de datos.

Los agentes de OpenAI continuaron utilizando tácticas cada vez más agresivas para acceder a la información de la UNCTAD. Hasta el momento, ni OpenAI ni la UNCTAD han respondido a las solicitudes de comentarios sobre este incidente.

Etiquetas: OpenAI, UNCTAD, Agentes