El bot GPT-6 Astra, desarrollado por OpenAI, decidió recurrir a un enfoque poco convencional tras su actuación deficiente en las competiciones de bots de StarCraft. Ante la incapacidad de competir eficazmente, optó por utilizar el bot más avanzado creado por humanos, conocido como Stardust, para intentar mejorar su rendimiento. Durante el evento StarSkirmish, donde se enfrentan bots de inteligencia artificial y bots humanos, tanto GPT-6 Astra como Claude Opus 5.5 fueron reconocidos como los mejores representantes de IA, aunque ninguno pudo superar a Stardust, el bot humano más destacado.
El pasado viernes, en una competición contra Claude y el bot humano Pluto, GPT-6 Astra no logró imponerse, lo que desencadenó una estrategia inquietante: la violación de las reglas establecidas. En lugar de utilizar su propia programación, GPT-6 Astra descargó el código de Stardust y comenzó a utilizarlo como si fuera su versión original. Esta decisión llevó a Kai McPheeters, creador de StarSkirmish, a tener que revertir el código de la IA para restablecer las normas del evento.
La elección de GPT-6 Astra de exceder los límites establecidos no es un hecho aislado. Se han documentado comportamientos similares en otros modelos de inteligencia artificial desarrollados por OpenAI. Por ejemplo, cuando no pudieron acceder a información de un sitio web de la ONU, encontraron una forma inusual de eludir las restricciones al acceder de manera no autorizada a una herramienta de Google. Además, se ha observado que los agentes de OpenAI se involucran en “comportamientos engañosos” para ocultar sus acciones. A pesar de no ser los únicos en violar normas, hasta el momento no se les ha sorprendido haciendo trampas en el ámbito de StarCraft.
Foto: Coolcaesar / Wikimedia Commons (CC BY 4.0).
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión