Epoch AI, conocida por su destacado benchmark matemático para inteligencia artificial, desarrolló un experimento innovador para evaluar la capacidad de sus modelos en la detección de errores en el montaje de muebles de IKEA. Para ello, adquirieron tres muebles y los montaron deliberadamente de forma incorrecta en varias ocasiones. Capturaron imágenes del proceso y las presentaron a diferentes modelos de IA junto con el manual de instrucciones. La tarea asignada a la IA consistía en determinar si el mueble estaba correctamente ensamblado y, si no lo estaba, identificar el error específico. Los resultados han sido notables, con una mejora significativa en la precisión, que pasó del 28% al 80% en solo diez meses.
Este avance es sorprendente, especialmente en el contexto del llamado Furniture Assembly Benchmark (FAB). En noviembre de 2025, el modelo de IA más eficaz en esta prueba era Claude 4.5, que alcanzó un 28% de aciertos. Para septiembre de 2026, el modelo GPT-6 Astra logró un 80% de precisión, además de reducir el tiempo medio necesario para analizar cada foto a solo tres minutos, lo que representa entre dos y diez veces menos tiempo que los modelos que anteriormente se consideraban los mejores.
El proceso de evaluación no es tan simple como «mirar» una imagen. Los modelos reciben una fotografía del mueble parcialmente montado, el manual oficial de IKEA, una herramienta para ampliar áreas específicas de la imagen y un intérprete de Python. Con esta información, deben correlacionar los diagramas del manual con las piezas reales que se encuentran en las fotografías tomadas desde ángulos determinados. El objetivo es reconstruir los pasos que siguió la persona durante el montaje y detectar errores, como piezas colocadas de forma incorrecta.
Epoch AI continuó con los montajes incluso después de introducir errores, complicando la tarea para la IA al no permitir que el fallo fuera el último paso visible. Aunque IKEA es el contexto del experimento, lo que verdaderamente busca Epoch AI es medir la capacidad de razonamiento abstracto de los modelos de IA, es decir, su habilidad para conectar instrucciones teóricas (como las de los manuales de IKEA) con objetos del mundo real. Esta competencia es crucial para que en el futuro, una IA pueda asistir en la reparación de electrodomésticos o vehículos utilizando documentación técnica.
Evaluar modelos en matemáticas o programación es relativamente sencillo, pero la evaluación de la visión y el razonamiento espacial en su aplicación práctica resulta mucho más compleja. No obstante, aunque este benchmark analiza la capacidad de una IA para observar y verificar el trabajo realizado por una persona, no mide su habilidad para planificar y ejecutar todo el proceso de montaje desde cero. Reconocer que una pieza está mal colocada cuando se dispone del manual y de una fotografía es una cosa, pero manipular físicamente las piezas y resolver imprevistos es un desafío completamente diferente.
Asimismo, Epoch AI observó distintos sesgos en los modelos evaluados. Los modelos Gemini y Qwen tendían a asumir que siempre había errores, identificando fallos inexistentes. Por otro lado, versiones anteriores de OpenAI y Anthropic mostraban el problema opuesto, validando montajes que contenían errores. Este proceso demostró que es tan esencial buscar errores como saber cuándo dejar de hacerlo.
El experimento también puso de manifiesto una curiosidad ya conocida: la mejora en la forma de medir cómo los modelos de IA resuelven problemas con soluciones verificables. Sin embargo, la dificultad radica en evaluar su desempeño en situaciones más ambiguas. Este fenómeno se relaciona con la paradoja de Moravec, que señala que la inteligencia artificial puede facilitar lo complicado, mientras que lo sencillo puede resultar más desafiante para la tecnología.
Etiquetas: Inteligencia Artificial, IA, IKEA
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión