Matemáticos de NYU publican pruebas y denuncian prácticas controvertidas de OpenAI

El profesor de matemáticas de la Universidad de Nueva York, Tristan Buckmaster, presentó el martes tres pruebas que ofrecen un hallazgo preliminar sobre uno de los problemas no resueltos más importantes en la matemática teórica. Estas conclusiones, realizadas en colaboración con el matemático Levent Alpöge de Anthropic y utilizando modelos de inteligencia artificial como Codex y Claude, son significativas por sí mismas, pero también están rodeadas de una controversia inusual relacionada con los intentos de OpenAI para resolver el mismo problema. Buckmaster comentó en su declaración sobre las pruebas que «hay otra parte de esta historia» que, sinceramente, preferiría no tener que abordar.

Mientras Buckmaster y Alpöge finalizaban sus resultados, descubrieron que «información sobre nuestro progreso había sido transmitida a OpenAI». Al contactar con OpenAI, les comunicaron que ya habían logrado una prueba completa del problema central. Sin embargo, al hacer preguntas adicionales sobre cuándo había comenzado OpenAI su investigación y cuánta intervención humana había involucrado, las respuestas se volvieron más evasivas. «Surgió que un equipo completo había estado trabajando en el problema», afirmó Buckmaster, «y que se había utilizado una cantidad increíble de recursos computacionales. Finalmente, se acordó que [el primer aviso] se había enviado en los últimos días, después de que OpenAI conociera nuestra labor». Si esto es correcto, sugeriría que el equipo de OpenAI se convenció de que el enfoque de Buckmaster y Alpöge era el correcto y decidió utilizar su ventaja en recursos informáticos para alcanzar primero una prueba formal.

Sebastian Bubeck, quien lidera la investigación matemática en OpenAI, calificó estas afirmaciones de «falsas e incendiarias». «Para aclarar, participé en la discusión siguiendo las normas académicas, y estoy decepcionado de que haya llegado a esto», escribió en una publicación posterior a la declaración de Buckmaster. «Cualquiera que me conozca sabe que los estándares académicos son de la mayor importancia para mí». Bubeck prometió hacer una declaración más completa próximamente.

La disputa gira en torno al problema de «existencia y suavidad de Navier-Stokes», uno de los siete «Problemas del Milenio», una serie de importantes problemas matemáticos no resueltos, cada uno con una recompensa de un millón de dólares del Instituto Clay de Matemáticas para la primera persona o grupo que presente una solución. Las ecuaciones de Navier-Stokes son ampliamente utilizadas en mecánica de fluidos, pero su comprensión teórica es deficiente. Encontrar una solución representaría un avance significativo en el entendimiento colectivo de la física matemática. Aunque el problema es objeto de atención por parte de muchos matemáticos, la táctica específica empleada por Buckmaster y su colaborador es mucho menos común.

Buckmaster considera sospechoso que OpenAI haya adoptado el mismo enfoque de manera simultánea. «El camino hacia el problema de Clay a través de una fuerza suave, opciones c y d en la declaración del problema de Fefferman, es el camino que Luis y Diego abrieron y el que Levent y yo habíamos elegido atacar silenciosamente», explicó Buckmaster. «Casi nadie más que yo conozca estaba trabajando en ello», continuó. «No es la dirección que uno llega en unos pocos días dando al modelo la declaración del problema». Si bien Alpöge trabaja para Anthropic, no estaba llevando a cabo esta investigación en nombre de la empresa, por lo que la pareja utilizó una mezcla de modelos, confiando principalmente en Codex de OpenAI para su trabajo.

A pesar de ello, la afiliación de Alpöge con un laboratorio rival parece haber sido un punto delicado para OpenAI. Buckmaster alega que Bubeck le pidió que eliminara el crédito de Alpöge como parte de un compromiso propuesto. Cuando Buckmaster presionó para hacer pública la disputa, sostiene que Bubeck respondió: «¿Por qué arruinarías tu carrera?». Al insistir, Buckmaster afirma que Bubeck le dijo: «Si no quieres que sea amable, entonces no tengo por qué serlo». Buckmaster también expresó su preocupación de que, al haber utilizado extensivamente Codex en la elaboración del proyecto, la información de su trabajo podría haber influido en los esfuerzos de OpenAI para resolver el problema. OpenAI se reserva el derecho de entrenar modelos con interacciones de Codex, aunque los usuarios pueden optar por no participar. Si el equipo de OpenAI utilizó un modelo entrenado con las interacciones de Buckmaster en Codex, es plausible que pudiera haber reproducido su trabajo al enfrentarse a un problema similar.

OpenAI no respondió a una solicitud de comentario sobre esta posibilidad. Sin embargo, el asunto probablemente reavivará el debate sobre el papel de la inteligencia artificial en la investigación matemática y los incentivos específicos de OpenAI. Por su parte, Buckmaster parece creer que la mejor respuesta es hacer que la mayor cantidad de información posible sobre la investigación sea pública. «No he visto la prueba de OpenAI», escribió Buckmaster. «No sé qué hizo su modelo, ni cómo. No sé si nuestros datos fueron utilizados. No estoy acusando a nadie de nada. Estoy exponiendo lo que me dijeron, cuándo y lo que se me propuso. Lo afirmo porque la alternativa es permitir que una secuencia de anuncios diga algo que sé que es falso».

Etiquetas: Inteligencia Artificial, NYU, OpenAI, Matemáticos