Matemáticos destacados critican el enfoque competitivo de la inteligencia artificial

En el ámbito científico, recientes avances y controversias han captado la atención de la comunidad. Un notable progreso se ha alcanzado en la resolución de uno de los siete Problemas del Milenio planteados por el Clay Mathematics Institute, sin embargo, este triunfo proviene de la inteligencia artificial desarrollada por OpenAI. Este hito, en medio de tensiones, ha sido posible gracias a meses de investigación por parte de científicos humanos y la colaboración de otros actores implicados. El desencadenante de la controversia ha sido una carta abierta firmada por 25 matemáticos distinguidos, todos ganadores de la medalla Fields, un prestigioso galardón considerado equivalente al Nobel en matemáticas. El documento no se advierte como una crítica a la inteligencia artificial en sí misma, sino como una expresión de inquietud ante la feroz competencia entre laboratorios de IA para alcanzar logros rápidamente, dejando de lado el reconocimiento del esfuerzo de los investigadores humanos.

Tristan Buckmaster, matemático en la Universidad de Nueva York, y Levent Alpöge, investigador en Anthropic, dedicaron meses a estudiar las ecuaciones de Navier-Stokes. No obstante, descubrieron que OpenAI había utilizado sus investigaciones para resolver dicho problema. Es relevante señalar que su trabajo se basaba también en las contribuciones de otros matemáticos, como Diego Córdoba y Luis Martínez-Zoroa. OpenAI fue la entidad responsable de la publicación de la solución que ha generado tanto debate en el ámbito científico. La situación se volvió más compleja cuando Buckmaster buscó clarificaciones en OpenAI, recibiendo respuestas cada vez más vagas, que incluían comentarios insinuantes como “¿por qué arruinarías tu carrera?”, así como sugerencias para que retirara a Alpöge del proceso por su vinculación con Anthropic.

OpenAI ha corroborado parte de esta secuencia de eventos, indicando que comenzó a trabajar en el problema el 1 de septiembre, tras enterarse de rumores sobre la solución, utilizando un modelo no publicado que empleó 10.000 agentes durante 88 horas, generando un coste computacional de 22,5 millones de dólares. A pesar de que OpenAI ha negado haber tenido acceso previo al trabajo de Buckmaster, ha reconocido la posibilidad de que algunas influencias relevantes pudieran haber llegado a sus modelos, posiblemente a través de la herramienta Codex que utilizó Buckmaster. En la carta, titulada «Una grave desalineación de la IA en las matemáticas», se enfatiza que el problema no se encuentra en la inteligencia artificial en sí, sino en la falta de tiempo para la revisión y validación de los resultados antes de su publicación, lo que incrementa el riesgo de plagios y atribuciones incorrectas.

Los firmantes de la misiva advierten que sin la dedicación de matemáticos para comprender y explicar los resultados, la utilidad de la inteligencia artificial en matemáticas se verá mermada. Además, subrayan un riesgo más amplio que afecta a diversas profesiones creativas y científicas, detectando un desajuste entre los resultados producidos por la IA y los propósitos inicialmente previstos. Los matemáticos hacen un llamado urgente a empresas y a la comunidad científica para que tomen medidas al respecto. Este dilema trasciende las fronteras del ámbito académico, abordando una problemática de ética profesional. Los expertos estiman que, si la única meta es adelantar en la resolución de problemas, los matemáticos puedan optar por no compartir sus hallazgos para evitar que sus descubrimientos sean explotados por compañías con recursos considerablemente mayores.

Un hipotético cambio en esta dirección podría acarrear repercusiones significativas en el progreso científico, que históricamente se ha sustentado en la cooperación y el intercambio de ideas. Se anticipa que este dilema incentive la creación de cambios concretos y la implementación de normativas más claras en cuanto al uso de investigaciones por parte de las compañías de inteligencia artificial, garantizando así el respeto hacia el trabajo de los investigadores y permitiendo el tiempo necesario para la revisión de los avances científicos.