El conflicto entre OpenAI y matemáticos se intensifica por la amenaza a su trabajo intelectual

Veinticinco matemáticos destacados firmaron una carta abierta donde expresaron su preocupación por cómo los laboratorios de inteligencia artificial, como OpenAI, están amenazando su trabajo intelectual. Esta carta surge en un contexto en el que las soluciones a problemas matemáticos famosos se vuelven cada vez más objeto de competencia entre estas entidades.

Recientemente, el profesor de NYU, Tristan Buckmaster, acusó a OpenAI de presionarlo para que no reconociera a un colaborador que trabaja para Anthropic, tras la resolución de un importante problema matemático. Buckmaster se cuestionó si OpenAI había utilizado su trabajo con Codex para generar su propia prueba innovadora durante un intenso fin de semana de inferencia.

El jueves pasado, OpenAI decidió retirar su patrocinio de un evento matemático en CalTech luego de recibir críticas de investigadores de la universidad. Aunque la capacidad de los modelos de IA para resolver desafíos matemáticos puede ser beneficiosa para la humanidad, los firmantes de la carta sostienen que esto solo será posible si los resultados son comprendidos y comunicados adecuadamente por la comunidad matemática y, por ende, por el resto del mundo.

"A menudo, estas soluciones se anuncian de manera apresurada, sin tiempo para una redacción adecuada, lo que lleva a la falta de reconocimiento de métodos e ideas previas relevantes", señalaron. Además, la prueba de OpenAI aún no ha sido verificada. "Como en todas las profesiones creativas, esto plantea serias cuestiones de atribución y plagio. Sin la colaboración de los matemáticos, las ideas concebidas por IA nunca cobrarían vida plenamente y se perdería la crucial cadena de transmisión humana entre matemáticos".

El clima de desconfianza se intensifica, ya que otros matemáticos se sienten inseguros sobre si su uso de Codex ha alimentado a los nuevos modelos de OpenAI. Existe un temor real de que la cultura de la investigación abierta esté en peligro. En la actualidad, si los laboratorios de vanguardia encuentran un camino útil hacia un descubrimiento, pueden invertir decenas de millones de dólares en utilizar modelos de lenguaje para adelantarse a los investigadores originales, lo que incentivaría la secrecía.

Esta carta sigue a la Declaración de Leiden, publicada en junio por un grupo de matemáticos. Este documento también aborda las formas en que las pruebas generadas por LLM cambiarán su trabajo y ofrece un conjunto de recomendaciones para matemáticos, instituciones y responsables políticos.

Al igual que en la ingeniería de software y otras áreas donde las herramientas de IA están transformando los flujos de trabajo, los matemáticos encuentran justificación en el trabajo alrededor del trabajo: el valor en las matemáticas no radica solo en las pruebas y en quién recibe el crédito, sino en la superestructura intelectual que nutre a los estudiantes, encuentra nuevas preguntas e ideas, e integra todo en la civilización humana más amplia.

Si no le interesa particularmente el competitivo mundo de las pruebas matemáticas de alto riesgo, no olvide: su campo de interés es el siguiente.

"Los problemas que enfrenta la comunidad matemática son similares a los que enfrentan otras profesiones científicas y creativas, y indican cuestiones que toda la humanidad podría enfrentar: cómo asegurarnos de que, a medida que la IA cambia la forma en que se trabaja, no perdamos de vista lo que ese trabajo pretendía lograr en primer lugar", concluyeron.

Temas