Un grupo de veinticinco ganadores de la Medalla Fields -la distinción más prestigiosa que se concede en el campo de las matemáticas- firmó una declaración alertando sobre un inusual desencuentro entre las empresas de inteligencia artificial y la comunidad matemática.
Los expertos denuncian que la carrera de corporaciones como OpenAI por resolver problemas históricos de la matemática prioriza los resultados rápidos sobre la comprensión conceptual y el rigor educativo. El conflicto se ha intensificado debido a acusaciones de plagio de borradores privados y la falta de atribución adecuada en los hallazgos generados por máquinas.
No deja de ser irónico, si se tiene en cuenta que hace apenas unos meses, en marzo de este año, uno de los firmantes de la carta, Terence Tao, a menudo descrito como “el mejor matemático vivo del mundo”, defendía con entusiasmo el rol de la IA como “coautora de confianza” en la investigación en las matemáticas más avanzadas. Hoy advierte que el verdadero peligro no es que la IA resuelva problemas que se creían imposibles, sino que lo haga demasiado rápido.
En la carta se lee: “El éxito de la IA en la resolución de grandes problemas ha acaparado titulares incluso fuera de los círculos matemáticos. Pero resolver problemas es solo una herramienta y un proxy para alcanzar el objetivo principal de la comprensión conceptual y la comprensión. Olvidar esto en el mundo de la IA puede poner la herramienta en contra del objetivo principal. De hecho, la producción masiva a un ritmo cada vez más rápido de afirmaciones "verdadero/falso" podría destruir terreno fértil en lugar de dar vida a nuevas ideas”.
Los autores subrayan que el valor real de las matemáticas reside en el proceso humano de aprendizaje y la creación de nuevas herramientas intelectuales, elementos que corren el riesgo de desaparecer. Esta crisis en las matemáticas se presenta como una advertencia para todas las profesiones creativas y científicas ante el avance tecnológico desmedido. De este modo, se hace un llamado urgente a garantizar que la tecnología complemente la intuición humana en lugar de erosionar los cimientos del conocimiento.
El problema de la propiedad intelectual
A este problema, de por sí serio, se suman disputas como la del profesor Tristan Buckmaster, de la Universidad de Nueva York (NYU), quien acusó a OpenAI de presionarle para no dar crédito a un colaborador, por el hecho de que este trabajaba para Anthropic, su gran rival.
Buckmaster también cuestiona si OpenAI utilizó el trabajo e interacciones que mantuvieron mediante la herramienta Codex para alimentarse de sus ideas y lograr lanzar su propia demostración sobre la solución de las ecuaciones Navier-Stokes tras un maratón de inferencia de fin de semana.
Las ecuaciones de Navier-Stokes, un enigma matemático que se remonta al siglo XIX y que se creía imposible de resolver, están en el centro de este último señalamiento. Buckmaster y su colaborador habían estado guardando borradores de su investigación matemática en la herramienta Codex de OpenAI. Al enterarse del repentino logro de la firma, Buckmaster dijo sospechar que el laboratorio había accedido de forma indebida a sus notas.
Esta clase de casos hace que la comunidad matemática manifieste su temor de que el poder de cómputo de los grandes laboratorios de IA se use para ganarle la carrera a la investigación tradicional utilizando sus propias ideas no publicadas, lo que destruye la cultura tradicional de intercambio abierto e incentiva el secreto en la comunidad científica.
FAQ
1. ¿Qué es la declaración firmada por los matemáticos?
Es una manifestación pública impulsada por Terence Tao y firmada por 25 ganadores de la Medalla Fields para denunciar que las prácticas actuales de los laboratorios de IA amenazan la labor intelectual y el desarrollo científico.
2. ¿Por qué se habla de una "desalineación" entre la IA y la comunidad matemática?
Las empresas de IA utilizan la resolución de problemas matemáticos como métricas de rendimiento (benchmarks), mientras que los matemáticos priorizan la comprensión conceptual profunda y el aprendizaje humano.
3. ¿Qué preocupaciones existen sobre el plagio y los créditos?
Existe el temor de que los modelos de lenguaje utilicen borradores no publicados y conversaciones privadas para generar demostraciones sin citar ni reconocer adecuadamente el trabajo previo.
4. ¿Qué controversia involucra a Tristan Buckmaster y OpenAI?
El profesor de NYU acusó a OpenAI de presionarlo para omitir el crédito a un colaborador vinculado a Anthropic y cuestionó si utilizaron sus interacciones en Codex para adelantársele en una prueba.
5. ¿Cómo afecta esta disputa al futuro de la investigación abierta?
Dado que las empresas pueden usar un enorme poder de cómputo para ganarle la carrera a los investigadores basándose en sus propias ideas, la cultura tradicional de intercambio abierto se ve amenazada e incentivada hacia el secreto.
