El rápido desarrollo de la inteligencia artificial está creando avances significativos en el campo de las matemáticas. Sin embargo, junto con eso, existe una ola de preocupación de la comunidad académica sobre los riesgos potenciales cuando la IA se utiliza cada vez más ampliamente sin las regulaciones de control adecuadas.
Recientemente, cientos de matemáticos firmaron la "Declaración de Leiden sobre Inteligencia Artificial y Matemáticas", un documento elaborado durante 8 meses por un grupo de 16 investigadores después de una conferencia celebrada en la Universidad de Leiden (Países Bajos). La declaración también recibió el apoyo de la Unión Internacional de Matemáticas.
Esta medida apareció solo unas semanas después de que OpenAI y Google DeepMind anunciaran resultados que mostraban que su modelo de IA era capaz de resolver problemas que habían existido durante décadas.
En particular, OpenAI publicó un modelo de razonamiento que encontró la solución a un famoso problema de geometría planteado por el matemático Paul Erdős en 1946. Mientras tanto, Google DeepMind afirma que el sistema AlphaProof Nexus ha resuelto 9 de los 353 problemas de Erdős sin resolver.
Sin embargo, los matemáticos creen que estos logros deben evaluarse con cautela cuando la IA puede crear argumentos que parecen razonables pero que en realidad no son precisos, lo que dificulta la verificación científica.
Esto aumenta la carga para los críticos y amenaza los estándares tradicionales de precisión, transparencia y capacidad de verificación independiente.
La "Declaración de Leiden sobre Inteligencia Artificial y Matemática" también plantea muchas otras preocupaciones, como el hecho de que la IA no cita completamente el origen de los trabajos de investigación, el riesgo de crear desigualdad entre los investigadores que tienen y no tienen acceso a la tecnología, así como la tendencia a publicar resultados a través de comunicados de prensa o publicaciones en línea en lugar de canales de revisión científica oficiales.
Además, los investigadores también advierten que la creciente participación de las empresas de tecnología en la investigación matemática podría afectar la autonomía de este campo.
La "Declaración de Leiden sobre Inteligencia Artificial y Matemática" no se opone a la IA, pero pide la construcción de principios para el uso de la tecnología de manera transparente y responsable.
Las recomendaciones incluyen la divulgación del uso de la IA en la investigación, la garantía de una plena acreditación de los méritos de los autores humanos, la elaboración de directrices de publicación adecuadas y el mantenimiento de estándares éticos en la cooperación entre la comunidad académica y la industria tecnológica.
