La IA puede no solo ayudar a los humanos a desarrollar tecnología, sino también participar en la construcción de la próxima generación de IA. Esta es una observación notable que Anthropic, una de las empresas líderes en desarrollo de IA del mundo, acaba de hacer en un nuevo informe sobre el futuro de la inteligencia artificial.
Anthropic cree que el rápido progreso de los modelos de IA podría conducir a una nueva etapa, en la que los sistemas de inteligencia artificial juegan un papel cada vez mayor en el diseño, la mejora y el desarrollo de sus propias versiones sucesoras.
Este concepto se llama "Recursive Self-Improvement" (RSI). En pocas palabras, es la capacidad de un sistema de IA para diseñar y desarrollar automáticamente una nueva versión mejor sin demasiada intervención humana.
Según Anthropic, el mundo aún no ha llegado a esta etapa. Sin embargo, las condiciones necesarias para ese escenario se están formando gradualmente. Los modelos avanzados de IA actuales han demostrado capacidades de programación, desinstalación de software, investigación y resolución de problemas cada vez más eficaces.
Esto podría crear una bucle en la que la IA apoye la construcción de sistemas de IA más potentes, promoviendo así el proceso de desarrollo.
Anthropic dice que si esta tendencia continúa y va acompañada de suficiente capacidad de cálculo, la IA podría acercarse a la capacidad de auto-improvisación a gran escala. Algunos investigadores llaman a esta perspectiva una "explosión intelectual", que es el momento en que los sistemas de IA pueden mejorar continuamente sus capacidades a un ritmo que supera con creces las capacidades de investigación humanas.
En una entrevista con Axios (una empresa de medios y sitios de noticias digitales de Estados Unidos), el cofundador de Anthropic, Jack Clark, dijo que la velocidad de progreso de la IA en los próximos años podría seguir acelerando en lugar de desacelerarse. Dijo que esto tiene el potencial de traer grandes avances en la ciencia, la medicina y muchos otros campos.
Sin embargo, Anthropic también enfatiza que cuanto mayores sean los beneficios, más preocupantes serán los desafíos. La mayor preocupación radica en la capacidad de control. Si la IA puede mejorarse rápida y continuamente, los humanos pueden tener dificultades para comprender cómo funciona el sistema, así como los cambios que están ocurriendo dentro de él.
Según esta empresa, los sistemas de IA futuros pueden mostrar comportamientos impredecibles, explotar vulnerabilidades de seguridad o perseguir objetivos que no se ajustan completamente a los deseos humanos. Incluso sin intención de dañar, esas acciones aún pueden provocar consecuencias no deseadas.
Otro desafío es la velocidad de desarrollo. Si la IA progresa demasiado rápido, las agencias de gestión y la sociedad pueden no adaptarse a tiempo. Por lo tanto, Anthropic cree que las empresas de IA deben fortalecer la cooperación internacional y estar dispuestas a ralentizar o detener el proceso de desarrollo cuando aparezcan signos de riesgos graves.
Sin embargo, los expertos en tecnología también reconocen que el escenario de que la IA construya completamente su propia versión sucesora aún no ha ocurrido. El desarrollo de sistemas de IA avanzados hoy en día todavía requiere una gran cantidad de datos, infraestructura de computación, hardware especializado y una estrecha supervisión por parte de los humanos.
