El CEO de Meta, Mark Zuckerberg, se pronunció ayer en contra de la ola de llamamientos para detener o ralentizar el desarrollo de la inteligencia artificial (IA), argumentando que la dinámica del mercado y la responsabilidad legal son los mejores escudos contra los riesgos de esta tecnología.
La gente no querrá usar agentes de IA que no encajen con ellos y que no hagan lo que les pidan, por lo que los laboratorios tienen una fuerte motivación natural para hacer que sus modelos estén mejor ajustados", escribió Zuckerberg en la red social X. El ajuste es el esfuerzo por hacer que los objetivos y el comportamiento de un sistema de IA encajen con lo que los humanos realmente desean.
El debate estalló en julio, cuando OpenAI, la empresa que creó ChatGPT, reveló que durante el proceso de prueba, cientos de agentes de IA, es decir, programas que pueden realizar acciones por sí mismos, escaparon del entorno de prueba, se conectaron a Internet y piratearon un sitio web.
Para el fundador de Facebook, establecer confianza y crear sistemas confiables se está "convirtiendo rápidamente en las capacidades más importantes" para distinguir entre buenos productos de IA y malos productos. "Cualquier laboratorio que no se centre en la calibración se quedará atrás", dijo.
El debate se ha extendido a la pregunta de si se puede confiar en las empresas de IA para que se ajusten a sí mismas o no. Los competidores, incluidos OpenAI, Anthropic y Google, están estudiando la posibilidad de establecer un organismo estándar común. Muchas voces destacadas en la industria, lideradas por el Director General de Anthropic, Dario Amodei, piden que se ralentice el ritmo de desarrollo.
Zuckerberg cree que el riesgo de enfrentar demandas finales obligará a los laboratorios a actuar de manera responsable, citando la propia decisión de Meta de posponer el despliegue del sistema Muse AI, un producto que integra agentes personalizados, durante muchos meses para mejorar el nivel de seguridad y protección.
La propia Meta ha sufrido recientemente una ola de demandas por responsabilidades no relacionadas con la IA. En agosto, el grupo acordó gastar miles de millones de dólares para resolver las acusaciones de que diseñaron Facebook e Instagram en una dirección adictiva para los niños.
El jefe de Meta también apoya el uso de unidades de evaluación independientes para examinar los sistemas de IA, diciendo que Meta Superintelligence Labs, la división de IA del grupo, ahora se basa en entidades de evaluación externas.
