Un informe del Instituto Futuro de la Vida, un instituto de investigación sobre seguridad de la IA con sede en Estados Unidos, publicado recientemente, ha clasificado la seguridad con las 9 principales empresas de IA del mundo.
Para llevar a cabo este informe, 7 investigadores y expertos en gestión identificaron la clasificación basándose en datos públicos e información proporcionada por las empresas. El grupo evaluó los esfuerzos en 6 categorías diferentes: Evaluación de riesgos, daño actual, marco de seguridad, seguridad vital, gobernanza y rendición de cuentas, intercambio de información.
Ninguna empresa de IA recibió una puntuación de "A" en ninguna categoría, pero la empresa estadounidense de inteligencia artificial Anthropic obtuvo la mejor puntuación general de "C+". Meta subió 2 puestos hasta el cuarto lugar, mientras que xAI cayó 3 puestos hasta el séptimo lugar, justo por delante de DeepSeek de China y Mistral de Francia, que son las 2 empresas que ocupan el último lugar.
Mistral fue incluida en la lista por primera vez, sin embargo, cuando AFP le preguntó por la ubicación final, la empresa dijo que el marco del informe no era consistente con el método de desarrollo del modelo de IA de la empresa. La empresa francesa desarrolla modelos abiertos, que permiten a los usuarios descargar y editar productos.
Muchos competidores de Mistral que desarrollan modelos de IA cerrados, incluidos Anthropic, OpenAI y Google DeepMind, también están incluidos en la lista.
Estoy muy decepcionado de verlos últimos, especialmente porque Europa realmente ha liderado la seguridad de la IA", dijo a AFP Max Tegmark, profesor del MIT y presidente del Instituto Futuro de la Vida. "Nos hemos puesto en contacto muchas veces", pero Mistral no respondió a la encuesta de la organización, añadió. Alibaba, xAI y DeepSeek tampoco respondieron a la encuesta.
3 desarrolladores de IA chinos incluidos en el informe también producen modelos abiertos y se encuentran en la mitad inferior de la clasificación: DeepSeek (5o), Alibaba Cloud (6o) y Z.ai (8o).
El informe del Instituto Futuro de la Vida señala que algunas empresas que antes prohibieron el uso de sus tecnologías en el ejército han "cambiado gradualmente de opinión", incluida Anthropic.
Según el informe, las 9 empresas fracasaron en la lucha contra las amenazas "existentes", como la búsqueda de modelos que alcanzan la inteligencia humana, llamada "inteligencia artificial generalizada" o AGI. Aunque "hay esfuerzos constructivos", los esfuerzos a gran escala son "completamente insuficientes".
Otros riesgos incluyen la posibilidad de abusar del modelo para llevar a cabo un ciberataque o realizar tareas que puedan ser perjudiciales para los humanos.
Anthropic ha llamado recientemente la atención al lanzar el modelo de IA más potente de Mythos. A principios de abril, la empresa con sede en San Francisco, EE. UU., lanzó Mythos a unas pocas organizaciones de confianza debido a su capacidad para detectar vulnerabilidades de seguridad cibernética para malos actores.
