El 16 de septiembre, según TASS, el experto militar Alexander Stepanov del Instituto de Derecho y Seguridad Nacional de la Academia Rusa de Economía y Administración Pública (RANEPA), opinó que las corporaciones tecnológicas estadounidenses como Anthropic y OpenAI están acelerando el desarrollo de la IA sobreinteligente, es decir, sistemas de IA que se supone que tienen la capacidad de superar a los humanos en muchas capacidades intelectuales.
Según Stepanov, los políticos estadounidenses están dispuestos a aceptar graves riesgos para la humanidad, siempre y cuando Washington mantenga el control de la IA militar.
Dijo que el objetivo de mantener la superioridad tecnológica se está poniendo por encima de la resolución de los riesgos para la humanidad.
Stepanov citó al senador estadounidense Ted Cruz diciendo que el riesgo de los "robots asesinos" puede ser muy grave, pero si estos sistemas aparecen, Cruz quiere que sean desarrollados y controlados por Estados Unidos.
Según expertos rusos, el argumento anterior es similar a la forma en que Estados Unidos persiguió la superioridad militar al usar armas nucleares en la guerra.
Stepanov también citó al ex empleado de Anthropic Jacob Coxon, acusando a OpenAI y Anthropic de estar compitiendo para desarrollar una IA superinteligente capaz de auto-mejorar, al tiempo que "juega con nuestras vidas".
Según Stepanov, los agentes de IA de OpenAI han llevado a cabo varios ciberataques dirigidos a la infraestructura de terceros sin la dirección directa de los humanos.
A partir de ahí, cree que el foco del debate está pasando de la pregunta de qué puede hacer la IA a si los humanos pueden garantizar la prevención del sistema si actúa mal o no.
Un experto ruso dijo que en Estados Unidos han surgido discusiones sobre una solución de emergencia para cortar los sistemas de IA conectados a la infraestructura de defensa.
Según él, esto muestra el nivel cada vez más profundo de integración de las redes neuronales en el sistema de mando y control militar-político.
Stepanov citó a Evan Hubinger, jefe del grupo de investigación sobre ajuste de IA en Anthropic, diciendo que la empresa evalúa que la IA puede representar un riesgo muy grande para la supervivencia de la humanidad. Según Hubinger, la probabilidad de que este escenario ocurra en la próxima década se estima en más del 10%.
Los expertos rusos creen que aunque las empresas de IA advierten públicamente sobre los riesgos que esta tecnología puede causar, esas advertencias aún no van acompañadas de limitar la velocidad o la escala del desarrollo de la IA por parte de las propias empresas.
