La IA abre nuevos peligros en la proliferación de armas de destrucción masiva
Continuando el debate en el salón de plenos sobre el proyecto de Ley de Prevención y Lucha contra la Proliferación de Armas de Destrucción Masiva, en la mañana del 8 de agosto, el diputado Nguyen Van Lich (Delegación de la Asamblea Nacional de la provincia de Lang Son) dijo que la elaboración y promulgación de la ley no solo tiene como objetivo completar el sistema legal, sino también mostrar el pensamiento estratégico en la protección de la Patria desde el principio, desde lejos, previniendo y previniendo proactivamente los riesgos que amenazan la seguridad nacional desde el principio.
Según el delegado, el rápido desarrollo de la ciencia y la tecnología, especialmente la inteligencia artificial, la biotecnología, los datos digitales y el comercio transfronterizo, además de crear oportunidades de desarrollo, también ha provocado la aparición de métodos cada vez más sofisticados para difundir armas de destrucción masiva.
Si antes el control se centraba principalmente en materiales, equipos o armas, ahora el riesgo puede surgir de la investigación, la transferencia de tecnología, los servicios financieros, el transporte logístico o las cadenas de suministro internacionales.
Eso requiere que el pensamiento de gestión cambie fuertemente del manejo cuando se han producido violaciones a la identificación proactiva de riesgos, la evaluación de riesgos, la alerta temprana y la prevención desde el principio", dijo el delegado Nguyen Van Lich.
Según el diputado Pham Trong Nhan (Delegación de la Asamblea Nacional de la ciudad de Ho Chi Minh), el riesgo de proliferación de armas de destrucción masiva hoy en día no solo radica en materiales, equipos o mercancías que se pueden controlar en las fronteras, puertos marítimos y pasos fronterizos, sino que también pueden existir en forma de modelos, algoritmos transmitidos a través de Internet.
El delegado propuso agregar el concepto de tecnología de doble uso, en el que el modelo de IA que supera el umbral de capacidad peligrosa es una forma especial de tecnología de doble uso que debe incluirse en el área de control de exportación. Enfatizó que no es el control de la IA en general, sino los modelos que pueden aumentar significativamente el riesgo de proliferación que necesitan un mecanismo de gestión estricto.
El 4 de agosto, el Instituto de Seguridad de IA del Reino Unido anunció una prueba de confrontación controlada en la que un agente de IA creó una identidad falsa para instalar malware en un proyecto en funcionamiento real. Este intento fracasó no porque el sistema se autobloqueara, sino porque un administrador lo descubrió y lo rechazó.
Otra prueba tuvo lugar 3 semanas antes, cuando un modelo de IA con una capa de seguridad activa apagada superó automáticamente el alcance asignado y realizó más de 17,000 acciones automáticas en la infraestructura de hardware de una organización tecnológica", citó el delegado Pham Trong Nhan.
Según el diputado, estos ejemplos muestran una nueva realidad, la capacidad de prevenir el riesgo no solo depende de la ley o las barreras técnicas, sino también de la vigilancia de las personas.
A partir de ahí, propuso añadir criterios sobre la capacidad de cálculo, la capacidad de reconocimiento del sistema y la capacidad de superar el mecanismo de seguridad del sistema; al mismo tiempo, mejorar la alerta temprana, la aplicación de la IA y los big data para detectar signos anormales en la transferencia de tecnología y modelos de IA de alto riesgo.
3 requisitos al completar un proyecto de ley
Explicando las opiniones de los diputados de la Asamblea Nacional, el General Phan Van Giang - Miembro del Buró Político, Viceprimer Ministro del Gobierno, Ministro de Defensa Nacional - dijo que las opiniones en el salón de plenos siguen siendo una base importante para que la agencia principal de redacción investigue y complete el proyecto de ley, asegurando que sea estricto, factible y cumpla con los requisitos prácticos.
Según el General Phan Van Giang, el proceso de recepción y revisión del proyecto de ley comprenderá 3 requisitos. Primero, garantizar la defensa nacional y la seguridad nacional, pero sin obstaculizar las actividades civiles, la producción, los negocios, la investigación científica y la innovación legal.
Segundo, mejorar la eficacia y eficiencia de la gestión, pero sin generar procedimientos, licencias, regímenes de informe o obligaciones de cumplimiento duplicadas.
Tercero, estipular claramente en la ley los temas directamente relacionados con los derechos, obligaciones, bases, autoridad, plazos y límites de aplicación práctica, sin asignar regulaciones detalladas en la dirección de ampliar la autoridad o restringir los derechos fuera del alcance de la ley.
