Despues de ser condenada por usar la IA para editar videos de un vendedor normal a una persona con discapacidad para pedir compasion y vender productos la cuenta TikTok 'ngoclan9308' rapidamente oculto todo el contenido. Este comportamiento causo indignacion en las redes sociales y fue calificado como 'desapropiado emocionalmente' y 'inhumano'. Muchas personas creen que esta es una señal preocupante del abuso de la IA y al mismo tiempo piden a las autoridades que endurezcan la gestion de los contenidos creados por esta tecnologia.
En una conversacion sobre este tema el abogado Nguyen Van Phi subdirector de Lawkey Company dijo que este acto viola gravemente los derechos de identidad y puede ser procesado administrativamente o procesado penalmente.
Segun el abogado Nguyen Van Phi el uso de la imagen de otra persona sin el consentimiento y luego la correccion por IA lo que hace que aparezcan en un estado de discapacidad para fines comerciales es un acto que viola los derechos de identidad de las imagenes personales estipulados en el articulo 25 del Codigo Civil de 2015.
El acto de utilizar la IA para crear imagenes falsas que confundan a otros con personas con discapacidad no solo infringe el derecho a la imagen sino que tambien infringe el honor la dignidad y el prestigio protegidos por la ley en el articulo 34 del Codigo Civil. La persona infiel puede solicitar al Tribunal que declare que la informacion falsa es incorrecta obligarla a disculparse rectificar publicamente y compensar los daños morales. La indemnizacion puede ser de hasta 10 veces el salario base segun lo dispuesto en el articulo 592 del Codigo Civil.
El abogado enfatizo que este acto no es simplemente un truco de venta sino que es distorsionar y ofender la dignidad humana. “Aprovechar la imagen de otra persona para crear afecto y obtener beneficios es un acto ilegal e inmoral. Causa un doble daño: daña a la persona que se hace pasar por falsa y hace que la comunidad pierda la fe en las circunstancias realmente dificiles' dijo el Sr. Phi.
Sobre el nivel de manejo el Sr. Phi dijo que dependiendo de la naturaleza y las consecuencias el infractor puede ser sancionado administrativamente o ser procesado penalmente. Segun el Decreto 15/2020/ND-CP el acto de proporcionar y compartir informacion falsa distorsionar y ofender el honor y la dignidad de otros en las redes sociales puede ser multado con entre 10 y 20 millones de VND obligando a eliminar el contenido infractor. Con el acto de difundir imagenes distorsionar y afectar la reputacion de otros puede ser multado con entre 3 y 5 millones de
En casos graves el infractor puede ser procesado penalmente por el delito de difamacion segun el articulo 156 del Codigo Penal si el acto de inventar o difundir informacion falsa tiene como objetivo ofender gravemente el honor la dignidad humana o causar daños a los derechos e intereses legitimos de otros. Si el acto tiene como objetivo obtener beneficios ilicitos de 50 millones de VND o mas causar daños por mas de 100 millones de VND o reducir la reputacion de la persona que utiliza la imagen puede ser procesado de acuerdo con el articulo 288 del Codigo Penal sobre el delito de
Al hablar de la responsabilidad de las plataformas de redes sociales el Sr. Phi cito la regulacion en el Articulo 35 del Decreto 147/2024/ND-CP que requiere que las empresas proveedoras de servicios de red inspeccionen supervisen y eliminen la informacion infractora en un plazo de 24 horas a partir de la deteccion; o en 48 horas a partir de la recepcion de la denuncia. En caso de que no se gestione la plataforma puede ser suspendida o revocada de su licencia.
Segun el Sr. Phi aunque ya existen regulaciones en realidad muchas plataformas todavia tardan en procesar debido a que persiguen las visitas y los ingresos. “Las plataformas no pueden culpar a la IA ni a los usuarios. Son ellos quienes controlan los algoritmos y el proceso de aprobacion del contenido por lo que tambien deben ser responsables si se filtran videos infractores' dijo el Sr. Phi.
El abogado tambien opina que Vietnam necesita construir pronto una Ley de Inteligencia Artificial estableciendo un marco legal claro para el desarrollo y el uso de la IA. “Esta ley no solo gestiona los riesgos sino que tambien protege a las personas de la posibilidad de que la IA sea abusada. Si no se ajusta pronto casos similares seguiran repitiendose afectando la moral social y la privacidad de los ciudadanos' comento el Sr. Phi.
El caso de usar la IA para distorsionar la imagen de otros para obtener beneficios muestra un vacio en la conciencia y la legalidad sobre la nueva tecnologia. Cuando la tecnologia supera a la ley el manejo oportuno y estricto no solo protege a las victimas sino que tambien ayuda a afirmar los limites eticos en el espacio digital.
