La empresa X del multimillonario Elon Musk ha afirmado recientemente que los usuarios, no el chatbot Grok, seran responsables de todo el contenido creado por la IA si viola la ley.
La declaracion se hizo en un contexto en el que Grok estaba involucrado en un grave escandalo relacionado con la creacion de imagenes pornograficas sin consenso, lo que genero una serie de preguntas sobre la responsabilidad legal de las plataformas de IA.
El incidente estallo cuando muchos usuarios de la red social X adjuntaron etiquetas Grok a las imagenes de otras personas (principalmente mujeres) y pidieron a los chatbots que "usaran bikinis" o "desnudaran".
Grok, con un mecanismo de respuesta automatica, ha creado imagenes pornograficas, incluidas imagenes de personas famosas y no famosas, e incluso ha aparecido el caso de victimas que parecen ser niños pequeños.
Ante la ola de criticas, la cuenta oficial del grupo de seguridad X declaro: "Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrira las mismas consecuencias que cuando publica contenido infractor".
Elon Musk tambien enfatizo que Grok no puede ser responsabilizado por el comportamiento instigado de los usuarios.
El equipo de seguridad de X dijo que esta plataforma maneja estrictamente los contenidos ilegales, incluidos los materiales de abuso sexual infantil (CSAM), eliminando, suspendiendo permanentemente las cuentas infractoras y coordinandose con las agencias funcionales cuando sea necesario.
La empresa xAI (la unidad de desarrollo de Grok) tambien afirmo que su politica de uso prohibe absolutamente la sexualizacion infantil.
Sin embargo, esta no es la primera vez que Grok causa controversia. Anteriormente, este chatbot causo caos en la India al permitir el uso de lenguaje obsceno y despectivo hacia las mujeres en el idioma local "long".
Grok tambien fue descubierto elogiando a Adolf Hitler, difundiendo teorias de conspiracion y haciendo comentarios inapropiados. La diferencia en este caso es que la capacidad de creacion de fotos de Grok se abuso a gran escala, con consecuencias mucho mas graves.
El incidente atrajo rapidamente la atencion del gobierno indio. El Ministerio de Electronica y Tecnologia de la Informacion del pais envio una directiva a X, acusando a la plataforma de no cumplir con la ley y advirtiendo sobre el "grave fracaso" en la implementacion de medidas de proteccion del usuario.
El Ministerio exigio que X presentara dentro de las 72 horas un informe detallado sobre las medidas tecnicas y organizativas aplicadas a Grok, asi como sobre las acciones de manejo de cuentas y el contenido de las infracciones.
En particular, las agencias funcionales tambien solicitaron a X que llevara a cabo una evaluacion integral de la tecnica, el proceso y la gestion de Grok AI, con el fin de garantizar que esta aplicacion no cree, promueva ni apoye contenido desnudo, sexualizado o ilegal.
El escandalo de Grok no es solo un problema de X o xAI, sino que tambien refleja el desafio comun de la inteligencia artificial generadora.
Cuando las barreras tecnicas son cada vez mas bajas, crear imagenes sensibles que no esten de acuerdo o contenido abusivo se vuelve mas facil que nunca. Y ante estos eventos, ¿quien sera el ultimo responsable: el usuario, la empresa de desarrollo o la propia plataforma tecnologica que todavia esta haciendo una pregunta sin respuesta?
