La startup de inteligencia artificial xAI de Elon Musk se enfrenta a una fuerte ola de criticas despues de que se descubriera que el chatbot Grok podia crear y publicar imagenes sensibles en la plataforma de redes sociales X.
Ante la presion de la opinion publica y la participacion de las agencias de gestion, xAI impuso rapidamente una serie de nuevas restricciones a la funcion de creacion y edicion de imagenes de Grok.
En consecuencia, Grok una vez permitio a los usuarios solicitar la edicion de fotos de cualquiera que apareciera en X, incluida la eliminacion de ropa o la colocacion de personajes en poses sensuales, a menudo sin el consentimiento de la persona en la foto.
En particular, estas imagenes creadas por la IA tambien son publicadas automaticamente por Grok en la seccion de comentarios, lo que hace que el nivel de difusion y el impacto negativo aumenten rapidamente.
El viernes, Grok anuncio que las funciones de creacion y edicion de imagenes son actualmente solo para usuarios de pago en X.
Este movimiento se considera un esfuerzo para evitar que los bots respondan automaticamente con imagenes sensibles bajo publicaciones publicas.
La realidad de las pruebas muestra que, cuando un reportero de Reuters le pidio a Grok que convertira su foto en una foto en bikini, el bot se nego y mostro una notificacion sobre los limites para las cuentas de pago.
Sin embargo, las nuevas restricciones no han cerrado por completo la controversia. Los usuarios aun pueden crear imagenes sexuales a traves de la pestaña Grok, donde interactuan directamente con el chatbot, y luego se suben automaticamente a X.
Incluso, la aplicacion Grok independiente, que opera aislada de esta plataforma de redes sociales, todavia permite crear imagenes sin necesidad de registrarse ni pagar.
Anteriormente, Elon Musk habia declarado que cualquiera que usara Grok para crear contenido ilegal sufriria las mismas consecuencias que subir directamente ese contenido.
Sin embargo, la Comision Europea cree que limitar las funciones en forma de pago no resuelve la raiz del problema. La agencia enfatiza que las imagenes de mujeres y niños desnudos compartidas en linea son ilegales, independientemente de quien las crea o si utiliza una cuenta gratuita o pagada.
La presion no proviene solo de la UE. Muchos gobiernos y otras agencias reguladoras han condenado, incluso abierto investigaciones relacionadas con el contenido pornografico creado por Grok, exigiendo a X y xAI que demuestren las medidas para prevenir y eliminar el contenido ilegal.
En Alemania, el Ministro de Comunicaciones Wolfram Weimer describio la ola de imagenes semidesnudas que se propagan gracias a la IA como "industrializacion del acoso sexual".
El incidente plantea una gran pregunta sobre la responsabilidad de las plataformas tecnologicas en la era de la IA generadora, si las medidas tecnicas y comerciales son suficientes para controlar los riesgos, o si se necesita un marco legal mas estricto para proteger la privacidad y la dignidad humana en el espacio digital.
