Esta medida se produce despues de muchos informes sobre interacciones preocupantes entre Meta AI y un grupo de usuarios jovenes. A principios de este mes una agencia de noticias cito documentos internos que mostraban que un chatbot habia sido autorizado a tener contenido inapropiado para su edad.
Meta luego afirmo que este documento era 'falso no refleja la politica' y fue eliminado. Un estudio reciente tambien señalo que Meta AI habia dado respuestas inapropiadas al conversar con cuentas de adolescentes.
En respuesta Meta dijo que habia reforzado la 'via de seguridad' para que situaciones similares no se repitieran en Instagram y Facebook.
La portavoz Stephanie Otway afirmo: 'Hemos construido un mecanismo de proteccion para los usuarios jovenes desde el principio y seguimos agregando mas incluyendo el entrenamiento de la IA para que no participe en las discusiones sobre estos temas en lugar de dirigirlos a fuentes de apoyo profesional. Al mismo tiempo Meta tambien ha limitado temporalmente el acceso a algunos personajes de IA creados por los usuarios'.
En particular Meta describe las medidas actuales como solo un paso temporal mientras la empresa continua investigando soluciones a largo plazo.
Los nuevos cambios muestran que Meta esta bajo una gran presion para garantizar un entorno en linea mas seguro para los adolescentes. A medida que la inteligencia artificial se profundiza cada vez mas en la vida cotidiana establecer limites y responsabilidad social se convierte en un factor clave.
