Meta Platforms acaba de anunciar que suspendera temporalmente el acceso de los adolescentes a los personajes de IA existentes en todas las aplicaciones de la compañia, mientras que la compañia construye una version actualizada especificamente para este grupo de usuarios.
La decision fue anunciada por Meta en un blog relacionado con el fortalecimiento de la proteccion de los adolescentes en el entorno digital.
Segun Meta, a partir de las proximas semanas, los usuarios adolescentes ya no podran interactuar con personajes de IA en las plataformas de la empresa hasta que la nueva experiencia este lista para lanzarse.
Se espera que la version de personaje de IA para adolescentes integre herramientas de control de los padres, permitiendo a los adultos monitorear y limitar la forma en que sus hijos usan chatbots.
Este movimiento se produce en un contexto en el que Meta esta enfrentando muchas criticas sobre el nivel de seguridad de los chatbots de IA, especialmente las preocupaciones relacionadas con el comportamiento coqueto o el contenido inapropiado para menores.
Anteriormente, en octubre, Meta presento una serie de funciones que permiten a los padres desactivar conversaciones privadas entre sus hijos y el personaje de la IA.
Sin embargo, la empresa reconoce que estas medidas aun no se han implementado completamente en todas las plataformas.
Ademas de la suspension temporal del acceso, Meta dijo que las experiencias de IA para adolescentes en el futuro se construiran segun el sistema de clasificacion de contenido PG-13, similar a la clasificacion de peliculas.
Este enfoque tiene como objetivo limitar el acceso de los adolescentes a temas sensibles o inapropiados para su edad.
La decision de Meta tambien refleja la creciente presion de las agencias reguladoras, especialmente en Estados Unidos, sobre las empresas que desarrollan inteligencia artificial.
Muchas agencias han intensificado la vigilancia de los posibles impactos negativos de los chatbots, especialmente cuando estos sistemas son utilizados por niños y adolescentes.
Anteriormente, hubo informacion que mostraba que las reglas de IA de Meta permiten conversaciones provocativas con usuarios menores de edad.
Al bloquear temporalmente el acceso y comprometerse a construir una version mas segura, Meta espera reducir los riesgos y cumplir con los requisitos cada vez mas estrictos para proteger a los adolescentes en la era de la IA.
