En el contexto de las crecientes preocupaciones sobre el impacto de la inteligencia artificial en la salud mental de los jovenes OpenAI acaba de anunciar planes para lanzar una version amigable de ChatGPT para adolescentes que se espera que se implemente a finales de este año.
Segun OpenAI el sistema cambiara automaticamente a una experiencia exclusiva para menores de 18 años si no se determina con precision la edad del usuario. Esta version esta diseñada con muchas capas de proteccion para prevenir riesgos cuando los adolescentes acceden a chatbots de IA.
El CEO Sam Altman afirmo: 'Prestamos mas seguridad privacidad y libertad a los adolescentes. Esta es una tecnologia nueva y poderosa y los adolescentes deben estar protegidos significativamente'.
Altman tambien dijo que la empresa esta cooperando con expertos grupos de presion y formuladores de politicas para perfeccionar el mecanismo de proteccion.
Este movimiento se produce tras una demanda en Estados Unidos cuando una familia acuso que la falta de medidas de control de ChatGPT contribuyo a la tragica muerte de un adolescente. El incidente provoco una ola de debate global sobre la responsabilidad de las empresas de IA en la proteccion de los usuarios jovenes.
La version ChatGPT para adolescentes aplicara filtros de contenido estrictos bloqueara las discusiones sobre coqueteo autolesionamiento o temas delicados incluso en contextos ficticios. El sistema de respuesta a crisis tambien puede advertir a los padres y ponerse en contacto con las autoridades si se detecta un riesgo de suicidio.
Ademas los padres tendran acceso a un conjunto de herramientas de control que incluyen enlaces a cuentas para niños menores de 13 años configuracion de limites de tiempo de uso gestion de memoria de chat y regulaciones sobre como ChatGPT responde. Estas herramientas complementan las funciones existentes como recordatorios de descanso en sesiones de chat largas.
Altman enfatizo que el objetivo de OpenAI es encontrar un equilibrio entre privacidad libertad y seguridad. Los adultos disfrutaran de menos restricciones mientras que los niños necesitan niveles de proteccion mas altos.
Al mismo tiempo la empresa se compromete a implementar medidas de seguridad avanzadas adicionales para proteger los datos de los usuarios excepto en algunos casos necesarios para prevenir el grave abuso.
El lanzamiento de la version ChatGPT para adolescentes se considera un paso importante que refleja los esfuerzos de OpenAI para construir un entorno de IA mas seguro para la generacion joven.
