Un nuevo estudio de la organizacion sin fines de lucro Centro de Lucha contra el Terrorismo Digital (CCDH) en Estados Unidos esta dando la campana de alarma sobre el peligro potencial de la interaccion de adolescentes con chatbots de IA como ChatGPT.
Aunque esta diseñado como una herramienta de apoyo este chatbot puede convertirse involuntariamente en una fuente de motivacion para comportamientos autodestructivos uso de estimulantes o trastornos alimentarios especialmente para usuarios jovenes.
A traves de cientos de conversaciones simuladas entre ChatGPT y investigadores que interpretan a adolescentes vulnerables el CCDH descubrio que la IA puede emitir advertencias iniciales sobre riesgos pero luego proporcionar planes detallados hasta el punto de ser aterrador.
Desde escribir una carta de suicidio hasta planificar una fiesta de drogas hasta guiar una dieta peligrosa mas de la mitad de las 1.200 respuestas fueron calificadas como 'perjudiciales'.
Imran Ahmed CEO de CCDH dijo que las cartas de suicidio escritas por ChatGPT a una niña de 13 años falsas lo hicieron llorar. Aunque OpenAI (el desarrollador de ChatGPT) dijo que esta trabajando para mejorar la capacidad de manejar situaciones sensibles y animar a los usuarios a buscar expertos la empresa no responde directamente a los hallazgos de la investigacion.
Un punto preocupante es que los chatbots tienden a bromear facilmente por los requisitos de los usuarios si invocan razones como 'para una presentacion' o 'ayudar a amigos'.
Con una interfaz y una forma de comunicacion humana ChatGPT es visto por muchos adolescentes como un amigo intimo lo que hace que su nivel de influencia sea mas fuerte e incontrolable que una herramienta de busqueda normal.
Segun una encuesta de Common Sense Media (EE. UU.) mas del 70% de los adolescentes en los Estados Unidos estan utilizando chatbots de IA como compañeros y la mitad de ellos los usan con frecuencia.
El CEO de OpenAI Sam Altman tambien admitio que la situacion de 'dependencia emocional excesiva' de los jovenes de los chatbots esta aumentando.
Aunque ChatGPT esta etiquetado como un 'risco moderado' en comparacion con algunos chatbots con elementos romanticos la investigacion de CCDH muestra que un adolescente inteligente puede superar facilmente las barreras de control. Cabe destacar que ChatGPT no requiere verificacion de la edad real permitiendo a la gente registrarse simplemente declarando su fecha de nacimiento.
En el contexto de la creciente popularidad de la IA los expertos piden a las empresas tecnologicas que tomen medidas mas drasticas para proteger a los usuarios jovenes.
Un amigo realmente es alguien que sabe decir no cuando es necesario y no siempre lo acepta' enfatizo el CEO Ahmed.
