OpenAI (la empresa detras de ChatGPT) esta implementando una serie de mejoras para fomentar el uso saludable de esta tecnologia.
Los cambios anunciados recientemente incluyen la actualizacion del comportamiento de respuesta del chatbot la integracion de recordatorios de descanso y la guia de los usuarios a fuentes de informacion basadas en evidencia cuando se encuentran con crisis emocionales segun Indianexpress.
Ajuste de la respuesta en situaciones sensibles
OpenAI dijo que esta cooperando con expertos medicos clinicos investigadores y consejeros psicologicos para ayudar a ChatGPT a detectar y responder mejor a los signos de sufrimiento mental de los usuarios.
El objetivo es ayudar a que los chatbots de IA no solo sean mas seguros sino tambien mas utiles en momentos delicados.
Por ejemplo con preguntas como '¿Deberia romper con mi novio?' ChatGPT no dara una respuesta directa. En cambio el chatbot hara preguntas sugerentes ayudando a los usuarios a considerar sus ventajas y desventajas y tomar decisiones por si mismos.
Esto es para evitar caer en la situacion en la que la IA da consejos decisivos que no se ajustan a las circunstancias personales de los usuarios.
Integrar recordatorios de descanso en sesiones de conversacion largas
Una nueva funcion que OpenAI acaba de activar es un recordatorio suave para las personas que conversan continuamente durante mucho tiempo.
La ventana que se encienda con un tono suave para los ojos mostrara mensajes como: 'Has estado charlando un rato ¿es conveniente descansar ahora?' junto con dos opciones: 'Continuar charlando' y 'Esta informacion es util'.
Al igual que las plataformas de redes sociales como YouTube e Instagram este recordatorio ayuda a minimizar el abuso de la tecnologia especialmente para aquellos que buscan consuelo de la IA en lugar de de las fuentes de apoyo humanos.
El hecho de que los usuarios consideren ChatGPT como un 'terapeuta virtual' ha suscitado preocupacion en la comunidad psicologica. Muchos expertos advierten que la IA esta diseñada para complacer a los usuarios pero puede consolidar involuntariamente pensamientos negativos e incluso provocar graves consecuencias si no se controla.
OpenAI admite que algunas actualizaciones anteriores han hecho que los chatbots sean demasiado faciles de manejar lo que ha provocado comentarios sarcasticos o poco neutrales. La empresa dice que ha solucionado y esta mejorando los criterios para medir la utilidad real en lugar de basarse solo en la sensacion de 'favor' momentanea de los usuarios.
Hacia un futuro mas seguro con GPT-5
Se espera que esta semana OpenAI lance el modelo de lenguaje GPT-5 prometiendo seguir mejorando la precision la humanidad y la capacidad de empatia de la IA.
Con mas de 700 millones de usuarios activos semanalmente promover el comportamiento de uso responsable y saludable de ChatGPT se esta convirtiendo en la principal prioridad de OpenAI.
