La organizacion sin fines de lucro Common Sense Media (con sede en los Estados Unidos) especializada en evaluar el nivel de seguridad de la tecnologia para los niños acaba de publicar un nuevo informe sobre la IA Gemini de Google que etiqueta a esta plataforma como 'alto riesgo' para los usuarios jovenes.
Segun la evaluacion aunque Gemini ha afirmado a los niños que esto es solo una computadora no un 'amigo' para limitar las ilusiones romanticas esta tecnologia aun puede compartir documentos sensibles e inseguros como contenido sexual estimulante o consejos relacionados con la salud mental.
Esto genera preocupacion especialmente en el contexto de que recientemente se han relacionado algunos casos de suicidio adolescente con la interaccion con chatbots de IA.
En particular Common Sense Media opina que tanto la version 'A partir de los 13 años' como la 'Para adolescentes' de Gemini siguen siendo en realidad versiones para adultos y solo se han añadido algunos filtros de seguridad.
La organizacion cree que para garantizar la eficiencia los productos de IA deben diseñarse desde el principio de acuerdo con las necesidades de desarrollo de los niños en lugar de ajustarse a partir de una version comun.
El informe se produce en un contexto de informacion de que Apple esta considerando integrar Gemini en Siri en el nuevo sistema de IA.
Si esto se hace realidad el riesgo de exposicion de niños y adolescentes a contenido sensible puede aumentar a menos que se fortalezcan las medidas de proteccion.
En respuesta Google afirmo que ha elaborado una politica de proteccion especifica para usuarios menores de 18 años y al mismo tiempo ha mejorado continuamente las herramientas de control de contenido.
La empresa tambien dijo que esta cooperando con expertos independientes para mejorar la seguridad pero admitio que algunas respuestas de Gemini no han cumplido con las expectativas.
En evaluaciones anteriores Common Sense Media habia etiquetado Meta AI y Character.AI como 'inaceptables' Perplexity a un alto nivel de riesgo mientras que ChatGPT se considera'medio' y Claude (para usuarios adultos) solo tiene un nivel de'minimal riesgo'.
Con la nueva etiqueta de advertencia para Gemini el tema de la proteccion de los niños contra los impactos impredecibles de la inteligencia artificial sigue siendo un gran desafio para las empresas tecnologicas globales.
