Se dice que Google ha eliminado silenciosamente la funcion AI Overview para ciertas consultas medicas, despues de que el periodico Guardian publicara los resultados de una encuesta que mostraba que las respuestas generadas por la IA podrian causar un malentendido grave entre los usuarios.
Segun The Guardian, cuando los usuarios buscan preguntas relacionadas con las pruebas de funcion hepatica, como "¿cual es el rango normal de las pruebas de sangre hepatica?", Google una vez mostro una seccion general creada por la IA (Overview de la IA) con cifras generales.
Esta informacion no tiene en cuenta factores importantes como la edad, el sexo, la raza o la nacionalidad, que son variables que pueden tener un gran impacto en los resultados de las pruebas medicas.
Esto plantea el riesgo de que los usuarios malinterpreten su estado de salud, incluso piensen subjetivamente que el resultado es normal cuando en realidad no lo es.
Despues de que se publicara el articulo de investigacion, The Guardian dijo que los resultados generales de la IA ya no aparecian con preguntas especificas como "¿cual es el rango normal de los analisis de sangre hepatica?" o "¿cual es el rango normal de los analisis de funcion hepatica?".
Sin embargo, el periodico tambien descubrio que algunas otras variantes de la consulta, como el "amplitud de referencia LFT" o el "amplitud de referencia de prueba LFT", aun pueden activar el resumen creado por la IA.
En el ensayo real realizado unas horas despues de que The Guardian publicara el articulo, las preguntas mencionadas anteriormente ya no mostraban una vision general de la IA en los resultados de busqueda normales.
Sin embargo, Google todavia permite a los usuarios hacer estas mismas preguntas en el "Modo de IA", que es una funcion separada.
En respuesta al Guardian, un portavoz de Google dijo que la compañia no comento sobre la eliminacion de cada resultado especifico en la busqueda.
Sin embargo, Google afirma que esta haciendo esfuerzos para implementar mejoras integrales en el sistema. Segun este portavoz, un grupo de expertos medicos internos reviso las consultas mencionadas por The Guardian y dijo que, en muchos casos, la informacion no es erronea y esta respaldada por sitios web de alta calidad.
Sin embargo, el movimiento de eliminacion sigue siendo evaluado positivamente por muchas organizaciones medicas. La Sra. Vanessa Hebditch, Directora de Comunicacion y Politica de British Liver Trust, dijo que esta es una "buena noticia", pero al mismo tiempo expreso una preocupacion mas profunda.
Segun ella, el problema no radica solo en algunas consultas especificas, sino en la forma en que Google implementa una vision general de la IA en el campo de la salud en general.
Si Google simplemente desactiva la vision general de la IA para algunos resultados individuales sin abordar los riesgos sistemicos, entonces las preocupaciones sobre la informacion medica creada por la IA permanecen intactas", enfatizo Hebditch.
Anteriormente, Google habia anunciado nuevas caracteristicas destinadas a mejorar la experiencia de busqueda relacionada con la atencion medica, incluida la actualizacion de modelos de IA especializados.
