Los gigantes tecnológicos se están adentrando en el campo de la atención médica integrando chatbots de inteligencia artificial con registros médicos personales.
Recientemente, Microsoft presentó Copilot Health, una herramienta que permite a los usuarios conectar registros de múltiples centros médicos con datos de dispositivos portátiles como Apple Watch o Fitbit, para crear una visión general de la salud.
Esta tendencia no se detiene solo en Microsoft. Amazon, OpenAI o Anthropic también están probando plataformas similares, como Health AI o ChatGPT Health.
El punto en común de estos sistemas es la recopilación de datos de salud y la provisión de análisis directamente a los usuarios a través de la interfaz de chat.
En teoría, los chatbots pueden ayudar a resolver un gran problema como los registros médicos dispersos. La información de salud suele estar dispersa en muchos hospitales, lo que dificulta la síntesis. La IA puede conectar estos datos en solo unos segundos, en lugar de perder horas procesando manualmente.
En el contexto del aumento de los costos médicos, se espera que los chatbots sean una herramienta para ayudar a los usuarios a comprender mejor su estado, prepararse mejor antes de ir al médico o buscar información similar a sitios como WebMD.
Riesgos de seguridad y privacidad
Sin embargo, concentrar todos los registros médicos en una sola plataforma crea un gran riesgo. Los expertos advierten que los datos médicos son una "mina de oro" para los hackers, porque contienen información confidencial que los usuarios quieren mantener en secreto.
No solo eso, a diferencia de los hospitales, que están sujetos a estrictas restricciones de seguridad, ahora muchas empresas de tecnología no están sujetas a regulaciones similares.
Esto genera preocupación de que los datos puedan utilizarse para otros fines, como el entrenamiento de IA o la publicidad.
Algunos expertos también advierten del riesgo de que los datos sean solicitados por las agencias de aplicación de la ley, especialmente en temas delicados como la salud reproductiva.
¿Son confiables los consejos de los chatbots?
Aunque se promociona como una herramienta de apoyo, los chatbots de IA aún no son lo suficientemente fiables como para reemplazar a los médicos. Algunos estudios recientes muestran que los chatbots, incluidas las de OpenAI y Meta, no son más precisos que las herramientas de búsqueda en la orientación del diagnóstico.
Más peligroso aún, la IA a veces puede proporcionar información incorrecta o cambiar las conclusiones solo por diferentes formas de hacer preguntas.
Algunos casos han registrado graves consecuencias cuando los usuarios siguieron consejos incorrectos.
Los expertos dicen que a pesar de las advertencias de "no reemplazar a los médicos", los usuarios todavía tienden a confiar y seguir a los chatbots.
Esto puede provocar diagnósticos erróneos o ansiedad excesiva, ya que la IA plantea posibles patologías graves.
Microsoft dice que Copilot Health solo proporciona información de referencia y se está implementando con cautela por etapas. Sin embargo, los expertos advierten a los usuarios que tengan cuidado con el riesgo de filtración de datos personales, información incorrecta y riesgo de autodiagnosis inexacta.
