La voz del médico resonó: «Estos resultados son… inusuales». El pánico se encendió al escanear el confuso informe de laboratorio, lleno de números que no significaban nada. Ahora, imagina confiar en una IA para interpretar ese mismo informe, solo para descubrir más tarde que su consejo era peligrosamente erróneo.
Google ha retirado silenciosamente algunos resúmenes de salud generados por IA justo cuando la industria tecnológica parece estar totalmente a favor de la integración de la IA en la atención médica. Esta medida sigue a un informe de The Guardian que reveló que parte de la información proporcionada por la IA era engañosa.
The Guardian informó que Google eliminó los resúmenes de búsqueda generados por IA para las consultas «¿cuál es el rango normal para los análisis de sangre del hígado?» y «¿cuál es el rango normal para las pruebas de función hepática?». Ahora, estas búsquedas presentan extractos cortos de los resultados de búsqueda tradicionales en lugar de las descripciones generales de IA.
Según The Guardian, las descripciones generales de IA para esas búsquedas relacionadas con el hígado habían «ofrecido información de salud inexacta y puesto a las personas en riesgo de daño». Los resúmenes, según los informes, daban «montones de números, poco contexto y ninguna consideración de la nacionalidad, el sexo, la etnia o la edad de los pacientes».
The Guardian citó a expertos que advirtieron que estos resultados podrían ser peligrosos. Alguien con enfermedad hepática, por ejemplo, podría retrasar la atención de seguimiento si confía en una definición generada por IA de lo que es normal.
Un portavoz de Google declaró: «Invertimos significativamente en la calidad de las descripciones generales de IA, particularmente para temas como la salud, y la gran mayoría proporciona información precisa. Nuestro equipo interno de médicos revisó lo que se compartió con nosotros y descubrió que, en muchos casos, la información no era inexacta y también estaba respaldada por sitios web de alta calidad. En los casos en que las descripciones generales de IA omiten algún contexto, trabajamos para realizar mejoras amplias y también tomamos medidas según nuestras políticas cuando corresponde».
Estas eliminaciones se producen a medida que más personas buscan respuestas de salud en la IA. La industria ve esto y está respondiendo.
OpenAI, la empresa detrás de ChatGPT, declaró que aproximadamente una cuarta parte de sus 800 millones de usuarios habituales envían un mensaje relacionado con la atención médica cada semana, y más de 40 millones lo hacen diariamente.
Días después, OpenAI lanzó ChatGPT Health, una experiencia centrada en la salud que se conecta con los registros médicos, las aplicaciones de bienestar y los dispositivos portátiles de los usuarios. Poco después, anunciaron la adquisición de la startup de atención médica Torch, que rastrea registros médicos como resultados de laboratorio, grabaciones de visitas al médico y medicamentos.
Anthropic también está en la carrera. Recientemente anunciaron un nuevo conjunto de herramientas de IA que permite a los proveedores de atención médica, las aseguradoras y los pacientes utilizar su chatbot Claude con fines médicos.
Anthropic dice que sus herramientas pueden agilizar tareas como las solicitudes de autorización previa y las comunicaciones con los pacientes para hospitales y compañías de seguros. Los pacientes pueden dar a Claude acceso a los resultados de laboratorio y los registros de salud para generar resúmenes y explicaciones en lenguaje sencillo.
Errores médicos de la IA: ¿una llamada de atención?
Imagine confiar en un chatbot de IA para interpretar un resultado de laboratorio crítico. Para los hospitales y las compañías de seguros, Anthropic dice que las herramientas pueden ayudar a agilizar tareas como las solicitudes de autorización previa y las comunicaciones con los pacientes, ahorrando tiempo y recursos. Pero, ¿deberían depender las vidas de los algoritmos?
¿Qué tan precisos suelen ser los resúmenes de salud de la IA?
Google afirma que la «gran mayoría» de sus descripciones generales de IA proporciona información precisa, especialmente para temas de salud. Sin embargo, el incidente con las pruebas de función hepática destaca una falla crítica: incluso si es mayormente precisa, la IA aún puede omitir contexto vital, como la edad, el sexo, la etnia o las afecciones preexistentes de un paciente. Si la IA es un mapa, estos detalles faltantes son como puntos de referencia cruciales borrados, dejándote varado.
¿Qué medidas existen para corregir las imprecisiones de la IA en la información de salud?
Google dice que tiene un equipo interno de médicos que revisan la información marcada. También afirman que «trabajan para realizar mejoras amplias» cuando las descripciones generales de IA omiten contexto y toman medidas según sus políticas. Pero seamos honestos: confiar en la revisión interna después del hecho es un enfoque reactivo, como instalar bolsas de aire después del accidente automovilístico.
A medida que la IA avanza en la atención médica, incluso los pequeños errores o la falta de contexto pueden tener grandes consecuencias para los pacientes.
La prisa por integrar: ¿estamos listos?
OpenAI dice que aproximadamente una cuarta parte de sus 800 millones de usuarios habituales envían un mensaje relacionado con la atención médica cada semana, y más de 40 millones lo hacen diariamente. OpenAI, Anthropic e incluso Google parecen ansiosos por posicionarse como socios indispensables en el ecosistema de la atención médica. Pero, ¿es esto una verdadera innovación o una apropiación de tierras?
¿Cuáles son los riesgos potenciales de usar la IA para obtener información de salud?
Los riesgos son significativos: información inexacta, falta de contexto y un posible retraso en la búsqueda de atención médica adecuada. También está el tema de la privacidad de los datos. ¿Quién tiene acceso a sus registros médicos cuando los comparte con un chatbot de IA? ¿Cómo se utilizan esos datos? ¿Qué medidas de seguridad existen para proteger su información de salud más confidencial?
A medida que la IA avanza en la atención médica, incluso los errores menores o la falta de contexto pueden tener consecuencias significativas para los pacientes. 2026 es el año en que las empresas de IA quieren manejar su salud. Queda por ver si estas empresas están realmente listas para asumir esa responsabilidad. Pero, ¿están los pacientes listos para confiar en ellas?
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
