La inteligencia artificial (IA) está transformando la manera en que las personas buscan información, toman decisiones y gestionan aspectos cotidianos de su vida. Uno de los ámbitos donde este impacto resulta más evidente, y también más sensible, es la salud.
En los últimos años, grandes compañías tecnológicas han impulsado herramientas de IA generativa orientadas al bienestar y la atención médica. Servicios como Copilot Health, ChatGPT Health y Amazon HealthAI permiten a los usuarios interpretar historiales clínicos, consultar síntomas, comprender resultados de laboratorio y explorar posibles tratamientos. Sin embargo, desde ESET, compañía líder en detección proactiva de amenazas, alertan sobre los riesgos de confiar en estas plataformas como sustitutos del criterio médico profesional.
“El riesgo no es solo recibir un consejo incorrecto, sino también compartir información altamente sensible con sistemas cuyas políticas de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir significativamente de las de un médico o un hospital.
Esto aumenta las posibilidades de que los datos terminen expuestos a entidades inesperadas”, explica Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica.
La popularidad de estas herramientas no sorprende. Según Microsoft, las personas utilizan sus dispositivos móviles para hablar de temas relacionados con la salud más que de cualquier otro asunto. La disponibilidad permanente de los chatbots, capaces de responder en cualquier momento y con un tono convincente, los convierte en una opción atractiva para quienes buscan orientación rápida o tranquilidad frente a una preocupación médica.
Además, en un contexto donde los sistemas de salud enfrentan crecientes presiones y limitaciones de recursos, cada vez más usuarios recurren a la IA para realizar una primera evaluación de sus síntomas antes de decidir si necesitan atención profesional.
El riesgo de los diagnósticos erróneos
A pesar de sus avances, los especialistas advierten que los modelos de IA aún presentan limitaciones importantes. Una de las principales preocupaciones son las llamadas “alucinaciones”, es decir, respuestas incorrectas o engañosas presentadas como información confiable.
Un estudio realizado por la Universidad de Oxford y publicado en febrero en la revista Nature Medicine reveló que muchos usuarios no saben qué información médica deben proporcionar a los sistemas de IA para obtener respuestas adecuadas. La investigación también encontró que pequeñas variaciones en una misma consulta podían generar respuestas significativamente diferentes y que los usuarios tenían dificultades para distinguir entre recomendaciones correctas y equivocadas.
“A pesar de todo el entusiasmo, la IA simplemente no está lista para asumir el rol de médico”, advirtió la doctora Rebecca Payne, autora principal del estudio. “Los pacientes deben ser conscientes de que consultar sus síntomas con un modelo de lenguaje puede resultar peligroso, generar diagnósticos erróneos y no identificar situaciones que requieren atención médica urgente”.
Privacidad bajo la lupa
Privacidad bajo la lupa
Más allá de la precisión de las respuestas, la privacidad representa otro de los grandes desafíos. Compartir información médica con un chatbot público puede implicar que esos datos sean almacenados o utilizados para mejorar los modelos de IA, dependiendo de las políticas de cada proveedor.
Aunque varios servicios especializados en salud aseguran que no utilizan esta información para entrenar sus sistemas, el tratamiento de los datos va más allá del entrenamiento. Los usuarios deben comprender qué ocurre con su información, quién puede acceder a ella y con qué terceros podría compartirse.
La información médica puede terminar en manos de intermediarios de datos que actúan como puente entre proveedores tecnológicos y organizaciones sanitarias. También existe la posibilidad de que sea utilizada con fines publicitarios, generalmente tras procesos de anonimización que, aunque reducen riesgos, no los eliminan por completo.
Datos de salud: un objetivo valioso para los ciberdelincuentes
La circulación de datos médicos entre múltiples organizaciones incrementa las posibilidades de exposición ante ciberataques. Según legisladores estadounidenses, diversas brechas de seguridad en empresas intermediarias de datos han provocado pérdidas estimadas en 21.000 millones de dólares.
Los registros médicos resultan especialmente atractivos para los ciberdelincuentes porque conservan su valor durante largos períodos. Además de información personal, pueden contener datos de seguros médicos susceptibles de ser utilizados para fraudes, reclamaciones falsas o incluso extorsiones.
“Cuantas más organizaciones tengan acceso a estos datos, más oportunidades existen para que los atacantes los roben. El desafío es que muchas herramientas de IA para salud no están sujetas a regulaciones como HIPAA, ya que son consideradas servicios de consumo y no plataformas sanitarias empresariales. Esto significa que sus proveedores podrían no estar obligados a cumplir con los mismos estándares de protección de datos que se esperan en el sector de la salud”, concluye Micucci.
Desde ESET recomiendan utilizar estas herramientas únicamente como apoyo informativo y no como sustituto de la consulta con profesionales de la salud. Asimismo, aconsejan revisar cuidadosamente las políticas de privacidad antes de compartir cualquier dato médico o personal sensible.
