La inteligencia artificial no es tu médico, ten cuidado al consultar

Los chatbots están cambiando la forma en que pensamos, aprendemos y percibimos el mundo que nos rodea. Este tipo de transformación es evidente en muchas áreas de la vida, pero quizás una de las más sensibles y a menudo preocupantes sea el uso cada vez mayor de herramientas de inteligencia artificial generativa (GenAI) para la atención sanitaria. ESET, líder mundial en ciberseguridad, ha advertido que el uso de inteligencia artificial para obtener asesoramiento médico puede exponerlo a riesgos de seguridad y privacidad. Enumeró los riesgos y compartió sus recomendaciones sobre cómo mantenerse seguro.

Junto con una serie de chatbots de IA gratuitos, las principales empresas tecnológicas han entrado en el espacio de la IA para la salud del consumidor con el lanzamiento de servicios como Copilot Health, ChatGPT Health y HealthAI de Amazon, que ayudan a los usuarios a interpretar sus registros médicos y hacer preguntas sobre sus síntomas, resultados de laboratorio y opciones de tratamiento. Esperar que una herramienta de inteligencia artificial asuma el papel de un médico plantea algunos riesgos. El riesgo no es sólo que los usuarios reciban consejos equivocados, sino que compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico u hospital, y que sus datos queden expuestos a organizaciones inesperadas. El uso indebido de los chatbots de IA en general es ahora la principal amenaza en la tecnología sanitaria, según una organización estadounidense de seguridad del paciente.

La gente habla de su propia salud y la de sus seres queridos en sus dispositivos móviles más que de cualquier otro tema, según Microsoft. Los chatbots están disponibles las 24 horas del día, los 7 días de la semana y hablan en un tono seguro que ayuda a tranquilizar a los pacientes nerviosos y ofrece una respuesta para todo. En un momento en el que los sistemas nacionales de salud están cada vez más bajo presión, es probable que muchas personas se autodiagnostiquen con la ayuda de la IA antes de decidir buscar ayuda médica.  Sin embargo, ya han comenzado a surgir algunas preocupaciones. El primero de ellos son las alucinaciones o los falsos consejos. Un estudio de la Universidad de Oxford publicado en febrero en la revista Nature Medicine encontró que: Los usuarios a menudo no saben qué información deben compartir con LLM;  Los LLM dan respuestas muy diferentes incluso cuando las preguntas que se les plantean varían ligeramente, y los modelos suelen dar buenos y malos consejos, pero a los usuarios les resulta difícil distinguir entre los dos. Según el médico jefe del estudio, a pesar de todo este entusiasmo, la inteligencia artificial aún no está preparada para asumir el papel de médico. Los pacientes deben ser conscientes de que consultar un modelo de lenguaje grande sobre sus síntomas puede ser peligroso, ya que puede provocar diagnósticos erróneos y no reconocer cuándo se necesita ayuda inmediata. 

Riesgos de privacidad de la inteligencia artificial

También existen riesgos no relacionados con la salud que requerirán que las personas se detengan y piensen por un momento. Compartir información médica confidencial con un chatbot público podría significar que los datos se utilicen para entrenar el modelo y, por lo tanto, se transmitan a otros. Se sabe que los modelos revelan accidentalmente datos ingresados ​​por sus usuarios, aunque sea sin querer. Sus datos de salud no son como una tarjeta de crédito robada que puede congelarse mientras se cambia y reorganiza su información. Es tuyo de por vida y, cuando se comparte con una herramienta de inteligencia artificial, puede convertirse en un registro digital permanente. La mayoría de los principales chatbots centrados en la salud prometen no utilizar estos datos con fines educativos. La educación es sólo una parte del panorama de la privacidad y es posible que los servicios no hagan las mismas promesas cuando se trata de compartir datos con terceros. Su información médica personal puede ser obtenida por un recolector de datos, un tercero entre el proveedor modelo y su proveedor de atención médica. También se puede compartir con los anunciantes directamente o a través de uno de estos agregadores, aunque normalmente se anonimiza antes de su uso. Los datos de salud son extraordinariamente sensibles y la anonimización no siempre elimina todos los riesgos.

Cuando el riesgo de vulneración se multiplica

Los estafadores pueden monetizar en gran medida los datos de salud por diversas razones. Conserva su valor durante mucho tiempo porque generalmente no se puede cambiar ni reorganizar.Puede contener información del seguro que puede usarse para presentar reclamos fraudulentos u obtener servicios médicos en su nombre. Puede usarse para chantajearte. Cuantas más empresas posean estos datos, más probabilidades habrá de que los piratas informáticos se apoderen de ellos y los roben. 

Ten cuidado con lo que compartes con la IA

Si te preocupa un problema de salud, mantente alejado de los bots de uso general y elige bots diseñados específicamente para responder preguntas relacionadas con la salud. Compruebe si el servicio revela cómo procesa sus datos, utiliza comandos que usted ingresa con fines de capacitación, comparte información con terceros y está cubierto por una regulación de privacidad. No confíe ciegamente en el resultado si no hay enlaces de origen para verificar. No acepte respuestas como verdad absoluta: consulte siempre a un profesional médico o un sitio web oficial.

Para proteger su privacidad, considere lo siguiente:

• Nunca comparta ni cargue documentos médicos, resultados de laboratorio u otros documentos confidenciales con una herramienta de inteligencia artificial a menos que comprenda cómo las herramientas procesan esos datos.
• Evite ingresar nombre, dirección, información del seguro, números de pacientes u otra información de identificación. evitar.
• Asegúrese de que las funciones de educación e historial de chat estén desactivadas.
• Comparta la información mínima necesaria para la tarea.
• Suponga que todo lo que escriba puede ser retenido o divulgado, y ajuste sus comandos en consecuencia.

Los chatbots de IA pueden ser útiles para generar ideas y hacerle preguntas a su médico sobre una afección en particular o para explicar un término médico con el que no está familiarizado. Pero existe una gran diferencia entre usar la IA para prepararse para la atención médica y usarla para reemplazar la atención médica. No acepte una respuesta segura como diagnóstico y no ignore los síntomas inmediatos sólo porque una máquina le tranquiliza.