L'intelligence artificielle n'est pas votre médecin, soyez prudent lors de votre consultation

Les chatbots changent notre façon de penser, d'apprendre et de percevoir le monde qui nous entoure. Ce type de transformation est évident dans de nombreux domaines de la vie, mais l’un des plus sensibles et souvent inquiétants est peut-être l’utilisation croissante des outils d’intelligence artificielle générative (GenAI) pour les soins de santé. ESET, leader mondial de la cybersécurité, a averti que l'utilisation de l'intelligence artificielle pour obtenir des conseils médicaux peut l'exposer à des risques en matière de sécurité et de confidentialité. Il a énuméré les risques et partagé ses recommandations sur la façon de rester en sécurité.

Outre un certain nombre de chatbots d'IA gratuits, de grandes entreprises technologiques sont entrées dans l'espace de l'IA de santé grand public avec le lancement de services tels que Copilot Health, ChatGPT Health et HealthAI d'Amazon, qui aident les utilisateurs à interpréter leurs dossiers médicaux et à poser des questions sur leurs symptômes, leurs résultats de laboratoire et leurs options de traitement. S’attendre à ce qu’un outil d’IA assume le rôle d’un médecin présente certains risques. Le risque n'est pas seulement que les utilisateurs reçoivent de mauvais conseils, mais qu'ils partagent des informations personnelles hautement sensibles avec des systèmes dont les protections de la vie privée, les pratiques de partage de données et les obligations légales peuvent différer de celles d'un médecin ou d'un hôpital, et que leurs données soient exposées à des organisations inattendues. Selon une organisation américaine chargée de la sécurité des patients, l'utilisation abusive des chatbots IA en général constitue désormais la menace numéro un dans le domaine des technologies de santé.

Les gens parlent de leur propre santé et de celle de leurs proches sur leurs appareils mobiles plus que de tout autre sujet, selon Microsoft. Les chatbots sont disponibles 24h/24 et 7j/7 et parlent avec un ton confiant qui permet de mettre les patients nerveux à l'aise tout en offrant une réponse à tout. À une époque où les systèmes de santé nationaux sont de plus en plus sous pression, de nombreuses personnes s’auto-diagnostiqueront probablement à l’aide de l’IA avant de décider de consulter un médecin.  Cependant, certaines inquiétudes ont déjà commencé à émerger. Le premier d’entre eux concerne les hallucinations ou les faux conseils. Une étude de l'Université d'Oxford publiée en février dans la revue Nature Medicine a révélé que : Les utilisateurs ne savent souvent pas quelles informations ils doivent partager avec LLM ;  Les LLM donnent des réponses très différentes même lorsque les questions qui leur sont posées varient légèrement, et les modèles donnent souvent à la fois de bons et de mauvais conseils, mais les utilisateurs ont du mal à faire la distinction entre les deux. Selon le médecin-chef de l’étude, malgré tout cet engouement, l’intelligence artificielle n’est pas encore prête à assumer le rôle de médecin. Les patients doivent être conscients que consulter un grand modèle de langage au sujet de leurs symptômes peut être dangereux, entraînant des diagnostics erronés et ne pas reconnaître quand une aide immédiate est nécessaire. 

Risques liés à la confidentialité de l'intelligence artificielle

Il existe également des risques non liés à la santé qui obligeront les individus à s'arrêter et à réfléchir un instant. Partager des informations médicales sensibles avec un chatbot public pourrait signifier que les données sont utilisées pour entraîner le modèle et donc transmises à d'autres. Il est connu que des modèles divulguent accidentellement des données saisies par leurs utilisateurs, bien que involontairement. Vos données de santé ne sont pas comme une carte de crédit volée qui peut être gelée pendant que ses informations sont modifiées et réorganisées. Il vous appartient à vie et lorsqu'il est partagé avec un outil d'IA, il peut devenir un enregistrement numérique permanent. La plupart des grands chatbots axés sur la santé promettent de ne pas utiliser ces données à des fins éducatives. L’éducation n’est qu’un élément du problème de la confidentialité, et les services peuvent ne pas faire les mêmes promesses en matière de partage de données avec des tiers. Vos informations médicales personnelles peuvent être obtenues par un collecteur de données, un tiers entre le fournisseur modèle et votre prestataire de soins de santé. Elles peuvent également être partagées avec les annonceurs directement ou via l'un de ces agrégateurs, bien qu'elles soient généralement anonymisées avant utilisation. Les données de santé sont extrêmement sensibles et l'anonymisation n'élimine pas toujours tous les risques.

Lorsque le risque de violation se multiplie

Les données de santé peuvent être fortement monétisées par les fraudeurs pour diverses raisons. Il conserve sa valeur pendant longtemps car il ne peut généralement pas être modifié ou réorganisé.Il peut contenir des informations d'assurance qui peuvent être utilisées pour soumettre des réclamations frauduleuses ou obtenir des services médicaux en votre nom. Cela peut être utilisé pour vous faire chanter. Plus les entreprises détiennent ces données, plus les pirates sont susceptibles de les saisir et de les voler. 

Faites attention à ce que vous partagez avec l'IA

Si vous êtes préoccupé par un problème de santé, éloignez-vous des robots à usage général et choisissez plutôt des robots spécialement conçus pour répondre aux questions liées à la santé. Vérifiez si le service divulgue la manière dont il traite vos données, utilise les commandes que vous saisissez à des fins de formation, partage des informations avec des tiers et est couvert par une réglementation sur la confidentialité. Ne faites pas aveuglément confiance à la sortie s'il n'y a aucun lien source à vérifier. N'acceptez pas les réponses comme une vérité absolue : consultez toujours un professionnel de la santé ou un site Web officiel.

Pour protéger votre vie privée, tenez compte des points suivants :

• Ne partagez ou ne téléchargez jamais de documents médicaux, de résultats de laboratoire ou d'autres documents sensibles avec un outil d'IA à moins de comprendre comment les outils traitent ces données.
• Évitez de saisir le nom, l'adresse, les informations d'assurance, les numéros de patient ou d'autres informations d'identification. à éviter.
• Assurez-vous que les fonctionnalités d'éducation et d'historique des discussions sont désactivées.
• Partagez le minimum d'informations nécessaire à la tâche.
• Supposez que tout ce que vous tapez peut être caché ou divulgué, et ajustez vos commandes en conséquence.

Les chatbots IA peuvent être utiles pour réfléchir à des questions à poser à votre médecin sur une condition particulière ou pour expliquer un terme médical que vous ne connaissez pas. Mais il existe une grande différence entre utiliser l’IA pour préparer des soins médicaux et utiliser l’IA pour remplacer les soins médicaux. N'acceptez pas une réponse sûre comme diagnostic et n'ignorez pas les symptômes immédiats simplement parce qu'une machine vous met à l'aise.