L'intelligenza artificiale non è il tuo medico, fai attenzione quando consulti

I chatbot stanno cambiando il modo in cui pensiamo, apprendiamo e percepiamo il mondo che ci circonda. Questo tipo di trasformazione è evidente in molti ambiti della vita, ma forse uno dei più sensibili e spesso preoccupanti è il crescente utilizzo di strumenti di intelligenza artificiale generativa (GenAI) per l’assistenza sanitaria. ESET, leader mondiale nella sicurezza informatica, ha avvertito che l’utilizzo dell’intelligenza artificiale per ottenere consulenza medica potrebbe esporre a rischi per la sicurezza e la privacy. Ha elencato i rischi e condiviso i suoi consigli su come stare al sicuro.

Insieme a una serie di chatbot IA gratuiti, le principali aziende tecnologiche sono entrate nello spazio dell'IA per la salute dei consumatori con il lancio di servizi come Copilot Health, ChatGPT Health e HealthAI di Amazon, che aiutano gli utenti a interpretare le loro cartelle cliniche e a porre domande sui loro sintomi, risultati di laboratorio e opzioni di trattamento. Aspettarsi che uno strumento di intelligenza artificiale assuma il ruolo di un medico comporta alcuni rischi. Il rischio non è solo che gli utenti ricevano consigli sbagliati, ma che condividano informazioni personali altamente sensibili con sistemi le cui tutele della privacy, pratiche di condivisione dei dati e obblighi legali possano differire da quelli di un medico o di un ospedale, e che i loro dati siano esposti a organizzazioni inaspettate. Secondo un'organizzazione statunitense per la sicurezza dei pazienti, l'uso improprio dei chatbot IA in generale è ora la minaccia numero uno nella tecnologia sanitaria.

Secondo Microsoft, le persone parlano della propria salute e di quella dei propri cari sui propri dispositivi mobili più di qualsiasi altro argomento. I chatbot sono disponibili 24 ore su 24, 7 giorni su 7 e parlano con un tono sicuro che aiuta a mettere a proprio agio i pazienti nervosi offrendo allo stesso tempo una risposta a tutto. In un momento in cui i sistemi sanitari nazionali sono sempre più sotto pressione, molte persone probabilmente si autodiagnosi con l’aiuto dell’intelligenza artificiale prima di decidere di cercare aiuto medico.  Tuttavia, alcune preoccupazioni hanno già cominciato a emergere. Il primo di questi sono allucinazioni o falsi consigli. Uno studio dell'Università di Oxford pubblicato a febbraio sulla rivista Nature Medicine ha rilevato che: gli utenti spesso non sanno quali informazioni dovrebbero condividere con LLM;  Gli LLM danno risposte molto diverse anche quando le domande poste loro variano leggermente e i modelli spesso danno sia consigli buoni che cattivi, ma gli utenti hanno difficoltà a distinguere tra i due. Secondo il primario dello studio, nonostante tutta questa eccitazione, l’intelligenza artificiale non è ancora pronta per assumere il ruolo di medico. I pazienti devono essere consapevoli che consultare un ampio modello linguistico sui propri sintomi può essere pericoloso, con il risultato di diagnosi errate e di non riconoscere quando è necessario un aiuto immediato. 

Rischi per la privacy legati all'intelligenza artificiale

Esistono anche rischi non legati alla salute che richiederanno alle persone di fermarsi e pensare per un momento. Condividere informazioni mediche sensibili con un chatbot pubblico potrebbe significare che i dati vengono utilizzati per addestrare il modello e quindi trasmessi ad altri. È noto che i modelli divulgano accidentalmente i dati inseriti dai loro utenti, anche se involontariamente. I tuoi dati sanitari non sono come una carta di credito rubata che può essere congelata mentre le sue informazioni vengono modificate e riorganizzate. È tuo per tutta la vita e, se condiviso con uno strumento di intelligenza artificiale, può diventare un record digitale permanente. La maggior parte dei principali chatbot focalizzati sulla salute promettono di non utilizzare questi dati per scopi educativi. L’istruzione è solo una parte del quadro della privacy e i servizi potrebbero non fare le stesse promesse quando si tratta di condivisione dei dati con terze parti. Le tue informazioni mediche personali possono essere ottenute da un raccoglitore di dati, una terza parte tra il fornitore del modello e il tuo fornitore di servizi sanitari. Può anche essere condiviso con gli inserzionisti direttamente o tramite uno di questi aggregatori, sebbene di solito venga reso anonimo prima dell'uso. I dati sanitari sono straordinariamente sensibili e l'anonimizzazione non sempre elimina tutti i rischi.

Quando il rischio di violazione si moltiplica

I dati sanitari possono essere altamente monetizzati dai truffatori per una serie di motivi. Mantiene il suo valore a lungo perché generalmente non può essere modificato o riorganizzato.Potrebbe contenere informazioni assicurative che possono essere utilizzate per presentare richieste di risarcimento fraudolente o ottenere servizi medici per tuo conto. Può essere usato per ricattarti. Più aziende detengono questi dati, più è probabile che gli hacker sequestrino e rubino questi dati. 

Fai attenzione a ciò che condividi con l'intelligenza artificiale

Se sei preoccupato per un problema di salute, stai lontano dai bot generici e scegli invece bot appositamente progettati per rispondere a domande relative alla salute. Controlla se il servizio rivela come elabora i tuoi dati, utilizza i comandi che inserisci per scopi di formazione, condivide informazioni con terze parti ed è coperto da una normativa sulla privacy. Non fidarti ciecamente dell'output se non ci sono collegamenti sorgente da verificare. Non accettare le risposte come verità assoluta: consulta sempre un medico o un sito Web ufficiale.

Per proteggere la tua privacy, considera quanto segue:

• Non condividere o caricare mai documenti medici, risultati di laboratorio o altri documenti sensibili con uno strumento di intelligenza artificiale a meno che tu non comprenda come gli strumenti elaborano tali dati.
• Evita di inserire nome, indirizzo, informazioni sull'assicurazione, numeri dei pazienti o altre informazioni identificative. da evitare.
• Assicurati che le funzionalità di formazione e cronologia chat siano disattivate.
• Condividi le informazioni minime necessarie per l'attività.
• Presumi che tutto ciò che digiti potrebbe essere nascosto o divulgato e modifica i tuoi comandi di conseguenza.

I chatbot con intelligenza artificiale possono essere utili per fare brainstorming su domande da porre al tuo medico su una condizione particolare o per spiegare un termine medico con cui non hai familiarità. Ma c’è una grande differenza tra l’utilizzo dell’intelligenza artificiale per prepararsi all’assistenza medica e l’utilizzo dell’intelligenza artificiale per sostituire l’assistenza medica. Non accettare una risposta sicura come diagnosi e non ignorare i sintomi immediati solo perché una macchina ti mette a tuo agio.