Künstliche Intelligenz ist nicht Ihr Arzt, seien Sie bei der Beratung vorsichtig

Chatbots verändern die Art und Weise, wie wir denken, lernen und die Welt um uns herum wahrnehmen. Diese Art der Transformation ist in vielen Lebensbereichen offensichtlich, aber einer der vielleicht heikelsten und oft besorgniserregendsten ist der zunehmende Einsatz von Tools der generativen künstlichen Intelligenz (GenAI) im Gesundheitswesen. ESET, ein weltweit führendes Unternehmen im Bereich Cybersicherheit, hat davor gewarnt, dass der Einsatz künstlicher Intelligenz zur Einholung medizinischer Beratung Sicherheits- und Datenschutzrisiken bergen könnte. Er listete die Risiken auf und teilte seine Empfehlungen mit, wie man sicher bleiben kann.

Neben einer Reihe kostenloser KI-Chatbots sind große Technologieunternehmen mit der Einführung von Diensten wie Copilot Health, ChatGPT Health und Amazons HealthAI in den KI-Bereich für Verbrauchergesundheit eingestiegen, die Benutzern dabei helfen, ihre Krankenakten zu interpretieren und Fragen zu ihren Symptomen, Laborergebnissen und Behandlungsoptionen zu stellen. Zu erwarten, dass ein KI-Tool die Rolle eines Arztes übernimmt, birgt einige Risiken. Das Risiko besteht nicht nur darin, dass Benutzer falsche Ratschläge erhalten, sondern auch darin, dass sie hochsensible persönliche Informationen an Systeme weitergeben, deren Datenschutz, Datenaustauschpraktiken und rechtliche Verpflichtungen sich möglicherweise von denen eines Arztes oder Krankenhauses unterscheiden, und dass ihre Daten unerwarteten Organisationen ausgesetzt werden. Laut einer US-amerikanischen Patientensicherheitsorganisation ist der Missbrauch von KI-Chatbots im Allgemeinen mittlerweile die größte Bedrohung in der Gesundheitstechnologie.

Laut Microsoft sprechen Menschen auf ihren Mobilgeräten mehr über ihre eigene Gesundheit und die Gesundheit ihrer Lieben als über jedes andere Thema. Chatbots sind rund um die Uhr verfügbar und sprechen in einem selbstbewussten Ton, der nervösen Patienten hilft, sich zu beruhigen und gleichzeitig auf alles eine Antwort zu geben. In einer Zeit, in der die nationalen Gesundheitssysteme zunehmend unter Druck stehen, werden viele Menschen wahrscheinlich mithilfe von KI eine Selbstdiagnose stellen, bevor sie sich entscheiden, medizinische Hilfe in Anspruch zu nehmen.  Es sind jedoch bereits einige Bedenken aufgetaucht. Die erste davon sind Halluzinationen oder falsche Ratschläge. Eine im Februar in der Fachzeitschrift „Nature Medicine“ veröffentlichte Studie der Universität Oxford ergab Folgendes: Benutzer wissen oft nicht, welche Informationen sie LLM mitteilen sollen;  LLMs geben sehr unterschiedliche Antworten, selbst wenn die ihnen gestellten Fragen leicht variieren, und Modelle geben oft sowohl gute als auch schlechte Ratschläge, aber Benutzern fällt es schwer, zwischen beiden zu unterscheiden. Laut dem Chefarzt der Studie ist künstliche Intelligenz trotz aller Aufregung noch nicht bereit, die Rolle eines Arztes zu übernehmen. Patienten sollten sich darüber im Klaren sein, dass es gefährlich sein kann, ein umfassendes Sprachmodell zu ihren Symptomen zu konsultieren, da dies zu Fehldiagnosen führen und nicht erkennen kann, wann sofortige Hilfe erforderlich ist. 

Privatsphärenrisiken durch künstliche Intelligenz

Es gibt auch nicht gesundheitsbezogene Risiken, die den Einzelnen dazu zwingen, einen Moment innezuhalten und nachzudenken. Das Teilen sensibler medizinischer Informationen mit einem öffentlichen Chatbot könnte bedeuten, dass die Daten zum Trainieren des Modells verwendet und daher an andere weitergegeben werden. Es ist bekannt, dass Models versehentlich, wenn auch unbeabsichtigt, von ihren Benutzern eingegebene Daten preisgeben. Ihre Gesundheitsdaten sind nicht wie eine gestohlene Kreditkarte, die eingefroren werden kann, während ihre Informationen geändert und neu geordnet werden. Es gehört Ihnen ein Leben lang, und wenn es mit einem KI-Tool geteilt wird, kann es zu einer dauerhaften digitalen Aufzeichnung werden. Die meisten großen gesundheitsorientierten Chatbots versprechen, diese Daten nicht für Bildungszwecke zu verwenden. Bildung ist nur ein Teil des Datenschutzes, und Dienste machen möglicherweise nicht die gleichen Versprechen, wenn es um die Weitergabe von Daten an Dritte geht. Ihre persönlichen medizinischen Daten können von einem Datensammler, einem Dritten zwischen dem Modellanbieter und Ihrem Gesundheitsdienstleister, eingeholt werden. Sie können auch direkt oder über einen dieser Aggregatoren an Werbetreibende weitergegeben werden, obwohl sie vor der Verwendung normalerweise anonymisiert werden. Gesundheitsdaten sind außerordentlich sensibel und die Anonymisierung eliminiert nicht immer alle Risiken.

Wenn sich das Risiko eines Verstoßes vervielfacht

Gesundheitsdaten können aus verschiedenen Gründen von Betrügern in hohem Maße monetarisiert werden. Es behält seinen Wert lange, da es in der Regel nicht verändert oder umgestaltet werden kann.Es kann Versicherungsinformationen enthalten, die dazu verwendet werden können, betrügerische Ansprüche geltend zu machen oder in Ihrem Namen medizinische Leistungen in Anspruch zu nehmen. Es kann verwendet werden, um Sie zu erpressen. Je mehr Unternehmen über diese Daten verfügen, desto wahrscheinlicher ist es, dass Hacker diese Daten beschlagnahmen und stehlen. 

Seien Sie vorsichtig, was Sie mit KI teilen

Wenn Sie sich Sorgen über ein Gesundheitsproblem machen, halten Sie sich von Allzweck-Bots fern und wählen Sie stattdessen Bots, die speziell für die Beantwortung gesundheitsbezogener Fragen entwickelt wurden. Prüfen Sie, ob der Dienst offenlegt, wie er Ihre Daten verarbeitet, von Ihnen eingegebene Befehle zu Schulungszwecken verwendet, Informationen an Dritte weitergibt und einer Datenschutzrichtlinie unterliegt. Vertrauen Sie der Ausgabe nicht blind, wenn es keine zu überprüfenden Quelllinks gibt. Akzeptieren Sie Antworten nicht als absolute Wahrheit: Konsultieren Sie immer einen Arzt oder eine offizielle Website.

Um Ihre Privatsphäre zu schützen, beachten Sie Folgendes:

• Teilen oder laden Sie niemals medizinische Dokumente, Laborergebnisse oder andere sensible Dokumente mit einem KI-Tool hoch, es sei denn, Sie verstehen, wie die Tools diese Daten verarbeiten.
• Vermeiden Sie die Eingabe von Namen, Adresse, Versicherungsinformationen, Patientennummern oder anderen identifizierenden Informationen. Vermeiden Sie es.
• Stellen Sie sicher, dass die Aufklärungs- und Chatverlaufsfunktionen deaktiviert sind.
• Geben Sie die für die Aufgabe erforderlichen Mindestinformationen weiter.
• Gehen Sie davon aus, dass alles, was Sie eingeben, zurückgehalten oder offengelegt werden kann, und passen Sie Ihre Befehle entsprechend an.

KI-Chatbots können beim Brainstorming von Fragen nützlich sein, um Ihrem Arzt Fragen zu einer bestimmten Erkrankung zu stellen oder einen medizinischen Begriff zu erklären, mit dem Sie nicht vertraut sind. Es besteht jedoch ein großer Unterschied zwischen dem Einsatz von KI zur Vorbereitung auf die medizinische Versorgung und dem Einsatz von KI als Ersatz für die medizinische Versorgung. Akzeptieren Sie eine sichere Antwort nicht als Diagnose und ignorieren Sie nicht unmittelbare Symptome, nur weil eine Maschine Sie beruhigt.