Die Künstliche Intelligenz (KI) ist klug, aber nicht allwissend. Sie kann einem helfen, den Alltag zu erleichtern, doch jeden Ratschlag sollte man nicht ungeprüft annehmen. Dies musste ein 60-jähriger Mann am eigenen Leib erfahren. Um seine Ernährungsweise gesünder zu gestalten, wollte er Kochsalz (Natriumchlorid) aus seiner Ernährung streichen. Er bat ChatGPT um einen ebenbürtigen Ersatz – dieser schlug ihm Natriumbromid vor. Die Konsequenz: Nach dreimonatiger Einnahme wurde der Mann mit Paranoia aufgrund einer Bromvergiftung in die Notaufnahme eingeliefert.
Ein kürzlich erschienener Case Report im Annals of Internal Medicine berichtet von einem kuriosen Fall, bei dem sich ein 60-jähriger Mann mit akuten Halluzinationen und Paranoia in die Notaufnahme begeben hatte. Er hatte die Vermutung, von seinem Nachbarn vergiftet zu werden. Bei der Aufnahme erschien er den Ärzten sehr durstig, hatte aber Bedenken, das ihm angebotene Wasser anzunehmen. Zuhause destillierte er sein Wasser selbst und hatte auch sonst einige Ernährungseinschränkungen durchgesetzt, berichtete er weiter.
KI gibt Ernährungsratschlag
Der Mann erwähnte, dass er über die negativen Effekte der Natriumchlorid-Einnahme (Kochsalz) gelesen habe. Aufgrund seiner sehr strikten vegetarischen Ernährungsweise konnten auch mehrere Mikronährstoffmängel festgestellt werden – darunter auch Vitamin B12, Vitamin C und Folsäure.
Er wollte nun einen Selbstversuch durchführen und Kochsalz für drei Monate aus seinem Ernährungsplan streichen. Hier geschah der fatale Fehler: Nach Befragung von ChatGPT ersetzte er Natriumchlorid durch Natriumbromid, da es laut der KI als möglicher Ersatz galt. Allerdings war diese Information offenbar auf völlig andere Anwendungsbereiche bezogen – insbesondere industrielle oder technische Reinigungsprozesse – und nicht auf die Verwendung im menschlichen Körper oder als Lebensmittelzusatz.
Vermutlich erfolgte die Anfrage des Patienten an ChatGPT 3.5. Diese Version nannte auch den Wissenschaftlern Bromid als möglichen Ersatz für Chlorid, ohne eine medizinische Kontextprüfung. Ohne Zugriff auf die konkrete Chat-Protokollversion ließ sich dies jedoch nicht mit Sicherheit belegen, so die Studienautoren.
Bromismus
Das Halogensalz Natriumbromid wurde früher aufgrund seiner sedierenden und antiepileptischen Wirkung eingesetzt. Die Anwendung am Menschen ist mittlerweile obsolet. Eine Vergiftung mit Bromid – Bromismus genannt – war Anfang des 20. Jahrhunderts ein bekanntes Krankheitsbild. Es ging mit vielfältigen neuropsychiatrischen und dermatologischen Symptomen einher. Da Bromidsalze damals in vielen frei verkäuflichen Medikamenten enthalten waren, soll es für bis zu 8 Prozent der psychiatrischen Klinikaufnahmen in den USA verantwortlich gewesen sein.
Verlauf und Diagnose
In der medizinischen Geschichte des Mannes gab es zuvor keine Fälle von psychiatrischen Erkrankungen. Bei der Blutabnahme zeigte sich eine deutliche Hyperchlorämie (erhöhte Chloridwerte), eine deutliche Anionenlücke und ein erniedrigter Phosphatwert. Basierend auf den Blutwerten wurde eine Pseudo-Hyperchlorämie vermutet. In einer Ausschlussdiagnose konnte – aufgrund der Salicylatspiegel im Blut im Normbereich sowie der unauffälligen Nüchternlipidwerte – Bromismus als die plausibelste verbleibende Diagnose eingegrenzt werden.
Innerhalb der ersten 24 Stunden verschlechterte sich der Zustand des Mannes. Die Paranoia verstärkte sich, ebenso die visuellen und auditiven Halluzinationen. Der Mann versuchte zu fliehen und wurde ruhiggestellt. Mit einer gezielten Behandlung besserten sich die Blutwerte und der mentale Zustand des Mannes innerhalb von drei Wochen.
Gezieltes Erfragen von Gesundheitsquellen
Die Studienautoren bekräftigen: „Der Fall verdeutlicht, dass der Einsatz von KI wie ChatGPT zu vermeidbaren Gesundheitsschäden beitragen kann. KI-Systeme können wissenschaftliche Ungenauigkeiten generieren, Ergebnisse jedoch nicht kritisch hinterfragen und so zur Verbreitung von Fehlinformationen beitragen. Während sie eine wertvolle Brücke zwischen Wissenschaft und Öffentlichkeit schlagen können, bergen sie zugleich das Risiko, missverständliche, aus dem Zusammenhang gerissene Inhalte zu liefern. Mit zunehmender Verbreitung solcher Werkzeuge sollten medizinische Fachkräfte daher gezielt erfragen, aus welchen Quellen ihre Patient:innen gesundheitsrelevante Informationen beziehen.“
Obwohl Bromismus heute selten ist, raten die Studienautoren, diesen „weiterhin als reversible Ursache neu auftretender psychiatrischer, neurologischer und dermatologischer Symptome“ zu beachten, zumal bromidhaltige Substanzen durch die Verbreitung über das Internet leichter zugänglich geworden sind.