Ärzte qua KI-Lockvögel: Die gefährliche Medizin welcher Deepfake-Mafia

Moringa ist ein echter Gamechanger. Viele Gesundheitsprobleme kommen schlicht durch Vitamin- und Mineralstoffmangel, und die Lösung ist simpel: Nimm einfach zwei Kapseln Moringa pro Tag. Aber sei vorsichtig, Moringa wird gerade superbeliebt, und es gibt viele Fake-Marken. Ich vertraue nur auf…“ Sagt der Ernährungsmediziner Matthias Riedl in einem Clip auf Social Media. Ein bisschen vermorpht sieht er aus, auch seine Intonation ist seltsam, und erst die Stimme – so hat er noch nie geklungen. Gut aber, dass er vor Fakes warnt, denn damit wären wir beim Thema.

Der Matthias Riedl in dem Video ist nämlich nicht der Matthias Riedl aus den „Ernährungs-Docs“ vom NDR, er ist nicht der Matthias Riedl, der mit der Journalistin Elisabeth Jessen einen Podcast bestreitet, und ebenso wenig der Matthias Riedl, der mit dem Koch Tarik Rose am Herd steht. Der vom vermeintlichen Superfood Moringa so begeisterte Matthias Riedl ist eine KI-erzeugte Deepfake-Figur, die Verbraucher täuschen und zum Kauf von Nahrungsergänzungsmitteln animieren soll.

Seitdem bekannt wurde, dass Collien Fernandes ihren Ex-Ehemann Christian Ulmen wegen Identitätsdiebstahls, öffentlicher Beleidigung und Körperverletzung angezeigt hat, wird laufend über Deepfakes und deren zersetzende Kraft berichtet. Dem Cybersicherheitsunternehmen Surfshark zufolge haben Betrüger 2025 weltweit etwa 930 Millionen Euro mithilfe von Deepfakes erschwindelt. Gefälschte Prominentenwerbung ist dabei ein eigenes Genre, zu den Betroffenen zählen Barbara Schöneberger, Markus Lanz, Günther Jauch oder Anja Kohl.

Zunehmend wird auch mit Kliniken oder Ärzten KI-Reklame gemacht. Die Charité teilt auf ihrer Homepage mit, „kriminelle Händler und Organisationen nutzen die gute Reputation“ des Krankenhauses zur „Bewerbung von minderwertigen Produkten“. Man könne entsprechende Kampagnen auf Tiktok, Youtube, Instagram oder Facebook finden, präsentiert würden dort zum Beispiel Blutzuckermessgeräte oder Abnehmpflaster. Stoße man auf Annoncen, in denen der Virologe Christian Drosten Medikamente gegen Diabetes Typ 2 oder zur Reinigung der Blutgefäße anpreist, handle es sich um Schwindel.

Auch der Ernährungsmediziner und F.A.Z.-Kolumnist Andreas Michalsen kennt das Problem. „Das ging schnell los, nachdem ich mich auf Instagram angemeldet hatte, wobei die ersten Fakes so dilettantisch waren, dass es mich nicht genervt hat.“ Gezeigt wurde etwa ein von Würmern befallener Bauchraum, beworben eine Arznei gegen die Parasiten. „Schon da gab es Leute, die sich gemeldet haben, um sich nach dem Mittel zu erkundigen. Inzwischen erreichen mich solche Anfragen täglich.“ Leute werben in Michalsens Namen auch mit Heilpilzen, was arglistig ist, weil er zu dem Thema eine Studie veröffentlicht hat. „Und seit einigen Wochen verkaufe ich angeblich Ingwerpulver zum Abnehmen. Perfide, denn Ingwer regt in der Tat den Stoffwechsel an.“

Die Verantwortlichen des Youtube-Kanals „ARD Gesund mit Dr. Julia Fischer“ warnen vor einem KI-generierten Clip mit Julia Fischer, in dem es um Gewichtsverlust geht. „In Zukunft“, so deren Prognose, „wird es vermutlich noch mehr solcher Fake-Videos geben.“ Das dürfte Eckart von Hirschhausen zufolge korrekt sein. Kriminelle benutzen das Gesicht und den Namen des Arztes in den sozialen Medien besonders oft. Er sagt: „Seit etwa fünf Jahren werden Fernsehausschnitte aus Sendungen von mir missbraucht, um mit einer KI-gefälschten Stimme Werbung zu machen und gutgläubige Menschen abzuzocken.“ Das Angebot reicht von Präparaten für den Kreislauf bis hin zu Substanzen für eine bessere Potenz.

Hirschhausen vermutete zu Beginn, all das lasse sich schnell lösen. Dann jedoch musste er wegen eines Fakes jahrelang über mehrere Instanzen gegen Meta klagen: „Die Firma hinter Facebook, Whatsapp und Instagram ließ sich durch Rechtsanwälte in Irland vertreten, was das Verfahren absichtlich in die Länge zog.“ Im vergangenen Jahr gewann Hirschhausen vor dem Oberlandesgericht Frankfurt, was besser klingt, als es ist, denn Deepfakes verschwinden nicht, sie werden raffinierter. „Wenn ich meine KI-Synchronstimme höre“, sagt Hirschhausen, „bekomme ich Gänsehaut, weil die so gut nachgemacht ist, dass ich mich kneifen muss, um zu spüren, dass ich echt bin.“

Kriminalität dieser Art richtet manchen Schaden an, bei den Betrogenen, die für ein Pseudomedikament Geld ausgeben, bei den Prominenten, die ohne Zustimmung zu Werbeträgern gemacht werden, und in der Gesellschaft, deren Vertrauen in öffentliche Institutionen und die Demokratie ohnehin angeschlagen ist. Sätze wie „Ich hab’s mit eigenen Augen gesehen“ oder „What you see is what you get“ sind keine Glaubwürdigkeitsgaranten mehr. Denn was man sieht, kann etwas ganz anderes sein als das, was man zu sehen glaubt. Wer online unterwegs ist und vor KI-Fakes sicher sein will, muss schauen, auf welcher Seite er sich aufhält, wer der Autor eines Textes ist, wie die URL lautet, was im Impressum steht – nur Unternehmen mit Sitz in Deutschland unterliegen der Kontrolle durch die deutschen Behörden. Indizien für ein Betrugsvideo sind zudem ein metallischer Sound, eine falsche Aussprache, eine monotone Stimme, unnatürliche Belichtung oder verwaschene Gesichtskonturen.

„Das erste Alarmzeichen ist oft unser Bauchgefühl“, sagt Hirschhausen. „Wenn etwas zu schön klingt, um wahr zu sein, ist es meistens einfach nicht wahr.“ Verspricht das Marketing für ein Präparat einen massiven Gewichtsverlust in wenigen Tagen, sollte man genauso auf der Hut sein wie bei neuen Berufsbildern bekannter Persönlichkeiten. Eckart von Hirschhausen ist kein Herzchirurg, auch wenn das im Internet so zu lesen ist. Joachim Wagner vom Bundesamt für Sicherheit in der Informationstechnik sagt: „Es ergibt Sinn, den Namen des beworbenen Medikaments zu googeln. Eventuell ist vor mir jemand darauf reingefallen und hat eine Bewertung im Netz hinterlassen.“

Die Verbraucherzentrale berichtet über ein angebliches Video von Hirschhausen für ein Produkt, das den Blutzuckerspiegel in weniger als drei Wochen normalisieren soll: „Bei der telefonischen Bestellung wurde Verbraucher:innen sogar mitgeteilt, dass sie morgens und abends jeweils eine Kapsel mit einem Glas Wasser einnehmen und dafür die Diabetes-Tabletten weglassen sollten.“ Wer das befolgt, setzt seine Gesundheit aufs Spiel. Hirschhausen durfte einen Tag beim Zoll am Frankfurter Flughafen drehen und sagt: „Die Fahnder zeigten mir Päckchen mit gefälschten Medikamenten, Spritzen, Hormonen, Potenzmitteln – bis hin zu Krebspräparaten. Das ist potentiell sogar lebensgefährlich.“

Man müsse, so Joachim Wagner, in vielen Fällen von organisierter Kriminalität ausgehen. Die Täter agierten psychologisch gewieft und professionell. Damit Menschen erst gar nicht auf eine gefälschte Anzeige hereinfallen und mit Gaunern ins Gespräch kommen, arbeite man daran, eine Art Wasserzeichen oder kryptographische Verifizierung zu entwickeln. Im Idealfall lasse sich dann direkt erkennen, was echt und was Betrug ist: „So weit sind wir aber noch nicht.“ Eine ernüchternde Bilanz. Und Folge der KI-Entwicklung. Heute können selbst Laien in kurzer Zeit Deepfakes erstellen, die vor wenigen Jahren mehr Zeit beansprucht und dilettantischer ausgesehen hätten.

Hirschhausen geht offensiv mit der Situation um und sagt auch angesichts des Falls Collien Fernandes: „Wir brauchen jetzt verbindliche Regeln, die Betroffene schützen, die Täter bestrafen und die Plattformen verantwortlich machen. Es ist löblich, dass Justizministerin Stefanie Hubig jetzt einen Gesetzesentwurf vorlegt. Das hätte sie allerdings auch schon längst tun können. Dänemark hat seit letztem Jahr ein Gesetz. Dort ist das Fälschen von echten Menschen grundsätzlich verboten.“

Momentan arbeitet Hirschhausen an einer Dokumentation über die „Deepfake-Mafia“. Für das Projekt hat er sich mit einem Whistleblower getroffen, der als Telefonist gearbeitet und sich über die Homepage des Arztes gemeldet hatte: „Erst hielt ich das auch für Fake oder sogar eine mögliche Falle, denn die Mail kam aus Brasilien.“ Viele Kriminelle stellen in ausländischen Callcentern Menschen an, die Deutsch sprechen. Das ist billiger und schwer zu verfolgen. Diese Nachricht war jedoch echt. Der Mann wollte auf Drängen seiner Freunde aus dem Geschäft aussteigen und hat Hirschhausen Mitschnitte von Verkaufstelefonaten übermittelt.

Die Opfer werden nach einem Protokoll umgarnt, zu ihren Gesundheitsproblemen befragt, „es wird Mitgefühl geheuchelt, um dann mit einem angeblich drohenden Herzinfarkt oder Schlaganfall Druck aufzubauen, damit jeder gleich die große Packung bestellt. Und das alles in meinem Namen.“ Im Schulungsmaterial gibt es auch eine Spalte des Inhalts: „Die angerufene Person ahnt, dass es sich um Fakes handelt.“ In diesem Fall wird das Gespräch abgebrochen. Zu hoffen ist Hirschhausen zufolge, dass immer mehr Leute von diesen Praktiken erfahren, damit es den Betrügern schwerer fällt, neue Opfer zu finden.

Was sollten Menschen unternehmen, die auf Social Media unterwegs sind und den Verdacht haben, über eine Deepfake-Annonce gestolpert zu sein? Man könnte das Video zum Beispiel auf Eckart von Hirschhausens Homepage melden. Er und sein Team überprüfen dann, ob es sich um einen neuen Betrugsclip handelt, der dem Anwalt vorgelegt werden muss: „Mein Kampf gegen die Deepfake-Mafia fühlt sich ein bisschen so an, als würde man einem Drachen den einen Kopf abschlagen, und zehn neue wachsen nach.“ Das verwundert nicht, Meta hat 2024 rund 16 Milliarden Dollar mit betrügerischer Onlinewerbung verdient. Hirschhausen sagt: „Das dürfen wir uns in Europa nicht länger gefallen lassen. Wir werden erpresst von Trump, von Big Tech und von russischer und chinesischer Desinformation. Denn alle schielen auf den großen europäischen Markt.“

50 bis 100 Meldungen über Fakes gehen jeden Tag bei Hirschhausen ein. Beantwortet werden alle. Außerdem ist eine Seite des WDR zu dem Thema im Aufbau, „aber es gibt bislang keine systematische Suche nach den Fakes, obwohl nach dem Urteil, das ich erstritten habe, die Plattformbetreiber selbst dazu verpflichtet sind“. Auch Fake-Rezensionen sind keine Ausnahme. Eine Untersuchung des Bundeskartellamts von 60 großen Internetportalen zeigte vor sechs Jahren, dass nur wenige davon Filter zur Identifizierung gefälschter Bewertungen einsetzen. Im vergangenen Jahr haben die Verbraucherzentralen und der Verbraucherzentrale-Bundesverband mehr als 450 Seiten untersucht. Fazit: 122 Anbieter klärten nicht ausreichend auf über die Prüfverfahren von Rezensionen und wurden abgemahnt. Wer sich über Nahrungsergänzungsmittel informieren will, besucht am besten die Seiten des Bundeszentrums für Ernährung und des Bundesinstituts für Risikobewertung. Misstrauen gegenüber Social Media ist heute begründeter als je zuvor.