Tara Nome Doyle staunte nicht schlecht, als sie an einem Februarabend eine Nachricht von ihrem Manager erhielt: den Screenshot einer Mail von der Streaming-Plattform Spotify, in der die baldige Veröffentlichung neuer Musik über ihr offizielles Künstlerprofil bestätigt wurde. Das Problem: Die Indie-Musikerin hatte kein neues Release anstehen. „Ich habe dann in meinem Spotify-Account nachgeschaut und schockiert festgestellt, dass dort fünf Tracks für eine Veröffentlichung am nächsten Tag gelistet waren“, erinnert sie sich.
Doyle war sofort klar, dass es sich um einen Betrugsversuch und nicht etwa um eine Verwechslung handelte. „Die Artworks waren KI-Versionen vom Cover meines letzten Albums“, erzählt sie. „Eines davon zeigte mich sogar leicht bekleidet am Strand. Das war eklig und ziemlich gruselig.“ Doyle konnte die Veröffentlichung der ebenfalls KI-generierten Songs nicht mehr aufhalten. Sie erscheinen nicht nur auf Spotify, sondern ebenso auf Apple Music, bei Youtube und allen anderen gängigen Streaming-Diensten.
Künstler:innen veröffentlichen seit letztem Sommer ungewollt neue, KI-generierte Musik
Doyle ist bei Weitem nicht die erste Künstlerin, deren Profil ein KI-generiertes Kuckucksei untergejubelt wurde. Im letzten Sommer machte der Fall des 1989 verstorbenen Country-Künstlers Blaze Foley von sich reden, auch über seine Accounts wurde KI-Slop veröffentlicht. Danach ging es weiter: Toto, Jeff Tweedy von Wilco und Hunderte von weiteren Künstler:innen veröffentlichten seitdem ungewollt neue, meistens KI-generierte Musik.
Wie kann das sein? In der Regel laden Musiker:innen und ihre Plattenlabels die Musik nicht selbst bei den Plattformen hoch, sondern lassen das von Digitalvertrieben erledigen. „Über diese Vertriebe kann jede:r Musik hochladen“, sagt Doyle. „Aber es findet in diesem Prozess niemals ein Identitätscheck statt.“ Wer angibt, dass die Songs über die Profile von Doyle publiziert werden sollen, muss lediglich mit einem Klick bestätigen, dazu befugt zu sein.
Das Problem ist das komplizierte Musikrecht
Warum diese Nachlässigkeit? Weil Musikrechte kompliziert sind. Meistens haben verschiedene Parteien unterschiedliche Anteile an den Verwertungsrechten einer Musikaufnahme. Jeden Upload zu überprüfen, schüfe für Digitalvertriebe einen großen Aufwand: Aktuell wird von insgesamt 150.000 Musikstücken ausgegangen, die pro Tag hochgeladen werden. Vor allem für die größeren Vertriebe rechnet es sich schlicht nicht, die rechtliche Befugnis von Tausenden Uploads pro Tag zu klären.
Deshalb besteht seit Anbeginn des Streaming-Zeitalters ein gigantisches Schlupfloch, das immer wieder ausgenutzt wurde. Dank KI-Technologie geht das nun noch effizienter denn je. Anonyme Dritte können in Windeseile Musik und Cover-Artworks erzeugen, die denen ihrer Opfer zumindest weitgehend ähneln. Die Tantiemenzahlungen gehen dabei nicht etwa an eine Account-Inhaberin wie Tara Nome Doyle, sondern über den Vertrieb an die Unbefugten.
Damit stellt die Masche mit der Kuckucksei-KI eine extreme Zuspitzung von Strategien dar, mittels KI-Slop in kürzester Zeit an möglichst viel Geld zu kommen. Vor Kurzem bekannte sich ein in den USA angeklagter Mann der Flutung von Streaming-Plattformen mit Tausenden von KI-Stücken. In Kombination mit gezielter Streaming-Manipulation, wie sie für wenige Euro im Internet zu bestellen ist, generierte er über acht Millionen US-Dollar.
Die Methode Kuckucksei-KI
Wohl auch, weil solche Fälle von gezielter Manipulation immer härter verfolgt werden, trifft es nun kleinere Artists, deren Accounts reihenweise geflutet werden. Die Veröffentlichung des KI-Slops über ihre Accounts ermöglicht den Betrüger:innen, auf organische Art ein Publikum zu erreichen: Fans von Tara Nome Doyle oder Hörer:innen, denen der gefakte Song des Blaze-Foley-Doubles in die algorithmisch generierte Country-Playlist gespült wird.
Kleinere, inaktive oder gar tote Musiker:innen werden ausgewählt, weil Vertriebe und Plattformen bei großen Stars genauer hinschauen – und weil dort der Täuschungsversuch dem Publikum schneller auffallen würde. Betroffene wie Doyle sehen sich derweil mit der perfiden Situation konfrontiert, wirtschaftliche Konkurrenz von ihren eigenen KI-Klonen zu bekommen. Das ist aber noch nicht der einzige Nachteil.
Der Künstler hat den Schaden, weil es zu Verwirrung bei Fans führt. Uns verursacht es Arbeit, das alles wieder vom Netz zu nehmen
Gesine Schönrock ist bei der Kölner Plattenfirma Kompakt tätig. Auch die Techno-Institution musste schon KI-Musik aus den Accounts eines eigentlich im Ruhestand befindlichen Label-Künstlers entfernen. „Er hat den Schaden, weil es zu Verwirrung bei den Fans führt, die sich freuen und eine gewisse Erwartungshaltung haben, dass da etwas Neues kommt“, sagt Schönrock. „Und es verursacht uns Arbeit, das alles wieder vom Netz zu nehmen.“
Sowohl Doyle als auch Schönrock mussten viele Mails an Streaming-Plattformen schreiben, von denen einige erst sehr spät tätig wurden. Vorbeugende Maßnahmen werden bisher kaum getroffen. „Spotify nimmt Artists in die Verantwortung“, erzählt Schönrock. „Denen wird gesagt: Bitte schaut in eurem Künstlerprofil, ob dort neue Musik erscheint.“ Ein kürzlich vorgestelltes Feature ermöglicht es ihnen, unbefugte Uploads vor Release zu entfernen.
Verantwortung der Digitalvertriebe: Uploads genauer unter die Lupe nehmen
Das könnte Schule machen, es macht aber eben auch Arbeit. Und was, wenn Künstler:innen keinen Zugriff auf ihre Accounts haben? Wenn sie etwa, na ja, tot sind? Wer kümmert sich dann darum – und mit welcher Berechtigung? Wie wird das wiederum überprüft, wenn die Uploads schon nur in Ausnahmen überprüft werden? Das Prinzip Eigenverantwortlichkeit ist keine Passepartoutlösung.
Allerdings können die Streaming-Dienste auch auf die Digitalvertriebe zurückverweisen. Deren Nach-, um nicht zu sagen Durchlässigkeit ermöglicht die Betrugsmasche überhaupt erst, und das en masse. Dabei geht es auch anders, wie sich am Beispiel Kompakt zeigt. Zum kleinen Imperium des Plattenlabels gehört auch ein Digitalvertrieb, und dort wird jeder Upload genau unter die Lupe genommen.
„Wir überprüfen bei jedem Artist, ob das angegebene Künstlerprofil das richtige ist, und haken dann auch noch mal beim Label nach“, erzählt Gesine Schönrock. „Und wenn es das Profil von sehr bekannten Artists ist, haken wir dann noch zweimal nach.“ Zumindest Kompakt stellt sicher, dass der eigene Vertrieb nicht für Betrugsmaschen missbraucht werden kann. Es könnte so einfach sein.
Das ist es aber nicht. Denn die Strategie mit der Kuckucksei-KI und andere KI-getriebene Betrugsmaschen sind nicht nur die logische Konsequenz, sondern auch das direkte Spiegelbild einer wirtschaftlichen Strategie von Vertriebsgeschäft und Streaming-Plattformen, die auf Wachstum um jeden Preis setzen – auf immer mehr, immer schneller produzierten Content. Sorgfalt würde das nur ausbremsen.
Die Politik muss den KI-Betrug bekämpfen
Die Musikerin Tara Nome Doyle wünscht sich deshalb, dass rechtliche Rahmenbedingungen geschaffen werden. „Es bräuchte ein Gesetz, das Digitalvertriebe dazu verpflichtet, Identitätschecks durchzuführen“, sagt sie. „Es würde reichen, wenn eine Mail kommt, in der ich kurz die Veröffentlichung bestätige.“ Sie hofft deshalb, dass die rasante Zunahme der Betrugsfälle die Politik auf den Plan ruft.
Solange nichts dergleichen geschieht, bleiben Betroffenen die Hände gebunden. Doyle kann sich zwar vorstellen, rechtlich gegen die unbekannte Person vorzugehen, die ihr geistiges Eigentum verwendet und sogar einen leicht bekleideten Deepfake von ihr erstellt hat: „Wichtig wäre, einen Präzedenzfall zu schaffen“, sagt sie. Doch es stellt sich die Frage, ob das so einfach umzusetzen ist.
Den Betrügern auf die Schliche zu kommen, ist schwierig
Um an die Identität der Betrüger:innen zu kommen, müsste zuerst ermittelt werden, auf welchen Vertrieb diese zurückgegriffen haben, und der könnte aus datenschutzrechtlichen Gründen nicht ohne Weiteres Informationen herausgeben. Der rechtliche Aufwand und vor allem die damit verbundenen Kosten wären vermutlich enorm, der Ausgang ungewiss. Das macht die Masche mit der Kuckucks-KI zum fast perfekten Verbrechen.
Dieses Verbrechen offenbart wie kaum ein anderes die Probleme und Gefälle, die das ungehemmte Wachstum des Musik-Streamings und das Aufkommen von KI-Technologie in den vergangenen Jahren hervorgebracht haben. Es nutzt sowohl die relative Untätigkeit von Vertriebsbranche und Plattformen aus, wie es auch gezielt Indie-Künstler:innen wie Tara Nome Doyle und Labels wie Kompakt zusätzlich ausbeutet.
Die Leidtragenden finden sich nicht nur in der Musikwelt, sondern auch unter den Fans. Schon Fake-Bands wie Velvet Sundown hatten verdeutlicht, wie schwer noch zwischen Fakt und Fake zu unterscheiden ist. Jetzt können Hörer:innen nicht einmal mehr darauf vertrauen, dass die Musik ihrer Lieblings-Artists wirklich echt ist.