Die ZDF-Nachrichten haben am Sonntagabend einen KI-Gau fabriziert. In einem Beitrag über die US-Einwanderungspolizei ICE tauchten mit KI manipulierte Videobilder auf, die zeigen sollten, wie ICE-Beamte eine Mutter vor den Augen ihrer beiden weinenden Kinder abführen. In der Sequenz ist am Bildrand ein Wasserzeichen mit der Angabe „Sora“ zu sehen. Sora ist die von Open AI entwickelte KI, die täuschend realistische Bilder und Videos hervorbringt. Aufgefallen war das unter anderem dem „ÖRR Blog“ im Netz, der regelmäßig Fehlleistungen der öffentlich-rechtlichen Sender dokumentiert.
Dunja Hayali: „Nicht alle sind echt, aber doch sehr viele“
Anmoderiert hatte Dunja Hayali den mit einem KI-Fake ausgestatteten Beitrag auch noch ausgerechnet mit den Worten, dass man zu den Einsätzen von ICE im Netz viele Videos finde, wobei nicht allen zu trauen sei: „Wer in den sozialen Netzwerken unterwegs ist, wird festgestellt haben, dass es sehr viele Videos zu den Einsätzen der ICE-Truppen von Donald Trump gibt. Nicht alle sind echt, aber doch sehr viele. Und die Gewalt, mit der die Abschiebekräfte oftmals vorgehen, und auch die Willkür, die dort zu sehen ist, hat auf jeden Fall eines erreicht: Es herrscht ein Klima der Angst, das selbst vor Kindern nicht haltmacht.“ Es folgte ein Beitrag über eine aus Honduras in die USA eingewanderte Frau, die auf ihre Greencard wartet, und deren minderjährige Tochter; Videobilder zeigten gewaltsames Vorgehen angeblicher ICE-Beamter gegen Menschen, bei Minute 1:13 begann die mit KI erstellte Sequenz, die das ZDF als solche nicht auswies und offenbar nicht erkannt hatte. Das aber hatten andere.
Es seien „Fehler unterlaufen“, für die man sich entschuldige, teilte das ZDF daraufhin am Dienstag mit. In dem Beitrag des „heute journals“ sei an „einer Stelle KI-generiertes Bildmaterial aus dem Netz verwendet“ worden, „das Kinder zeigt, die sich an ihre Mutter klammern. Diese Sequenz hätte nach den Regeln des ZDF ohne Kennzeichnung und ohne Einordnung so nicht verwendet werden dürfen. Eine weitere Sequenz, in der ein Kind abgeführt wird, ist zwar real, stammt aber aus einem anderen Kontext aus dem Jahr 2022.“
KI-Fake und falscher Kontext
Fake durch KI, falscher Kontext – schlimmer geht es kaum. Erklären musste sich dazu fürs ZDF die stellvertretende Chefredakteurin Anne Gellinek: „Wir entschuldigen uns in aller Form für diese Fehler“, wird sie vom Sender zitiert. „Der Beitrag entspricht nicht unseren Standards und hätte in dieser Form nicht gesendet werden dürfen. Wir haben ihn deshalb von allen Plattformen entfernt und werden auf ‚ZDFheute‘ sowie an gleicher Stelle im ‚heute journal‘ heute Abend korrigierend berichten.“
Eine Erklärung dafür, wie KI-Videobilder (mit Wasserzeichen!) und Aufnahmen, die aus einem anderen Kontext stammen, überhaupt in einem Korrespondentinnenbeitrag aus den USA auftauchen konnten, ist das freilich noch nicht. Und die Frage konnte uns das ZDF bislang auch noch nicht beantworten.
Source: faz.net