YouTube löscht mehr als 1000 KI-generierte Videos
Was ist echt und was computergeneriert? Bei Bildern und Videos fällt die Unterscheidung immer schwerer, da künstliche Intelligenz (KI) immer glaubwürdiger solches Material erzeugen kann. Auf der Videoplattform YouTube führte das jüngst zu einer Schwemme von fingierten Anzeigen und Werbevideos, in denen KI-Abbilder und -Stimmen von Prominenten versuchten, Nutzerinnen und Nutzer in Betrugsmaschen zu locken und beispielsweise fragwürdige Krankenzusatzversicherungen zu verkaufen.
Die Videoplattform ist nun gegen die fingierten Videos vorgegangen und hat mehr als 1000 von ihnen gelöscht. Auch die für den Upload genutzten Nutzerkonten wurden gesperrt. Youtube hat mit seinem Vorgehen auf Rechercheergebnisse der Nachrichtenseite 404 Media reagiert.
In den Anzeigen und Videos sollen KI-generierte Fakes von US-Prominenten wie Taylor Swift, Steve Harvey oder Joe Rogan Betrügereien angepriesen haben. Sowohl Youtube-Nutzer als auch die Prominenten selbst hatten sich offenbar regelmäßig über die gefälschten Inhalte bei YouTube beschwert. Dennoch sei das Material teils monatelang auf der Plattform verblieben.
Problem besteht weiter
Behoben ist das Problem mit der Löschaktion nicht: Youtube räumte ein,“sich eines aufkommenden Trends” bewusst zu sein, bei dem gefälschte Videos eine Prominentenunterstützung oder -beziehung vorspiegeln.
Auch 404 Media berichtet von entsprechenden neuen Anzeigen auf Youtube, die KI-generierte Stimmen und Videos von Prominenten missbräuchlich nutzen.
In einem Beispiel kündigt eine gefälschte Jennifer Aniston an, MacBooks für 10 US-Dollar zu verkaufen – also quasi zu verschenken. Man solle nur “ihre” Seite besuchen. Abgesehen vom unglaubwürdigen Inhalt lassen sich Bild und Ton ohne Expertenwissen nur schwer als KI-Fälschung identifizieren – sowohl die dargestellte Frau als auch ihre Stimme wirken authentisch.
In einem weiteren Video warnt eine gefälschte Stimmte von Ex-Präsident Donald Trump vor einem drohenden dritten Weltkrieg und einem “stummen, nicht nachverfolgbaren Angriff” auf Amerika, der eine Nahrungskrise nach sich ziehe und die Zivilisation zum Zusammenbruch brächte. Zu sehen ist Trump nicht.
Um diesem Schreckensszenario nicht zum Opfer zu fallen und die eigene Familie vor dem drohenden Untergang zu schützen, gebe es eine Lösung: “Trump” empfiehlt, einen Meter Kupferkabel zu besorgen und den Podcast von Teddy Daniels anzuhören, einem früheren Kandidaten für den Gouverneursposten in Pennsylvania. Das Video ist bereits seit über zwei Monaten online und wurde über 660.000-mal aufgerufen.
Auch auf Facebook kursierten die gefälschten Trump-Videos im Zusammenhang mit Daniels. Und auch die Aniston-Fälschungen sollen in der ein oder anderen Form auf anderen Social-Media-Plattformen wie Instagram und TikTok aufgetaucht sein.
Google reagiert
Ein Google-Sprecher erklärte gegenüber 404 Media, das Unternehmen überprüfe gemeldete Anzeigen und habe sie bereits mehrfach entfernt. Die KI-Videos verstießen gegen Plattformregeln – wie etwa dem Verbot von Clickbaiting. “Wir arbeiten ständig daran, unsere Kontrollsysteme zu verbessern, um den neuesten Trends und Betrugstaktiken immer einen Schritt voraus zu sein und sicherzustellen, dass wir schnell auf neue Bedrohungen reagieren können”, versprach Google.
Bei YouTube sei man sich der gefälschten Werbung mit Prominenten und den Betrugsversuchen bewusst. Zu Bekämpfung investiere der Konzern in automatische Bilderkennungstechnologie, die auch die Echtheit von Prominenten in Videos überprüfen können soll.
KI-Nacktbilder
Indessen wusste sich die Social-Media-Plattform X am vergangenen Wochenende nicht besser zu helfen, als wegen gefälschter pornografischer Bilder die Suche nach “Taylor Swift” vorübergehend für alle Nutzer zu sperren. Computergenerierte sexuelle Darstellungen mit dem Aussehen der Sängerin waren zuvor massenhaft auf der Plattform aufgetaucht. X-Manager Joe Benarroch sagte dem Finanzdienst Bloomberg und dem «Wall Street Journal», man werde Versuche, die Bilder weiterhin zu veröffentlichen, im Auge behalten.
Sie sollen mit dem KI-Programm «Designer» von Microsoft erstellt worden sein. Microsoft wollte dies gegenüber 404 Media zunächst nicht bestätigen, wies aber darauf hin, dass die Nutzungsbedingungen der Software die Erstellung sexueller Inhalte verbieten würden. Zudem seien Sicherheitsmechanismen in das Programm eingebaut, die regelmäßig verbessert würden. (hcz)