Promis wehren sichBetrug mit Deepfakes: Hollywood-Stars fordern strengere Gesetze
Die US-Filmindustrie drängt auf strengere Massnahmen gegen KI-generierte Deepfakes. Im US-Kongress wird diskutiert – und es gibt auch Gegenstimmen.
Auch sie wehrt sich: Hollywood-Star Scarlett Johansson. (Archivbild)
AFP/Valerie MaconDarum gehts
Betrüger nutzen KI-generierte Bilder und Stimmen von Stars, um ahnungslose Menschen um ihr Geld zu bringen.
Der «No Fakes Act» soll in den USA Strafen für die unautorisierte Nutzung von KI-generierten Inhalten einführen.
Während Hollywood geschlossen hinter den Gesetzesinitiativen steht, warnen Organisationen wie die Electronic Frontier Foundation vor Einschränkungen der Meinungsfreiheit.
Immer mehr Menschen fallen auf täuschend echte Fälschungen herein. Ein besonders erschreckender Fall ereignete sich in Frankreich, wo eine Frau glaubte, mit Brad Pitt zu kommunizieren und ihm finanziell zu helfen – sie verlor dabei 850'000 Dollar an Betrüger.
Prominente wie Steve Harvey, Tom Hanks, Taylor Swift und Scarlett Johansson wehren sich dagegen, dass ihre Stimmen und Bilder ohne ihre Zustimmung für betrügerische Zwecke missbraucht werden.
«Wir müssen den Missbrauch von KI anprangern, unabhängig von ihrer Botschaft. Sonst riskieren wir, den Bezug zur Realität zu verlieren.»
Im US-Kongress wird nun intensiv über gesetzliche Regelungen diskutiert. Im Zentrum steht der «No Fakes Act», der von einer parteiübergreifenden Gruppe von Senatoren erarbeitet wird.
Unterstützung von Melania Trump
Gleichzeitig diskutiert werden im Senat Gesetze, die darauf abzielen, KI-generierte Deepfake-Pornografie zu kriminalisieren. Dabei handelt es sich um den «Take It Down Act», der ebenfalls dem Kongress vorliegt und diese Woche die Unterstützung von First Lady Melania Trump erhielt.
Eine der lautesten Stimmen im Kampf gegen Deepfakes ist der US-TV-Moderator Steve Harvey. Seit Jahren wird sein Name für Betrugsversuche missbraucht, etwa in Videos, in denen eine KI-generierte Stimme vorgibt, Harvey empfehle eine Geldanlage mit garantierten Gewinnen. «Ich sage euch schon seit Monaten, dass ihr diese kostenlosen 6400 Dollar einfordern sollt», sagt eine Stimme, die wie Harvey klingt, in einem Video.
Die Filmindustrie steht geschlossen hinter den Gesetzesinitiativen: Die Screen Actors Guild, die Motion Picture Association und grosse Talentagenturen unterstützen die Vorschläge vehement.
Kritische Stimmen
Trotz der breiten Unterstützung aus Hollywood gibt es auch kritische Stimmen. Organisationen wie die Electronic Frontier Foundation (EFF) und die American Library Association warnen davor, dass die vorgeschlagenen Gesetze zu weit gehen könnten. Sie befürchten, dass eine Überregulierung die Meinungsfreiheit gefährden und eine Klagewelle auslösen könnte.
Auch die Technologiebranche steht dem Gesetz gespalten gegenüber. Während etablierte Unternehmen wie Microsoft und Google die Regulierung begrüssen und bereits an verbesserten Erkennungssystemen arbeiten, kritisieren Vertreter kleinerer KI-Startups die strengen Vorgaben als innovationshemmend.
Digitale Fingerabdrücke – die Lösung?
Parallel zu den gesetzgeberischen Bemühungen arbeiten Technologie-Unternehmen an Lösungen zur Bekämpfung von Deepfakes. So hat das Start-up Vermillio AI beispielsweise die Plattform «TraceID» entwickelt, die Deepfake-Inhalte automatisch identifizieren und entfernen kann. Das System nutzt digitale Fingerabdrücke, um authentische Inhalte von Fälschungen zu unterscheiden.
Was denkst du über die Forderungen nach strengeren Gesetzen gegen Deepfakes?
Folgst du schon 20 Minuten auf Whatsapp?
Eine Newsübersicht am Morgen und zum Feierabend, überraschende Storys und Breaking News: Abonniere den Whatsapp-Kanal von 20 Minuten und du bekommst regelmässige Updates mit unseren besten Storys direkt auf dein Handy.
