KI-App Lensa verwandelt Schweizer Promis in Avatare

Der Hype um die KI-App Lensa hat längst auch die Promiwelt erreicht. Und diese teilen die entstandenen Werke mit ihren begeisterten Followerinnen und Followern in den sozialen Medien. Die App Lensa gibt es schon seit rund fünf Jahren. Ursprünglich diente sie dazu, Selfies so bearbeiten zu können, wie es sonst nur mit einer Bildbearbeitungssoftware wie Photoshop möglich war.  

Neu verwandelt die App Menschen in Avatare, die manchmal futuristisch, comic-ähnlich oder auch komplett abstrakt in Erscheinung treten. Unter anderem Sänger Baschi, Nacktkünstlerin Milo Moiré und Model Tamy Glauser liessen sich in KI-Kunstwerke verwandeln. So cool die Bilder meistens auch wirken, so sehr fallen aber auch immer wieder Unregelmässigkeiten auf – besonders bei Augen und Händen. 

Letztere wirken oft verzogen und deformiert. Ausserdem macht sich bei einigen Porträts ein sogenannter Silberblick, ein leichtes Schielen, bemerkbar, das es beim Original so nicht gab. In der Bildstrecke oben siehst du alle Werke, die wir bislang von den Promis gefunden haben – oder selber von der App erstellen liessen. 

Einige User berichten auch davon, dass die Lensa-App ihre Bilder sexualisiert hat. Isabelle (30) hat 14 Selfies von sich auf die App hochgeladen. «Die Bilder von mir waren alle von meinem Gesicht und mein Körper war nicht ersichtlich». Nach rund 20 Minuten Wartezeit hat die App 200 «Magic Avatars» von der Schweizerin erstellt. Dafür hat sie acht Franken bezahlt.

Doch der Anblick schockierte sie: «Die App hat Nacktbilder von mir generiert». Auf mehreren Fotos war sie mit grossen und nackten Brüsten zu sehen. So erging es auch unserer Redaktorin Gloria (30) aus Zürich: «Ich hatte plötzlich auf einigen Fotos grosse Brüste und einen Ausschnitt, obwohl ich nur Bilder von meinem Gesicht hochgeladen habe». Sorgen macht sich Isabelle nicht, aber: «Diese App würde ich nicht wieder benutzen und auch nicht weiterempfehlen».

Auch auf Google Play beschweren sich mehrere Nutzerinnen. Eine schreibt: «Die Hälfte meiner Fotos sind nackt». In einem anderen Kommentar steht: «Meine Bilder sehen aus, als hätte ein creepy Mann eine nackte Zehnjährige gezeichnet.» Auch sie haben keine nackten oder anzüglichen Bilder von sich hochgeladen. Das ist gemäss den allgemeinen Geschäftsbedingungen von «Lensa» sowieso verboten.

Auch Redaktor Tarek (37) hat sich mit der App Avatare erstellen lassen. Etwas schockiert hat ihn vor allem ein Bild: Es zeigt ihn mit Nazi-Pose. «Ich war entsetzt, das geht definitiv zu weit.» Glücklicherweise sei auch sein Gesicht ziemlich verformt, sodass er auf dem Bild nicht erkennbar sei.

Auffällig sind in den Bewertungen auch Kommentare, in denen Rassismus thematisiert wird. So schreibt eine Userin: «Ich bin eine schwarze Frau und meine Fotos waren mehrheitlich weisse Frauen.» Ein weiterer kritischer Kommentar lautet: «Auf mehreren Fotos wurde mein Hautton aufgehellt». Sie hat auch Fotos von ihrer Tochter hochgeladen und ihre Avatare sehen aus, als wäre sie Asiatin. Die Enttäuschung bei den Nutzerinnen ist gross: «Es ist schade, denn ich hatte mich wirklich darauf gefreut, es auszuprobieren, nachdem ich gesehen hatte, dass so viele meiner Freunde es machen.»

Die Entwicklerfirma Prisma Lab räumt auf Anfrage ein, dass sporadisch eine Sexualisierung zu beobachten sei, und zwar bei allen Geschlechtern. Das Erzeugen von sexualisierten Bildern erklären sie damit, dass die Entwickler das Programm mit einer grossen Menge ungefilterter Bilder aus dem Internet trainiert haben: «Das Modell wurde aufgrund dieser Bilder mit bestehenden Vorurteilen und Schönheitsidealen vertraut gemacht.»

Die Programmierer seien bereits dabei, das zu ändern: «Um unerwünschte Erfahrungen, die mit dem sporadischen Auftreten unangemessener Inhalte zusammenhängen, zu minimieren, arbeiten wir derzeit an einem Filter zur Alterserkennung und zur Erkennung von NSFW-Inhalten.» NSFW heisst «not safe for work» und bezeichnet Inhalte, die pornografischer oder gewalttätiger Natur sind und deshalb nicht am Arbeitsplatz angeschaut werden sollten.