Kritik wegen KI bei Swisspass-Fotos: «Es geht um Transparenz und Datenschutz»

Im Oktober 2023 hat die Alliance Swisspass begonnen, Fotos für Swisspass-Abos automatisiert mithilfe von KI zu optimieren. Wie 20 Minuten berichtete, sind viele der Kundinnen und Kunden darüber gar nicht erfreut: «Meine Piercings sind auf dem neuen Swisspass durch die KI-Bearbeitung einfach verschwunden», sagt die 30-jährige Leonie aus Rafz zum Beispiel.

Wie die Alliance Swisspass gegenüber 20 Minuten bestätigt, wird seit Oktober 2023 ein deutsches Unternehmen für das Einholen und Validieren der Fotos beauftragt. Zuvor hatte eine Schweizer Firma diesen Auftrag inne. Wie ein Mitarbeiter gegenüber 20 Minuten angibt, hätte sein Arbeitgeber damals nur den Hintergrund der eingesandten Fotos entfernt: «Das Gesicht wurde niemals verändert.» KI sei stattdessen zur Bildprüfung eingesetzt worden: «Durch ein automatisiertes Feedback wussten die Benutzer bereits beim Hochladen, ob die Qualität ausreichte oder was bei der Aufnahme zu beachten war.» Für den Mitarbeiter sei es zudem schade, dass damit Wertschöpfung aus der Schweiz abgeflossen ist, da der Auftrag nun an ein deutsches Unternehmen verteilt wurde.

Wie die Sprecherin von Alliance Swisspass, Michaela Ruoss erklärt, habe man sich bei der Vergabe nach den Regeln der öffentlichen Beschaffung gerichtet und darum den Anbieter mit dem besten Angebot wählen müssen. «Der vorherige Partner bot keine KI-gestützte Bildprüfung an und hat die Fotos manuell überprüft», so Ruoss. «Dank der neuen automatisierten Verarbeitung konnten wir die Zahl der abgelehnten Bilder deutlich reduzieren und die Auslieferung beschleunigen.»

Einige Kunden bemängeln neben den Ergebnissen auch die Handhabung sensibler Daten bei der KI-Optimierung ihrer Fotos. «Passfotos bewerte ich als besonders schützenswerte Personendaten und dürfen deshalb nicht ohne die Einwilligung der Betroffenen verändert werden», meint beispielsweise der 63-jährige Leser Markus. «Die SBB hätte ihre Kunden zumindest informieren müssen», sagt Gioele (27) aus Zürich. In den Datenschutzbestimmungen der Swisspass-App wird die KI-Bearbeitung der Fotos tatsächlich nicht erwähnt.

Sprecherin Michaela Ruoss erklärt: «Für die Bildoptimierung bedarf es keiner expliziten Zustimmung von Kundinnen und Kunden. Wir klären zurzeit ab, ob es aus Gründen der Verantwortlichkeit, Transparenz, Fairness, Autonomie und Nachvollziehbarkeit angebracht wäre, Kundinnen und Kunden in der Datenschutzerklärung darauf hinzuweisen, dass die Bilder zur Qualitätssicherung automatisiert bearbeitet werden können.»

Zu den verschwundenen Piercings von Leonie meint die Sprecherin: «Im Falle von überretuschierten Swisspass-Bildern bieten wir an, diese auszutauschen, wenn die Kundin das wünscht.» Solche Retuschen seien keineswegs beabsichtigt, sondern Folge der automatischen Bildoptimierung.