«Unkontrollierbar» – Hunderte Tech-Genies fordern Stopp bei KI-Entwicklung

«Es ist ein gefährlicher Wettlauf, den niemand vorhersagen oder kontrollieren kann, und ein tiefgreifendes Risiko für die Gesellschaft und die Menschheit», das «katastrophale» Auswirkungen haben könnte. So beschreiben Tesla-Chef Elon Musk, Apple-Mitbegründer Steve Wozniak sowie rund weitere tausend hochrangige Tech-Experten die rasante Entwicklung leistungsstarker neuer Tools der Künstlichen Intelligenz (KI).

In einem offenen Brief an die gemeinnützige Organisation Future of Life Institute (FLI), die sich für die Verringerung globaler Risiken für die Menschheit einsetzt, fordern die Unterzeichner «eine Pause bei der Entwicklung» von besonders fortgeschrittener KI.

«Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind», heisst es im Brief, der als Reaktion auf die Veröffentlichung der neuen Version des Chatbots ChatGPT, GPT-4, durch das kalifornische Unternehmen OpenAI Mitte März entstand.

Die Forderung der Tech-Experten sind konkret: «Alle KI-Labore sollen sofort für mindestens sechs Monate das Training von KI-Systemen stoppen, die mächtiger sind als GPT-4.» Sollten die Unternehmen sich darauf nicht einigen, müssten Regierungen einschreiten und ein Moratorium auferlegen. Die sechs Monate sollen demnach genutzt werden, um Sicherheitsprotokolle zu entwickeln.

Im Schreiben verweisen die Verfasser auf einen Satz von OpenAI-Gründer Sam Altman, demzufolge irgendwann eine «unabhängige» Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. «Wir stimmen zu», schreiben die Verfasser des Briefes. «Der Zeitpunkt ist jetzt.»

GPT-4 erstellt mithilfe von Künstlicher Intelligenz Texte. Nutzer können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.
Die rasante Entwicklung von Künstlicher Intelligenz wird in vielen Bereichen – etwa in der Medizin – als grosse Chance gesehen. Doch Kritiker und Kritikerinnen warnen unter anderem, dass KI zu Diskriminierung, Verbreitung von Falschinformationen und einem Verlust von Arbeitsplätzen führen könnte und letztlich durch Menschen nicht mehr kontrollierbar werde. 

Musk selbst war zu Beginn einer der Investoren bei OpenAI. Der von ihm geführte Elektroautobauer Tesla entwickelt KI-Systeme für autonomes Fahren. 2014 änderte der Milliardär seine Meinung und bezeichnete KI seither als «grösste existenzielle Bedrohung der Menschheit», er verglich sie gar mit der «Beschwörung eines Dämons».

Mit seiner Ansicht steht Musk nicht alleine – seine Sorgen teilte der verstorbene Stephen Hawking, der 2014 gegenüber der BBC erklärte, dass die Entwicklung einer vollständigen Künstlichen Intelligenz das Ende der menschlichen Rasse bedeuten könnte, da sie sich selbstständig machen würde.