- Tesla-Chef und Apple-Mitgründer dabei
- Fake-Papst trifft auf Glauben
- KI-Sommer statt übereilt in den Herbst
Bild: /trippy_art_special
Noch vor kurzem hat sich Tesla-Chef Elon Musk darüber beschwert, dass aus der von ihm mitgegründeten und -finanzierten Organisation OpenAI genau das Gegenteil von dem geworden sei, was er im Sinn hatte: Sie sollte ein wohltätiges Gegengewicht zu Google werden, sei aber jetzt ein maximal gewinnorientiertes Unternehmen unter Microsoft-Kontrolle, klagte er auf Twitter. Zudem hat OpenAI entgegen der Musk-Mission, KI in ungefährliche Bahnen zu lenken, mit GPT ein System in das World Wide Web entlassen, das nicht nur Google Angst macht. Und vor diesem Hintergrund fordert Musk jetzt zusammen mit hunderten anderen Experten eine Pause bei der Weiterentwicklung von GPT-4 und ähnlichen Systemen.
Tesla-Chef und Apple-Mitgründer dabei
Die Initiative werde von „Hunderten von wichtigen Akteuren im Bereich der künstlichen Intelligenz und Technologie“ unterstützt, schreibt das Mila weiter. Seine Mitteilung wurde nach der englischen auch auf Deutsch veröffentlicht, was weiter dafür spricht, dass für die Aktion großer Aufwand getrieben wird. Tesla-Chef Musk wird in der Information als einer der Hauptunterzeichner genannt, zusammen mit dem Apple-Mitgründer Steve Wozniak wohl der bekannteste. Er sollte aber nicht zu den Teilnehmern der Video-Konferenz zählen.
Fake-Papst trifft auf Glauben
KI-Systeme mit „menschen-kompetitiver“ Intelligenz könnten tiefe Risiken für die Gesellschaft und Menschheit bringen, heißt es in dem offenen Brief, dem sich beim Future of Life Institute weitere Personen anschließen können. Aus diesem Grund müsse ihre Entwicklung sorgfältig geplant und gesteuert werden. Doch stattdessen hätten Labore in den vergangenen Monate ein außer Kontrolle geratenes Rennen mit immer mächtigeren digitalen Geistern veranstaltet, die niemand einschließlich ihnen selbst verstehen, vorhersagen oder zuverlässig kontrollieren könne.
OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.
Not what I intended at all.— Elon Musk (@elonmusk) February 17, 2023
Letztlich droht laut dem Brief der Verlust der Kontrolle über die menschliche Zivilisation, und die Gesellschaft müsse sich fragen, ob sie den riskieren möchte. Als wohl zeitnäheres Problem wird die Überflutung von Informationskanälen mit Propaganda und Unwahrheit genannt. Hier hat sich GPT bereits als Version 3 einen Namen gemacht, und das Mitte März veröffentlichte GPT-4 ist noch viel größer und damit leistungsfähiger: Die beiden Sprachmodelle können in Sekundenschnelle Texte generieren, die sachlich und wie von einem Menschen geschrieben klingen – aber teils schlicht erfunden sind.
KI-Sommer statt übereilt in den Herbst
Noch besser sollen solche Systeme aber vorerst nicht werden, fordern Musk und die anderen Experten in ihrem offenen Brief. Er ist ein Aufruf „an alle KI-Labore, ab sofort für mindestens sechs Monate das Training von KI-Systemen zu pausieren, die mächtiger sind als GPT-4“. Alle wichtigen Akteure sollten sich dem anschließen. Falls es nicht rasch dazu komme, sollen Regierungen einschreiten und ein Moratorium verfügen. In dieser freiwilligen oder erzwungenen Pause sollen Sicherheitsprotokolle für fortgeschrittene KI entwickelt werden, mit dem Ziel, dass sie über jeden vernünftigen Zweifel hinaus sicher sind.
Die verlangte Pause sei nicht auf KI allgemein bezogen, betonen die Unterzeichner. Man wolle nur einen Schritt zurück von dem gefährlichen Rennen mit immer größeren „Blackbox-Modellen mit emergenten Fähigkeiten“. Mit den bereits mächtigen Systemen von heute könne die Menschheit sich jetzt eines „KI-Sommers“ erfreuen, statt unvorbereitet in den Herbst zu hetzen.
