OpenAI-Entwickler warnten vor Altmans Rauswurf vor KI-Gefahren
San Francisco/New York (Reuters) - Eine Warnung vor einer potenziell menschheitsgefährdenden Entwicklung bei Künstlicher Intelligenz (KI) hat Insidern zufolge eine wichtige Rolle bei der Entlassung von Sam Altman als Chef des ChatGPT-Anbieters OpenAI gespielt.
Der bislang unveröffentlichte Brandbrief einiger Software-Entwickler habe die Liste der Kritikpunkte des Verwaltungsrats an Altmans Arbeit verlängert, sagten zwei mit der Angelegenheit vertraute Personen. Kritisch beurteilte das Gremium Altmans Bestreben, ChatGPT um jeden Preis zu vermarkten, ohne die gesellschaftlichen Folgen vollständig zu erfassen. Nach Protesten von Investoren und Belegschaft ist der OpenAI-Mitgründer inzwischen auf seinen Posten zurückgekehrt.
Die Nachrichtenagentur Reuters konnte das Warnschreiben zunächst nicht einsehen. Die Verfasser reagierten nicht auf eine Bitte um Stellungnahme. OpenAI wollte sich auf Anfrage zu diesem Thema nicht äußern. In einem internen Rundschreiben bestätigte das Unternehmen allerdings, dass der Verwaltungsrat einen Brief erhalten habe. Außerdem wurde darin das Projekt "Q*" (sprich: Q-Star) erwähnt.
DURCHBRUCH AUF DEM WEG ZU KÜNSTLICHER "SUPERINTELLIGENZ"
Nach Ansicht einiger OpenAI-Mitarbeiter gelang im Rahmen des Projekts "Q*" ein Durchbruch auf dem Weg zu einer künstlichen "Superintelligenz", sagte einer der Insider. Die neue Software habe bestimmte mathematische Probleme gelöst, die die Entwickler hinsichtlich des Potenzials von "Q*" optimistisch stimme. Reuters konnte diese Aussagen nicht unabhängig verifizieren.
Eine dem Menschen überlegene "Künstliche Allgemeine Intelligenz" (Artificial General Intelligence, AGI) könnte komplexe Aufgaben ohne Einmischung von außen bewältigen. Kritiker befürchten, dass derartige Programme dann Verteidigungssysteme steuern, politische Propaganda verbreiten oder Waffen produzieren.
MATHEMATIK IST DER SCHLÜSSEL
Für Experten ist die Verbesserung mathematischer Fähigkeiten der Schlüssel für die Weiterentwicklung von KI. Bislang sind Programme wie ChatGPT gut bei der Übersetzung oder Erstellung von Texten, indem sie anhand statistischer Wahrscheinlichkeiten das nächste Wort vorhersagen. Da es bei mathematischen Gleichungen aber nur eine einzige richtige Antwort gibt, scheitern sie oft an Aufgaben auf Grundschulniveau. Eine Verbesserung der Fähigkeiten in diesem Bereich gilt als Hinweis auf Denkvermögen, das menschlicher Intelligenz ähnelt.
In ihrem Warnbrief an den OpenAI-Verwaltungsrat hätten die Verfasser auf die Fähigkeiten der neuen KI und die von ihr ausgehenden Gefahren hingewiesen, ohne jedoch Details zu nennen, sagten die Insider weiter. Außerdem wiesen sie auf die Arbeit des Teams "KI-Wissenschaftler" hin. Dessen Ziel sei es, KI so zu optimieren, dass sie Forschungsaufgaben übernehmen kann.
In der vergangenen Woche hatte Altman auf dem Gipfeltreffen der Asiatisch-Pazifischen Wirtschaftsgemeinschaft Durchbrüche bei der Entwicklung dieser Technologie in Aussicht gestellt. "Viermal in der Geschichte von OpenAI - zuletzt vor einigen Wochen - durfte ich dabei sein, wenn wir den Schleier der Unwissenheit lüften und die Grenzen des Wissens erweitern." Einen Tag später musste er als OpenAI-Chef seinen Hut nehmen.
(Bericht von Anna Tong and Jeffrey Dastin und Krystal Hu; geschrieben von Hakan Ersen, redigiert von Myria Mildenberger. Bei Rückfragen wenden Sie sich bitte an unsere Redaktion unter berlin.newsroom@thomsonreuters.com (für Politik und Konjunktur) oder frankfurt.newsroom@thomsonreuters.com (für Unternehmen und Märkte).)
