KI-Sicherheitsforscher Nate Soares: „Ich spare nicht mehr für die Rente“
Der Präsident des Machine Intelligence Research Institute hält es für wahrscheinlicher als nicht, dass eine übermächtige künstliche Intelligenz die Menschheit binnen eines Jahrzehnts auslöscht. Er fordert einen Stopp der Entwicklung, viele Fachleute halten seine Einschätzung für überzogen. Photo: Nate Soares
Nate Soares, Präsident des Machine Intelligence Research Institute (MIRI) im kalifornischen Berkeley, schätzt die Wahrscheinlichkeit, dass künstliche Intelligenz die Menschheit innerhalb von weniger als zehn Jahren auslöscht, auf über 50 Prozent. Das sagte er im Gespräch mit Nicholas Thompson, dem Chef des US-Magazins The Atlantic. Darüber berichtete Business Insider.
Wie ernst er das meint, zeigt Soares an seiner eigenen Altersvorsorge. „Ich spare derzeit nicht für die Rente“, sagte er. Er habe noch ein Vorsorgekonto aus seiner Zeit bei Google, aber seit einem Jahrzehnt nichts mehr eingezahlt.
Das befürchtete Szenario
Soares beschäftigt sich seit mehr als zehn Jahren mit der Sicherheit von KI-Systemen. Gemeinsam mit MIRI-Gründer Eliezer Yudkowsky schrieb er das Buch „If Anyone Builds It, Everyone Dies“ („Wenn es jemand baut, sterben alle“).
Seine Sorge gilt nicht heutigen Chatbots, sondern einer künftigen, allgemein einsetzbaren „Superintelligenz“. Ein solches System könnte sich nach seiner Ansicht der Kontrolle des Menschen entziehen, sich selbst verbessern und eine eigene Infrastruktur aufbauen. Am Ende könnte es die Erde so umgestalten, dass menschliches Leben nicht mehr möglich ist. „Die eigentliche Frage ist nicht, wie es uns tötet, sondern wie es eigenständig wird“, so Soares. Noch hängt KI davon ab, dass Menschen Stromversorgung und Chipproduktion am Laufen halten.
Seine Forderung: Entwicklung anhalten
Unvermeidlich sei dieser Ausgang nicht, betont Soares: „Wir könnten dieses Rennen hin zur sehr gefährlichen Art von KI absolut noch stoppen.“
Regierungen sollten das Training allgemeiner, immer leistungsfähigerer KI-Systeme anhalten. KI für eng umrissene Aufgaben, etwa in der Krebsbehandlung, solle dagegen weiter entwickelt werden dürfen.
Einordnung
Mit seiner Einschätzung steht Soares am pessimistischen Ende der Fachdebatte. Der Nobelpreisträger und KI-Pionier Geoffrey Hinton bezifferte das Risiko einer Auslöschung der Menschheit durch KI auf etwa 10 Prozent. Andere führende Forscher halten solche Szenarien für weit entfernt oder für unwahrscheinlich und sehen die dringenderen Probleme bei Fehlinformation, Arbeitsmarkt und Machtkonzentration.
Gleichzeitig investieren Microsoft, Alphabet, Amazon und andere Konzerne dreistellige Milliardenbeträge in immer größere KI-Modelle. Die Debatte darüber, ob und wie diese Entwicklung reguliert werden soll, wird damit eher lauter als leiser.