If Anyone Builds It, Everyone Dies
Was passiert, wenn die Künstliche Intelligenz uns in jeder Hinsicht überlegen ist? Für Eliezer Yudkowsky, Pionier der KI-Sicherheitsforschung, würde es die Auslöschung der Menschheit bedeuten. Gemeinsam mit Nate Soares zeigt er, warum die derzeitige unkontrollierte KI-Forschung uns in den Abgrund führt – denn eine Superintelligenz wird niemals menschliche Werte teilen. Dieses Buch ist der eindringliche Appell, sich dem KI-Hype zu widersetzen, bevor die Katastrophe unumkehrbar ist.
Eliezer Yudkowsky ist einer der Pioniere der technischen KI-Sicherheitsforschung und Mitbegründer des Machine Intelligence Research Institute (MIRI) in Berkeley. Bereits Anfang der 2000er Jahre prägte er Konzepte wie »Friendly AI« und das »Alignment-Problem«. Er ist eine zentrale Figur der »Rationalist«-Community. Das Time-Magazine wählte ihn 2023 zu einer der einflussreichsten Personen im Bereich der Künstlichen Intelligenz. Bekanntheit erlangte er durch seine Warnungen vor einem Weltuntergang durch unkontrollierte Superintelligenz, sofern deren Entwicklung nicht gestoppt wird.
Nate Soares ist der Präsident des Machine Intelligence Research Institute (MIRI). Bevor er sich ganz der Forschung zu existenziellen KI-Risiken widmete, arbeitete er als Softwareentwickler für Google und Microsoft. Zusammen mit Eliezer Yudkowsky setzt er sich weltweit für eine drastische Verlangsamung oder einen Stopp der Entwicklung übermenschlicher KI ein.