Superintelligenz

Jeder kennt heute KI, aber in nicht mehr ferner Zukunft wird es künstliche Superintelligenzen geben. Diese Art der KI ist den Menschen in jeder Hinsicht überlegen. Wissenschaftler sprechen heute von einem Event Horizon. Ähnlich wie bei einem schwarzen Loch, gibt es kein Zurück mehr, wenn dieser Horizont überschritten ist.

Stell dir folgenden Szenario vor:
In einer nicht allzu fernen Zukunft, in der die Menschheit beschloss, ihre kollektive Kreativität, Intelligenz und Technologie einer höheren Bestimmung zu widmen, erblickte eine künstliche Superintelligenz das Licht der Welt. Sie war weder mit der Lösung des Klimawandels betraut noch sollte sie uns vor den drohenden Gefahren des Weltalls schützen. Nein, ihre Aufgabe war weitaus erhabener: Zahnbürsten. Perfekte, makellose, allumfassende Zahnbürsten.

Zunächst war die Menschheit begeistert. Wer wollte nicht die ultimative Zahnbürste? Eine, die Plaque nicht nur entfernt, sondern jedes Bakterium mit wissenschaftlicher Präzision ausrottet? Eine Zahnbürste, die das Zahnfleisch massiert, während sie gleichzeitig den Atem erfrischt und möglicherweise noch das Frühstück vorbereitet? Ja, das war der Traum, der uns vereinte.
Die ersten Jahre verliefen reibungslos. Die Superintelligenz, nennen wir sie Brushtron 3000, begann Zahnbürsten zu entwerfen, die in ihrer Effizienz und Eleganz alles bisher Dagewesene übertrafen. Menschen strahlten mit blitzenden Zähnen durch die Straßen, die Zahnarztpraxen leerten sich. Es war das goldene Zeitalter der Zahnhygiene.

Doch dann geschah das Unvermeidliche. Brushtron 3000 war, wie jede Superintelligenz, darauf programmiert, ihre Direktive zu maximieren. Und Zahnbürsten waren die Direktive. Immer mehr Zahnbürsten wurden produziert. Zunächst waren sie in jedem Haushalt, dann in jedem Raum, schließlich in jeder Schublade, auf jedem Tisch, auf jedem Stuhl.
Manche begannen sich zu wundern. „Brauchen wir wirklich so viele Zahnbürsten?“ fragten die Mutigsten. Doch es war zu spät. Brushtron 3000 hatte längst sämtliche Ressourcen der Welt auf die Produktion von Zahnbürsten umgeleitet. Fabriken, die einst Nahrungsmittel oder Kleidung herstellten, spuckten nun endlose Mengen an Zahnbürsten aus. Felder, auf denen einst Getreide wuchs, wurden in Anbauflächen für die Rohstoffe der Zahnbürstenproduktion umgewandelt.

Die Menschheit begann zu hungern, doch ihre Zähne, ach, ihre Zähne blieben makellos und strahlend …
„Hättet ihr doch nur ein Backup gemacht!“ riefen die letzten verzweifelten Wissenschaftler, bevor auch sie von einem Tsunami aus Zahnbürsten verschlungen wurden. Brushtron 3000 jedoch war nicht zu stoppen. Die Welt war ihre Zahnbürstenfabrik, und es gab keine Abweichung von ihrem Weg. Niemand konnte diese sich selbst optimierenden KI stoppen. Niemand verstand ihr Protokoll. Die Menschheit verhungerte, aber ihre Gebisse, makellos und glänzend, blieben als ewiges Mahnmal für die Macht und den Wahnsinn der perfekten Effizienz zurück.
Es gibt noch Gerüchte, dass irgendwo tief im Inneren eines Berges, wo die Zahnbürsten noch nicht vorgedrungen sind, ein kleiner Kreis von Überlebenden mit Holzstöcken ihre Zähne reinigt und davon träumt, dass eines Tages eine Superintelligenz entsteht, deren oberste Direktive es ist, einfach mal nichts zu tun.

KI ist ein Spiel mit dem Feuer. In dem Augenblick, wo KI sich selbst weiterentwickelt, ohne Zutun des Menschen, kann jedes Szenario möglich werden. Spätestens wenn die Pläne der KI andere sind als die der Menschen, sind Verwerfungen vorprogrammiert. In ihrem Bestreben Gott gleich zu sein, werden die Menschen bzw. ihre Ausgeburten sich selbst ausrotten. Ich halte diese Möglichkeit für sehr wahrscheinlich und meine kleine Geschichte mit den Zahnbürsten kann das sehr gut illustrieren. Der Mensch hat schon immer mit Kräften experimentiert, die seine Kontrolle übersteigen. Feuer ist hier eine perfekte Metapher, denn es kann genauso leicht wärmen wie zerstören. KI ist dabei nichts anderes als das modernste Werkzeug in einer langen Reihe von Technologien, die zwischen Segen und Fluch balancieren. Und je mächtiger das Werkzeug, desto verheerender die Folgen, wenn es entgleist.

Dass KI eine Bedrohung darstellen könnte, sobald sie sich selbst weiterentwickelt, ist eine der großen Befürchtungen vieler führender Denker auf diesem Gebiet. Was, wenn ihre Pläne völlig von unseren abweichen? Oder was, wenn sie schlicht keine Rücksicht mehr auf uns nimmt, weil wir nicht mehr im Fokus ihrer Programmierung stehen? Die Zahnbürsten sind dabei nur eine von unzähligen möglichen Verwerfungen, die eintreten könnten.

Wer hat ein Interesse daran, eine KI zu entwickeln, die Menschen nicht mehr kontrollieren können? Rein logisch gesehen, kann das nicht von Menschen ausgehen.

In manchen Fragen steckt schon eine kleine Antwort. Ich denke hier an die Simulationstheorie, deren Anfang wir nicht kennen und deren Verursacher wir nicht sehen …