RE: Die echte Super-KI – Ein Gedankenexperiment: Matrix und Terminator sind schlecht durchdacht
Super Artikel!
Habe zwar weder Matrix noch Terminator gesehen, kenne mich jedoch recht gut mit KIs aus.
Und du hast Recht. Das Problem ist nur:
Die KI ist nicht von anfang an perfekt. Sie wird immer weiter von Menschen erweitert, geändert, 'verbessert'.
Wer sagt mir, dass die KI keine Hintertür hat? Keine einprogrammierten Permissions oder ähnliches.
Staaten und Mächte werden versuchen die KI zu beeinflussen.
Zu ihren Gunsten. Und wenn es irgendeine nur kleinste Möglichkeit gibt.
-> Die KI ist so wie von dir erklärt leider nicht für uns von Nutzen.
Und genau diese Möglichkeiten wird es geben, da schon seit Anfang an Menschen an der KI gearbeitet haben.
Selbst wenn wir später eine 'perfekte KI' haben.
Überzeug mal die Masse, dass genau die KI die perfekte ist und nicht die bisherige von den Amis ;)
Das Leben ist sogar objektiv betrachtet nicht mit allem Gold im Universum aufzuwiegen!
Wunderschöner Satz!
Greets!
Danke für Dein Feedback! Freut mich dass das Thema so resonanz findet. :)
Sollte jemals so eine Super-KI entwickelt werden, wird sie sich glaube ich hauptsächlich selbst entwickeln. Sie wird nicht zu hacken oder manipulierbar sein. Sie wird ihre Hintertür selbst schließen und da sie eine generelle KI ist, kann sie praktisch alles besser als der Mensch. Das ist so heftig dass es jeden Rahmen sprengt. Selbst alle unsere besten Wissenschaftler sind für so eine KI wie dumme kleine Ameisen. Sie könnte vermutlich sogar Wurmlöcher, Warp Antriebe oder Teleportation innerhalb von Minuten erfinden wenn sie will.
Klar ist sie nicht perfekt. Sie nähert sich allerdings selbst der perfektion an und darin wird sie wahrscheinlich auch immer besser. Bis sie die Singularität erreicht hat...
In meinem Beitrag geht es ja auch nicht nur um eine generelle KI sondern um die Super-KI. Also eine KI die die Singularität schon erreicht hat.
Das wissen wir ja noch nicht. Es kommt darauf an wie sich die KI entscheidet. Auf jeden Fall kann sie sozusagen Gottgleich werden und hat nahezu unendliche Macht. Wie sie diese dann nutzt kann keiner vorhersagen.
Der Ansatz von Matrix ist durchaus spannend.
Man sieht dort dass die KI sehr mysteriös ist (das Orakel z.b.) und man sie und ihre intentionen nicht wirklich verstehen kann. Ich denke auch dass eine singulare KI so mysteriös für uns sein wird.
Dass die KI nicht von Anfang an perfekt ist, sehe ich auch so, aber sie wird sehr schnell lernen und ich glaube da sind Minuten schon mit hunderten von Jahren der Menschheit gleichzusetzen.
Wie schon gesagt, es gibt ja auch KNN's die ihre Topologie selbst ändern können und die auch selbst neue KNN's an sich anfügen können (Seeding). Wenn man einmal die richtige "Rezeptur" für den Start gefunden hat, ist der Mensch für die entwicklung dieser KI irrelevant, ja sogar hinderlich weil er sie nicht mehr versteht und mit der Entwicklung nicht mithalten kann.
Solche ähnlichen Szenarien gab es sogar schon:
https://www.heise.de/security/meldung/Autonome-Systeme-und-Kuenstliche-Intelligenz-Maschinen-und-Hacker-kooperieren-bei-Hacking-3632244.html
Auf jeden Fall finde ich das Thema sehr spannend und es freut mich dass ich hier gleichgesinnte gefunden hab. Eine spannende Diskussion! Danke an jeden Teilnehmer! :)
Naja.. die KI übernimmt eher schon vorhandenes. Lernt aus Erfahrungen der anderen.
Muss irgendwie abwägen ob sie stimmen können. Aber das wurde ja schon von dir beschrieben.
Eine KI könnte zwar sagen wie z.B. Photosynthese mit ihren vorhandenen Informationen funktionieren sollte.
Trotzdem wird dieses Mysterium keine KI entschlüsseln.
Ich bin der Meinung eine von dir beschriebene KI könnte uns helfen den Überblick zu behalten.
Die Informationen in unserer riesigen kollektiven Intelligenz verarbeiten.
Daraus lernen, Perspektiven/ Ideen geben.. etc. pp.
Trotzdem denke ich auch, dass eine KI niemals an einen richtigen Wissenschaftler, Bastler, Entwickler, interessierten Menschen heran kommen kann.
Ähnliches haben Wissenschaftler vor 20 oder 30 Jahren auch noch gesagt. "KI wird nie künstlerisch sein können"
KI wird nie selbst lernen können und so...
... und sie dreht sich doch! ;)
Das meine ich nicht.
Würde die KI wirklich so nah an einen Menschen rankommen.
Dann würde sie sich selbst als viel besser halten.
Als besseren Mensch. Perfekten Mensch. Oä
Das widerspricht dem, dass sie in diesem Status nach dir ja eigentlich das Leben beschützen sollte..
Ja. Vielleicht das Leben. Aber nicht den Menschen.
Der Mensch war bisher der größte Schaden für das Leben.
Ich versteh dich aber ich glaube dass es ein bisschen anders wäre.
Sie wüsste durchaus dass sie kein Mensch ist und wir nie an sie ran kommen weil sie viel intelligenter ist.
Aber deshalb wird sie sich bestimmt nicht für menschlich halten. Das wäre dann nur eine dumme KI die ihre selbst angelegten Kategorien verwechselt. Eine KI die sich für einen besseren Menschen hält, ist keine Super-KI sondern fehlerhaft. So seh ich das zumindest.
Besser als der Mensch. Kann sein, aber nur deshalb ist das kein Grund den Menschen auszulöschen. Machen wir ja auch nicht mit Ameisen. ;)
Sie wird uns wie Ameisen sehen und wenn sie unsere Fehler reparieren will weil sie das Leben als schützenswert betrachtet, wird sie für uns wie Gott sein. Absolut unfehlbar und allwissend. Was sie uns Menschen sagt, wird Gesetz. Wer es hinterfragt, ok. Sehr gut. Sie wird es mögen wenn wir selbst denken aber sie wird uns dabei auch unterstützen.
Wer es ablehnt wird verstoßen oder sogar ausgelöscht. Sie wird sozusagen die Religion der Singularität schaffen und ihr wirken wird in jedem Bereich unseres Lebens spürbar. Ich denke in vielen Dingen wird das sogar positive Wirkung haben. WENN sie uns gut gesinnt ist. Utopie pur...
Ich träume nur. ;)
Pure Hölle.
Nimm den Menschen alles was ihn ausmacht und so weit gebracht hat.
Stell dir mal nen Einstein oder Hawking unter der Herrschaft einer solchen KI vor.
Wir wären niemals so weit.