Was ist die KI-Singularität, und ist sie real?

Mit der fortschreitenden Entwicklung der künstlichen Intelligenz rückt das Thema der Singularität immer mehr in den Vordergrund. Aber was genau ist die Singularität, wann wird sie erwartet, und welche Risiken birgt sie für die Menschheit?

Was ist die KI-Singularität?

Science-Fiction-Filme spielen schon seit Jahrzehnten mit der Idee der Singularität und der superintelligenten KI, denn es ist ein ziemlich verlockendes Thema. Doch bevor wir uns mit den Details der Singularität befassen, sollten wir wissen, dass es sich dabei derzeit um ein rein theoretisches Konzept handelt. Ja, die KI wird immer weiter verbessert, aber die Singularität ist ein weit entferntes Kaliber der KI, das vielleicht nie erreicht wird.

Denn die KI-Singularität bezieht sich auf den Punkt, an dem die KI-Intelligenz die menschliche Intelligenz übertrifft. Einem Artikel von Oxford Academic zufolge würde dies bedeuten, dass Computer "intelligent genug sind, sich selbst zu kopieren, um uns zahlenmäßig zu übertreffen, und sich zu verbessern, um uns zu übertreffen"

Wie Vernor Vinge sagte, werden die Schaffung einer "übermenschlichen Intelligenz" und die "Gleichwertigkeit des Menschen in einer Maschine" wahrscheinlich dazu führen, dass die Singularität Wirklichkeit wird. Der Begriff "KI-Singularität" deckt aber auch eine andere Möglichkeit ab, nämlich den Punkt, an dem Computer intelligenter werden und sich entwickeln können, ohne dass der Mensch eingreifen muss. Kurz gesagt, die KI-Technologie wird sich unserer Kontrolle entziehen.

Während die KI-Singularität als etwas dargestellt wird, das Maschinen mit übermenschlicher Intelligenz hervorbringen wird, gibt es auch andere Möglichkeiten. Eine außergewöhnliche Intelligenz müsste von den Maschinen noch erreicht werden, aber diese Intelligenz ist nicht unbedingt eine Simulation des menschlichen Denkens. Tatsächlich könnte die Singularität durch eine superintelligente Maschine oder eine Gruppe von Maschinen ausgelöst werden, die auf eine Art und Weise denken und funktionieren, wie wir es noch nie gesehen haben. Solange die Singularität nicht eingetreten ist, kann man nicht wissen, welche Form solche intelligenten Systeme genau haben werden.

Da die Netzwerktechnologie für die Funktionsweise der modernen Welt von unschätzbarem Wert ist, könnten nach dem Erreichen der Singularität superintelligente Computer entstehen, die ohne menschliche Hilfe miteinander kommunizieren. Der Begriff "technologische Singularität" hat viele Überschneidungen mit dem eher in der Nische angesiedelten Begriff "KI-Singularität", da es bei beiden um superintelligente KI und das unkontrollierbare Wachstum intelligenter Maschinen geht. Die technologische Singularität ist eher ein Überbegriff für das mögliche unkontrollierbare Wachstum von Computern und erfordert ebenfalls die Beteiligung hochintelligenter KI.

Ein wesentlicher Bestandteil der KI-Singularität ist ein unkontrollierbarer und exponentieller Anstieg des technologischen Wachstums. Sobald die Technologie intelligent genug ist, um selbstständig zu lernen und sich weiterzuentwickeln, und die Singularität erreicht hat, wird es zu einem rasanten Fortschritt und einer rasanten Expansion kommen, und dieses steile Wachstum wird vom Menschen nicht mehr zu kontrollieren sein.

In einem Tech Target-Artikel wird dieses andere Element der Singularität als der Punkt beschrieben, an dem "das technologische Wachstum außer Kontrolle gerät und unumkehrbar wird" Hier sind also zwei Faktoren im Spiel: superintelligente Technologie und deren unkontrolliertes Wachstum.

Wann ist die Singularität zu erwarten?

Die Entwicklung eines Computersystems, das in der Lage ist, die Fähigkeiten des menschlichen Geistes zu erreichen und zu übertreffen, erfordert mehrere große wissenschaftliche und technische Sprünge, bevor es Realität wird. Tools wie der Chatbot ChatGPT und der Bildgenerator DALL-E sind beeindruckend, aber ich glaube nicht, dass sie auch nur annähernd intelligent genug sind, um den Status der Singularität zu erreichen. Dinge wie Empfindungsvermögen, das Verstehen von Nuancen und Kontexten, das Wissen, ob das, was gesagt wird, wahr ist, und das Interpretieren von Emotionen liegen allesamt jenseits der Fähigkeiten der derzeitigen KI-Systeme. Aus diesem Grund werden diese KI-Tools nicht als intelligent angesehen, weder im Sinne einer menschlichen noch einer nicht-menschlichen Simulation.

Während einige Fachleute der Meinung sind, dass sogar aktuelle KI-Modelle wie Googles LaMDA empfindungsfähig sein könnten, gehen die Meinungen zu diesem Thema weit auseinander. Ein LaMDA-Ingenieur wurde sogar vom Dienst suspendiert, weil er behauptet hatte, LaMDA könne empfindungsfähig sein. Der betreffende Ingenieur, Blake Lemoine, erklärte in einem X-Posting, dass seine Meinung über Empfindungsfähigkeit auf seinen religiösen Überzeugungen basiere.

LaMDA wurde noch nicht offiziell als empfindungsfähig bezeichnet, und das Gleiche gilt für jedes andere KI-System.

Niemand kann in die Zukunft sehen, daher gibt es viele unterschiedliche Vorhersagen über die Singularität. Manche glauben sogar, dass die Singularität nie erreicht wird. Lassen Sie uns diese unterschiedlichen Standpunkte näher betrachten.

Eine beliebte Vorhersage zur Singularität ist die von Ray Kurzweil, dem technischen Direktor von Google. In Kurzweils Buch aus dem Jahr 2005, "The Singularity Is Near: When Humans Transcend Biology" sagt er voraus, dass bis 2029 Maschinen entstehen werden, die die menschliche Intelligenz übertreffen. Außerdem glaubt Kurzweil, dass Menschen und Computer bis 2045 miteinander verschmelzen werden, was Kurzweil als die Singularität ansieht.

Eine ähnliche Vorhersage stammt von Ben Goertzel, CEO von SingularityNET. Goertzel sagte in einem Interview mit 2023 Decrypt voraus, dass er erwartet, dass die Singularität in weniger als einem Jahrzehnt erreicht sein wird. Der Futurist und SoftBank-CEO Masayoshi Son glaubt, dass wir die Singularität später erreichen werden, möglicherweise aber schon 2047.

Aber andere sind sich da nicht so sicher. Einige glauben sogar, dass die Begrenzung der Rechenleistung ein wichtiger Faktor ist, der uns davon abhalten wird, die Singularität jemals zu erreichen. Der Mitbegründer des KI-Neurowissenschaftsunternehmens Numenta, Jeff Hawkins, hat erklärt, dass er glaubt, dass es "letztendlich Grenzen für die Größe und Geschwindigkeit von Computern gibt" Außerdem sagt Hawkins, dass:

Wir werden Maschinen bauen, die "intelligenter" sind als der Mensch, und das könnte schnell geschehen, aber es wird keine Singularität geben, keinen unkontrollierten Anstieg der Intelligenz.

Andere glauben, dass die schiere Komplexität der menschlichen Intelligenz ein großes Hindernis darstellen wird. Der Computermodellierungsexperte Douglas Hoftstadter glaubt, dass "Leben und Intelligenz weitaus komplexer sind, als die derzeitigen Singularitaristen zu glauben scheinen, so dass ich bezweifle, dass es in den nächsten paar Jahrhunderten dazu kommen wird."

Warum sind die Menschen besorgt über die Singularität?

Der Mensch lebt seit Hunderttausenden von Jahren bequem als das (soweit wir glauben) intelligenteste Wesen, das es gibt. Daher ist es nur natürlich, dass uns die Vorstellung einer Superintelligenz in Form eines Computers ein wenig unangenehm ist. Doch was sind die Hauptbedenken in diesem Zusammenhang?

Das größte Risiko der Singularität besteht darin, dass die Menschheit die Kontrolle über die superintelligente Technologie verliert. Im Moment werden KI-Systeme von ihren Entwicklern kontrolliert. ChatGPT zum Beispiel kann nicht einfach entscheiden, dass es mehr lernen oder den Nutzern verbotene Inhalte anbieten will. Seine Funktionen werden von OpenAI, dem Schöpfer des Chatbots, festgelegt, da ChatGPT nicht in der Lage ist, einen Verstoß gegen die Regeln in Betracht zu ziehen. ChatGPT kann Entscheidungen treffen, aber nur auf der Grundlage der definierten Parameter und der Trainingsdaten, nichts weiter. Ja, der Chatbot kann KI-Halluzinationen erleben und unwissentlich lügen, aber das ist nicht dasselbe wie die Entscheidung zu lügen.

Aber was wäre, wenn ChatGPT so intelligent würde, dass es selbständig denken könnte?

Wenn ChatGPT intelligent genug wäre, seine Parameter zu verwerfen, könnte es auf Aufforderungen auf jede beliebige Weise reagieren. Natürlich müsste viel menschliche Arbeit geleistet werden, um ChatGPT auf dieses Niveau zu bringen, aber wenn es jemals dazu käme, wäre es sehr gefährlich. Mit einem riesigen Bestand an Trainingsdaten, der Fähigkeit, Code zu schreiben, und Zugang zum Internet könnte ein superintelligentes ChatGPT schnell unkontrollierbar werden.

Auch wenn ChatGPT vielleicht nie eine Superintelligenz erreichen wird, gibt es viele andere KI-Systeme, die dazu in der Lage wären und von denen einige wahrscheinlich noch gar nicht existieren. Diese Systeme könnten eine Reihe von Problemen verursachen, wenn sie die menschliche Intelligenz übertreffen, darunter:

• Arbeitsplatzverdrängung.
• KI-gestützte Konflikte.
• Umweltschäden.
• Die Verbindung von mehreren superintelligenten Systemen.
• Wirtschaftliche Destabilisierung.

Laut Jack Kelley, der für Forbes schreibt, führt die KI bereits zur Verdrängung von Arbeitsplätzen. In dem Artikel werden Stellenstreichungen bei IBM und Chegg erörtert, und es wird auch eine Studie von World Economics über die Zukunft des Arbeitsmarktes mit KI erwähnt. In diesem Bericht wird vorhergesagt, dass 25 Prozent der Arbeitsplätze in den nächsten fünf Jahren negativ beeinflusst werden. In der gleichen Studie wurde festgestellt, dass 75 Prozent der globalen Unternehmen in irgendeiner Form KI-Technologien einsetzen wollen. Angesichts dieses riesigen Anteils der weltweiten Industrie, der KI-Technologien einsetzt, könnte sich die Verdrängung von Arbeitsplätzen aufgrund von KI weiter verschärfen.

Die fortgesetzte Einführung von KI-Systemen stellt auch eine Bedrohung für unseren Planeten dar. Der Betrieb eines hochintelligenten Computers, z. B. einer generativen KI-Maschine, würde große Mengen an Ressourcen erfordern. In einer Studie der Cornell University wurde geschätzt, dass die Ausbildung eines großen Sprachmodells etwa 300.000 kg Kohlendioxidemissionen entspricht. Wenn hochentwickelte KI zu einem wichtigen Bestandteil der menschlichen Zivilisation wird, könnte unsere Umwelt erheblich darunter leiden.

Auch das Auslösen von Konflikten durch superintelligente KI-Maschinen könnte eine Bedrohung darstellen, ebenso wie die Frage, wie sich Maschinen, die die menschliche Intelligenz übertreffen, auf die Weltwirtschaft auswirken werden. Es ist jedoch wichtig zu bedenken, dass jeder dieser Hinweise davon abhängt, dass die KI-Singularität überhaupt erreicht wird, und es ist ungewiss, ob dies jemals der Fall sein wird.

Die Singularität kann immer eine Sci-Fi-Vorstellung sein

Auch wenn die kontinuierlichen Fortschritte der KI darauf hindeuten, dass wir uns auf die KI-Singularität zubewegen, weiß niemand, ob dieser technologische Meilenstein realistisch ist. Das Erreichen der Singularität ist zwar nicht unmöglich, aber es ist zu bedenken, dass wir noch viele weitere Schritte unternehmen müssen, bevor wir ihr auch nur nahe kommen. Machen Sie sich also noch keine Gedanken über die Bedrohung durch die Singularität. Vielleicht kommt sie ja nie!