KI-Utopie oder Dystopie? Rekursive Hyperbolik verstehen, bevor die Büchse der Pandora entfesselt wird.

Freiheit Preetham

Folgen

Das Simulakrum

--

Hören

Aktie

Marc Andreessen hat kürzlich einen faszinierenden Beitrag darüber verfasst, wie KI die Welt retten wird. Ich stimme mit einigen seiner Punkte überein und bejubele ihn dafür, dass er die Extremisten zur Rede stellt, die ein Weltuntergangsszenario prophezeien. Mir gefallen die Analogien und Links zu bestimmten Artikeln, über die er spricht. Ich mag sogar die endgültigen Vorschläge, die er macht. Bravo!

Aber er hat mich verloren, als er begann, den Denkprozess in eine Form der Propaganda zu spalten, indem er Begriffe wie „moralische Panik“, „KI-Sicherheitskult“ und „diejenigen, die versuchen, die KI zu unterdrücken“ verwendete, um fast alle zu umfassen streben nach KI-Sicherheit! Nicht jeder ist der Rhetoriker. Sie hätten den Menschen, die tatsächlich auf „Ihrer Seite“ stehen, einen Absatz oder einen Abschnitt widmen und sich auf die KI-Sicherheit konzentrieren können, da diese eine reale und gegenwärtige Gefahr darstellt. Nicht cool!

Anstatt sich auf die kurzfristigen Vorteile zu konzentrieren, fing er an, darüber zu schimpfen, dass „die andere Seite“ es einfach nicht versteht, und vertrat außerdem eine utopische Position, die ebenfalls extrem ist. Ich meine, welche andere Seite? Welcher „Kult“?

Diese Sicht auf Marcs Utopie und alle anderen, auf die er zu Recht hingewiesen hat und die Dystopie malen, ist weit hergeholt und weit von der Wahrheit entfernt. Um es klar zu sagen: Ich respektiere Marc als Risikokapitalgeber, aber ich glaube, dass er bei diesem Thema überfordert ist. Nichts für ungut, aber ich bezweifle, dass wir uns auf eine tiefgreifende technische Debatte einlassen könnten, insbesondere angesichts der mathematischen Komplexität, die in der Black Box der KI lauert.

Was Marc präsentiert, ist größtenteils seine moralische Weltanschauung, die er ironischerweise mit demselben breiten Pinsel malt, den er den Lagern, Kulten, Baptisten oder Schmugglern vorwirft. Man könnte versucht sein, die meisten dieser Leute als „Bullshido-Künstler“ zu bezeichnen, die versuchen, Sensationsgier über moralische Güte/Schlechtigkeit und Tugenden/Laster zu schüren, um aus ihren KI-Investitionen Kapital zu schlagen. Sie sehen, wie die Verwendung von Worten Emotionen hervorruft und ehrlich gesagt leichtsinnig sein kann? Aber wenn wir das tun würden, wären wir nicht besser als sie. Eine solche Herangehensweise an Utopie oder Dystopie ist reduktionistisch, lenkt vom eigentlichen Problem ab und ist, ehrlich gesagt, etwas kindisch.

Wenn es um Technologie geht, spielt KI in einer eigenen Liga. Es ist ein Fehler epischen Ausmaßes, Parallelen zwischen künstlicher Intelligenz und anderen technologischen Innovationen der Vergangenheit zu ziehen. Der historische Widerstand gegen die Technologie, die Argumente der einstigen Ludditen, kann die gewaltige Herausforderung, die die KI für uns darstellt, nicht annähernd erfassen. KI ist nicht nur ein exponentieller Fortschritt, sondern weist rekursiv-hyperbolische Eigenschaften auf, ein Phänomen, das mit nichts vergleichbar ist, was wir in der Geschichte gesehen haben. Die KI-Revolution verläuft parallel zur kambrischen Explosion, einem Ereignis, das die darwinistischen Prinzipien auch heute noch nur schwer verstehen können.

Meiner Meinung nach sind alle aktuellen Wirtschaftsmodelle, die die Auswirkungen von KI prognostizieren, ziemlich darwinistisch. Um ehrlich zu sein, weiß keiner von uns, wie er die Zukunft mit Sicherheit vorhersagen kann, was uns etwas ratlos macht, wenn es darum geht, uns ein Bild davon zu machen, was kommen wird. Wir wissen nicht, ob es dystopisch, utopisch oder irgendwo dazwischen sein wird. Wir können uns nur darauf konzentrieren, die Natur dieses Tieres so umfassend und schnell wie möglich zu verstehen.

Beispielsweise wird die Natur des hyperbolischen Wachstums typischerweise durch Riccati-Differentialgleichungen erfasst. Für den unerforschten Bereich der rekursiven Hyperbeln, der J-Kurven eigen ist und die Intelligenz mit astronomischen Geschwindigkeiten selbst aufrechterhalten, fehlt jedoch ein definiertes Modell. Während wir am Abgrund dieses beispiellosen Technologiesprungs stehen, wird es uns nur in die Irre führen, wenn wir uns auf vergangene Wirtschaftsprognosen als Leitfaden für die Zukunft verlassen.

Selbst wenn es Extremisten gibt, die sich auf Weltuntergangsszenarien konzentrieren, warum sollten sie sich dann auf sie konzentrieren? Sie spielen keine Rolle. Wenn es um Politikgestaltung und Vorschriften geht, stimme ich mit Marc überein. Lassen Sie uns dafür kämpfen, dass keines der Extreme sich auf die Vereinnahmung von Vorschriften einlässt. Wenn das nicht der Fall ist, warum müssen Sie dann einfach jede Person, die hart daran arbeitet, Sicherheitsmaßnahmen zu entwickeln, unter den Bus „Viele meiner Leser werden feststellen, dass Sie darauf vorbereitet sind, zu argumentieren, dass dramatische Einschränkungen der KI-Leistung erforderlich sind, um eine Zerstörung der Gesellschaft zu vermeiden“ werfen? Unvorsichtig, um ehrlich zu sein.

Nein, das ist nicht der einzige Standpunkt da draußen. Die wirklichen Menschen vor Ort gehen nicht einmal auf die eine oder andere Seite der Rhetorik und lassen sich nicht auf diese „Arbeitsplatzübernahme“- und „Welttötungsmaschinen“-Argumente ein. Sie sorgen dafür, dass Innovationen mit Sicherheit und Vorsicht erfolgen. Reduzieren Sie die KI-Sicherheit bitte nicht auf das eine oder andere Extrem der Rhetorik.

Ich habe ausführlich zu diesem Thema (Geister im KI-Modell) geschrieben, meine Meinung geäußert und mich an zahlreichen Debatten auf verschiedenen Plattformen beteiligt. Meine Haltung? Verdoppeln Sie Ihre Investitionen in die Abbildung der rekursiven Hyperbeln, gehen Sie sparsam mit der sinnlosen Verbreitung aktueller Modelle um und vermeiden Sie Ausbreitungsfehler durch den Kartenstapel, denn das ist kein zu unterschätzendes Biest.

Ich bin überhaupt nicht für Vorschriften. Ich glaube fest an erlaubnislose Innovation. Investieren Sie einfach über die Aspekte hinaus und entwickeln Sie Innovationen, um die mathematischen Komplexitäten wirklich zu verstehen, für die es uns an Kennzahlen, Metriken oder Rahmenwerken mangelt.

Um den Ernst unserer Lage zu veranschaulichen, betrachten wir die folgenden Analogien. Würden Sie aufgrund der Unfallgefahr die Entwicklung von Schusswaffen ohne Sicherheitsmaßnahmen befürworten? Vielleicht möchte ich Ihnen ein paar komplexe Beispiele nennen:

Was sind nun die Warnmaßnahmen und Kennzahlen, die wir effektiv für KI und probabilistisch für künstliche Superintelligenz entwickelt haben? Um Himmels Willen, wir haben bei einem Babymodell wie GPT4 oder GPT5 keine Halluzinationen und Anomalien unter Kontrolle. Diese sind kaum mit ASI vergleichbar. Darüber habe ich hier geschrieben: „Mathematische Bewertung von Halluzinationen in Modellen wie GPT4“

Ähnlich wie bei diesen Beispielen, bei denen Vorsicht absolut nicht verhandelbar ist, müssen wir auch dem Aufkommen der künstlichen Superintelligenz mit größter Umsicht begegnen.

Was wir priorisieren müssen, sind massive Investitionen in mathematische Innovationen, um die polygenen Fehler der rekursiv-hyperbolischen Einbettungsräume angemessen zu verstehen, zu messen und einzudämmen. Leider werden diejenigen, die diese entscheidende Investition fordern, oft zu Unrecht als Mitglieder einer Sekte oder als Opfer politischer Rhetorik abgetan. Dieser Ansatz ist bestenfalls eine grobe Vereinfachung des Themas und schlimmstenfalls ein Symptom kapitalistischer Propaganda.

Am Ende ist der Weg nach vorne klar: Wir müssen dieses Biest, die KI, verstehen, bevor wir es vollständig entfesseln. Unwissenheit ist in diesem Fall kein Glück. Es ist der Auftakt zu einer möglichen Katastrophe. Eine Technologie, die mit Vorsichtsmaßnahmen gut genutzt wird, kann die Menschheit nachhaltig verändern. Denken Sie daran: Es bedarf nur einer Katastrophe, wenn wir dieses Biest nicht verstehen.

Lassen Sie uns also diese Rhetorik und Propaganda nicht unterdrücken oder uns darin verlieren. Stattdessen müssen diejenigen in der Mathematik-, Physik- und KI-Forschung, die am besten in der Lage sind, dieses Biest zu verstehen, die Ärmel hochkrempeln, sich darauf konzentrieren, wo es am wichtigsten ist, und die Nadel der Innovation bewegen.

Aufruf an alle Nerds und Geeks, die Menschheit zu retten ... Niemand sonst ist dazu in der Lage.