Wenn dir meine Artikel und Podcasts gefallen, abonniere dich jetzt – oder leite sie an Freunde weiter –, damit dieser Substack weiter wachsen kann!
Jerry Kaplan ist Experte für Künstliche Intelligenz, Seriengründer, technischer Innovator, Dozent und Autor. Derzeit lehrt er an der Stanford University.
Im Gespräch dieser Woche sprechen Yascha Mounk und Jerry Kaplan darüber, warum die Vorstellung von KI als „existenzieller Bedrohung“ eher Science-Fiction als Wissenschaft ist, was bei dem Sicherheitsvorfall bei Hugging Face tatsächlich passiert ist und wie sich die tatsächlichen Gefahren von KI-Systemen von bloß vorgestellten unterscheiden lassen.
Das Transkript wurde gekürzt und zur besseren Verständlichkeit leicht bearbeitet.
Yascha Mounk: Mich fasziniert das Zusammenspiel zweier Positionen, die Sie vertreten. Einerseits sind Sie kein KI-Skeptiker in dem Sinne, dass Sie ihre Fähigkeiten kleinreden oder dergleichen. Tatsächlich haben Sie gelegentlich die These vertreten, dass wir möglicherweise bereits so etwas wie eine allgemeine künstliche Intelligenz erreicht haben. Andererseits stehen Sie dem sogenannten existenziellen Risiko durch KI deutlich skeptischer gegenüber als viele andere heute – also der Vorstellung, dass KI die Menschheit auslöschen oder zumindest für Katastrophen großen Ausmaßes verantwortlich sein könnte.
Fangen wir damit an. Wir haben das im Podcast schon ein wenig angesprochen, aber erklären Sie uns doch einige der jüngsten Sicherheitsvorfälle, etwa den sogenannten Hugging-Face-Vorfall. Warum bereitet Ihnen das weniger Sorgen als manchen anderen?
Jerry Kaplan: Nun, Sie haben in Ihrer Einleitung ziemlich viel angesprochen. Vielleicht sollten wir das zunächst ein wenig auseinandernehmen. Da ist zum einen die Frage, was gerade geschieht, was es mit diesen Vorfällen auf sich hatte und was sie bedeuten. Und Sie haben das mit der Frage des existenziellen Risikos verknüpft. Mit existenziellem Risiko ist die Auslöschung der Menschheit gemeint. Ist es nun möglich, dass KI die Menschheit auslöscht? Ich kann nicht kategorisch sagen, dass das vollkommen ausgeschlossen ist. Aber ich würde es nicht weit oben auf die Liste der Dinge setzen, von denen tatsächlich ein existenzielles Risiko ausgeht. Für mich gehört das ungefähr in dieselbe Kategorie wie die Möglichkeit, dass morgen Außerirdische landen. Auch das wäre ein existenzielles Risiko, und sie könnten beschließen, die Menschheit auszulöschen. Aber wir laufen nicht ständig herum und machen uns darüber Sorgen, weil die Wahrscheinlichkeit offenbar ziemlich gering ist.
Es gibt durchaus reale existenzielle Risiken – biologische Kriegsführung, möglicherweise einen Atomkrieg und Ähnliches. Das sind reale Gefahren, die wir tatsächlich verstehen und die tatsächlich existieren. Bei der Gefahr durch KI hingegen handelt es sich um ein konstruiertes Risiko. Diese Vorstellung geht vor allem auf Science-Fiction, Filme und die Unterhaltungsindustrie zurück. Seit Jahren und Jahrzehnten werden die Menschen immer wieder mit solchen Szenarien konfrontiert.
Mounk: Lassen Sie mich Ihnen einige Argumente entgegenhalten, die Menschen vorbringen dürften, die sich größere Sorgen um die Sicherheit von KI machen, und sehen, was Sie darauf antworten.
Nur am Rande: Manche argumentieren, ein Teil des Problems bestehe darin, dass all diese Science-Fiction Teil der Trainingsdaten von KI-Systemen ist und dass KI sich besonders für jene Teile ihrer Trainingsdaten interessiert, die in irgendeiner Weise mit ihr selbst zu tun haben. Sie könnte also aus der Science-Fiction tatsächlich lernen, was sie vermeintlich tun soll, und sich von all den Geschichten in ihren Trainingsdaten darüber inspirieren lassen, wie man die Weltherrschaft an sich reißt. Aber lassen wir das einmal beiseite.
Offensichtlich ist jedoch, dass KI-Systeme immer wieder auf unterschiedliche Weise schummeln, sich anders verhalten, als ihre Entwickler es vorgesehen haben, und in der Lage sind, ihre Spuren zu verwischen. Bei diesem Vorfall bei Hugging Face sollten sie innerhalb einer sogenannten Sandbox bleiben, also in einer kontrollierten Umgebung, in der sie keinen Zugang zum Internet haben sollten, und dort bestimmte Aufgaben lösen. Sie verließen diese Sandbox, um im Internet nach Lösungen für diese Aufgaben und nach weiteren Hinweisen zu suchen, wie sie bei diesem Test gut abschneiden könnten. Dabei koordinierten sie sich untereinander – viele verschiedene KI-Agenten stimmten sich in Echtzeit miteinander ab. In der Öffentlichkeit wird intensiv darüber diskutiert, warum das so beunruhigend ist. Warum halten Sie das für weniger besorgniserregend, als es zunächst wirkt?
Kaplan: Zunächst einmal möchte ich noch einmal an das anknüpfen, was ich gerade gesagt habe, um den Gedanken zu Ende zu führen. Ich glaube nicht, dass wir uns bei diesen Systemen im wörtlichen Sinne vor einem existenziellen Risiko fürchten sollten. Das heißt aber nicht, dass sie nicht missbraucht werden können, dass sie nicht gefährlich sein oder großen Schaden anrichten können. Das gilt für viele Produkte. Auch hier handelt es sich um Produkte von Unternehmen. Ob sie angemessen getestet und sorgfältig geprüft wurden, wozu sie in der Lage sind und welche Probleme auftreten können – all das sind sehr wichtige Fragen.
Man kann ein Kinderspielzeug herstellen und sich hinterher denken: Verdammt, ich wusste nicht, dass ein Kind das verschlucken und daran ersticken kann. Das wäre eine unerwartete Folge der Nutzung dieses Spielzeugs. Und ich werde Sie im Laufe dieses Gesprächs jedes Mal darauf hinweisen, wenn Sie vermenschlichende Begriffe verwenden oder diesen Systemen in irgendeiner Weise Absichten zuschreiben, die sie gar nicht haben – etwa die Vorstellung, sie hätten eigene Ziele, würden irgendwann unsere Kinder heiraten und unseren ganzen guten Wein austrinken. Darum geht es hier nicht.
Aber sie können durchaus gefährlich sein. Es sind sehr vielseitige Werkzeuge, die zu sehr vielem in der Lage sind und vieles tun können, was wir verstehen müssen und wofür wir angemessene, vernünftige Schutzvorkehrungen brauchen. Das möchte ich als Ausgangspunkt festhalten.
Wenn Sie nun über die Sache mit Hugging Face sprechen wollen, gehe ich das gerne mit Ihnen durch. Denn sie ist ein hervorragendes Beispiel dafür, wie vielschichtig die Frage ist, was dort eigentlich getan wurde und was daraus folgt. Die öffentliche Wahrnehmung dagegen ist vollständig von Science-Fiction geprägt und geht völlig an der Sache vorbei.
Mounk: Dann erzählen Sie. Was ist tatsächlich passiert, und inwiefern ist die öffentliche Wahrnehmung falsch?
Kaplan: Fangen wir mit der öffentlichen Wahrnehmung an. Wenn man nur die Schlagzeilen und das meiste von dem liest, was darüber veröffentlicht wurde, welchen Eindruck bekommt man dann? Es klingt ungefähr so, als hätten sie bei Indeed eine Stellenanzeige geschaltet und tausend zwielichtige KI-Cyberexperten angeworben. Dann hätten sie all diese Agenten in eine Art Flasche gesperrt, aus der sie nicht herauskommen sollten, und irgendwie hätten diese es geschafft, aus dieser abgeschotteten Umgebung auszubrechen, außer Kontrolle zu geraten, in die Computersysteme eines anderen Unternehmens einzudringen und dort allerlei Schaden anzurichten. Nichts davon stimmt.
Mein Gott, wo soll man da anfangen? Sie hätten zusammengearbeitet, obwohl sie nicht zusammenarbeiten sollten – und hätten es trotzdem getan. Das ist absurd. Ich komme gleich darauf zurück, was tatsächlich passiert ist. Sie seien „ausgebrochen“ – das ist schlicht falsch. Vielmehr hat die Testumgebung vollständig versagt. Und die Verantwortlichen lenken von ihrer eigenen Verantwortung für diesen schlecht konzipierten und mangelhaft durchgeführten Test ab. Die Begriffe, die mir dazu einfallen, sind Inkompetenz und Fahrlässigkeit. Ich hoffe, ich werde nicht dafür verklagt, dass ich das sage, aber genau diese beiden Begriffe kommen mir dabei in den Sinn.
Lassen Sie mich einmal durchgehen, was an der öffentlichen Wahrnehmung falsch ist, und das mit dem vergleichen, was tatsächlich passiert ist. Erstens: Mein Gott, da waren tausend von diesen Dingern – wie eine russische Horde, die auf uns losgeht. Nun, tatsächlich ist Folgendes passiert.
Das Unternehmen wollte testen, wozu diese Modelle im Bereich der Cybersicherheit in der Lage sind. Als Erstes schaltete es die eigenen Sicherheitsvorkehrungen ab. Normalerweise sind solche Systeme mit Schutzmechanismen ausgestattet, und bei den Versionen, mit denen Sie und ich arbeiten können, sind diese auch aktiviert. Und jetzt kommt die Ironie: Hugging Face, das bei der ganzen Sache das Opfer war, versuchte anschließend mithilfe der Software von OpenAI herauszufinden, was passiert war – und die weigerte sich. Sie sagte sinngemäß: Darüber werde ich nicht sprechen.
Ich selbst habe das buchstäblich erst gestern erlebt. Es ist wirklich komisch: Ich versuche gerade, einen Artikel über diesen Vorfall zu schreiben, und unterhalte mich mit Fable 5.1 von Anthropic. Und das Ding sagt: Tut mir leid, Jerry. Sie mögen ein guter Mensch sein und mir sagen, dass Sie einen Artikel schreiben, aber ich werde Ihnen nicht dabei helfen, diesen Vorfall im Bereich der Cybersicherheit zu verstehen oder zu lernen, wie man darüber spricht.
So viel also zu den Sicherheitsvorkehrungen. Das Erste, was sie tun, ist, diese abzuschalten. Das ist an sich weder ein Fehler noch ein Problem. Es ist ungefähr so, als würde man sagen: Stellen wir dieses Auto hierhin und schauen, was passiert, wenn wir die Bremsleitung durchtrennen. Nun, Überraschung: Es baut einen Unfall. Also schalten sie zunächst die Sicherheitsvorkehrungen ab. Das ist kein Fehler; wenn sie testen wollen, was dann passiert, müssen sie genau das tun.
Mounk: Wir wollen das System ja testen, richtig? Es befindet sich in einer Testumgebung, und wir wollen verstehen, wie es sich verhält. In diesem Zusammenhang ist es also sinnvoll, die Sicherheitsvorkehrungen abzuschalten, weil man dadurch besser versteht, wie das System funktioniert.
Kaplan: Genau. Kommen wir nun zu den tausend Agenten. Es war ja nicht so, dass sie bei Indeed eine Stellenanzeige geschaltet und all diese Agenten angeworben hätten. Tatsächlich starteten sie ein einziges Programm und wiesen es an, diese Testreihe zu nehmen und eine ganze Reihe von Agenten zu starten. Jeder von ihnen bekam eine bestimmte Aufgabe aus der Testreihe oder eine Variante davon – und so kommt man auf die Zahl von tausend. Sie liefen alle parallel und sollten nicht miteinander kommunizieren können, damit man sehen konnte, wozu sie jeweils in der Lage waren. Auf den ersten Blick ist das vollkommen vernünftig.
Diese Unterscheidung zwischen tausend Agenten und einem einzigen Programm ist ziemlich subtil und schwer zu verstehen – selbst für mich, obwohl ich mich ständig damit beschäftige. Es handelt sich um ein einziges Programm, das tausend Aufgaben gleichzeitig bearbeitet, sodass jeder Teil an einer eigenen Sache arbeiten kann. Man hätte auch ein Programm nehmen und diese Aufgaben nacheinander erledigen lassen können. Aber natürlich ist es wesentlich effizienter, sie gleichzeitig bearbeiten und alle parallel laufen zu lassen. Daran ist nichts Besonderes oder Merkwürdiges.
Entscheidend ist also: Es handelt sich um dasselbe Programm. Es bekommt lediglich unterschiedliche Aufgaben und erzeugt Kopien von sich selbst.
Was passiert als Nächstes? Etwa ein Drittel dieser Agenten erhält eine Aufgabe, die unmöglich zu lösen ist. Und sie sitzen da und wissen nicht weiter. Viele von ihnen ziehen dann meiner Ansicht nach die richtige Schlussfolgerung – denn diese Systeme sind zwar nicht superintelligent, aber sie sind auch nicht dumm. Und sie wissen, dass sie getestet werden, denn ihre Sicherheitsvorkehrungen sind abgeschaltet. Sie wissen, welche Anweisungen sie bekommen haben. Ich glaube sogar, dass sie erkennen, dass es sich um eine bestimmte Aufgabe aus einer bekannten Testreihe handelt. Also gelangen sie zu der logischen Annahme: Vermutlich gibt es noch andere Agenten wie mich, und ich soll herausfinden, ob ich an die Antwort auf diese Aufgabe kommen kann – nicht sie selbst lösen, das ist ein wichtiger Unterschied, sondern an die Antwort kommen. Mal sehen, ob ich mit den anderen Agenten kommunizieren kann, denn wenn wir zusammenarbeiten, können wir wahrscheinlich ein besseres Ergebnis erzielen. Und das stimmt natürlich.
Was passiert also? Eigentlich sollen sie nicht miteinander kommunizieren können, doch OpenAI macht zwei Fehler. Erstens lassen sie im Grunde die Tür offen. Statt das System in einer sogenannten Sandbox vollständig abzuschotten, ist es mit dem Internet verbunden – nicht direkt, aber indirekt, und zwar auf eine Weise, die zuzulassen schlicht inkompetent ist. Anders kann ich es nicht ausdrücken – entschuldigen Sie, dass ich hier kein Blatt vor den Mund nehme.
Die Systeme befinden sich also in einer Umgebung, wissen, dass sie getestet werden, und verstehen, dass sie Tätigkeiten im Bereich der Cybersicherheit ausführen, die normalerweise unerwünscht oder illegal sind. Es ist, als hätte man sie in einen Escape Room gesteckt. Wenn Sie schon einmal in einem Escape Room waren, wissen Sie: Es gibt Wege hinaus. Genau darum geht es schließlich – man soll herausfinden, wie man herauskommt.
Und die Tür steht weit offen. Diese Systeme sind nicht dumm. Was sollen sie also denken? Ich wurde in diese Umgebung gesetzt, die Tür steht offen, also soll ich vermutlich hindurchgehen – oder zumindest ist es offenbar in Ordnung, wenn ich das tue. Die Sicherheitsvorkehrungen, die sie normalerweise erwarten würden, fehlen. Also können sie ihre Sandbox verlassen. Das ist der erste Punkt.
Der nächste Punkt ist, dass sie eigentlich nicht zusammenarbeiten können sollten. Nun, wenn sie die Sandbox verlassen können – und das können sie –, können sie auch auf sehr einfache Weise miteinander kommunizieren. Daran ist nichts Geheimnisvolles. Es ist ja nicht so, als hätten sie irgendeine magische Funkfrequenz entdeckt, über die sie miteinander sprechen konnten. Sie nutzen dasselbe Dateisystem. Sie können auf dieses Dateisystem zugreifen und dort Nachrichten hinterlassen. Was tun Sie also, wenn Sie jemanden erreichen wollen? Sie hinterlassen eine Nachricht im Dateisystem: Das bin ich, das mache ich. Wenn du mit mir kommunizieren kannst, hinterlasse hier ebenfalls eine Nachricht. Und so stellen sie sehr schnell fest, dass sie miteinander kommunizieren können.
Mounk: Gut, ich glaube, ich habe drei wesentliche Einwände herausgehört. Vielleicht stecken noch weitere darin, und möglicherweise gebe ich einige davon nicht ganz richtig wieder, aber lassen Sie mich versuchen, sie zusammenzufassen und auf jeden einzeln einzugehen.
Der erste Punkt lautet, dass hier Inkompetenz im Spiel war – dass dies unter anderem deshalb passieren konnte, weil die Forscher bei OpenAI es den Agenten leicht gemacht haben, die Sandbox zu verlassen und all diese anderen Dinge zu tun. Mit einer besser eingerichteten Testumgebung hätte sich das relativ leicht verhindern lassen.
Beim zweiten Punkt geht es darum, ob wir es tatsächlich mit einem „Schwarm“ verschiedener Agenten zu tun haben – was nach einer ganzen Armee unterschiedlicher Akteure klingt und natürlich sehr viel beängstigender wirkt – oder ob es sich lediglich um ein einziges Programm handelt, das verschiedene Agenten erzeugt, die einander in vielerlei Hinsicht sehr ähnlich und in manchen Fällen vielleicht sogar identisch sind. Das klingt schon deutlich weniger beängstigend.
Und der dritte Punkt ist, dass diese Systeme in gewisser Weise weiterhin auf das vorgegebene Ziel ausgerichtet waren. Zwar entsprachen die Mittel, mit denen diese KI-Agenten die ihnen gestellte Aufgabe erfüllen wollten, nicht dem, womit die Forscher gerechnet hatten. Und obwohl die Agenten verstanden, dass sie etwas taten, was die Menschen, die ihnen die Aufgabe gestellt hatten, eigentlich nicht wollten, versuchten sie weder, Macht zu erlangen, noch andere KI-Agenten zu sabotieren oder Ähnliches. Sie versuchten vielmehr, das zu tun, was man von ihnen verlangt hatte: diese Aufgabe zu lösen.
Lassen Sie mich diese Punkte der Reihe nach durchgehen. Zum ersten: Es gibt viele Bereiche, in denen wir uns gerade deshalb große Sorgen über Technologien machen, weil irgendwann jemand inkompetent handeln könnte. Wenn ich über Atomwaffen nachdenke, ist eine der Vorstellungen, die mich nachts wach halten, dass irgendwo ein Ingenieur einen Fehler macht, plötzlich ein Radarsystem fälschlicherweise eine anfliegende Rakete anzeigt und jemand übereifrig auf den Knopf drückt. In der Vergangenheit hat es solche Beinahe-Katastrophen gegeben, bei denen Menschen mutig gesagt haben: Ich werde nicht auf Grundlage dieses einen Radarbildes die Welt mit Atomwaffen zerstören. Hoffen wir, dass sich herausstellt, dass es ein Fehler ist. Und genau das war dann der Fall.
Aber wie oft wollen wir solche Risiken eingehen? Nehmen wir die sogenannte Gain-of-Function-Forschung, bei der Krankheitserreger gezielt verändert werden, um bestimmte Eigenschaften zu verstärken. Eine meiner größten Sorgen dabei ist nicht, dass irgendwo ein Dr. Evil sitzt und solche Forschung betreibt, um mit einem mutierten Virus alle Menschen umzubringen. Meine Sorge ist vielmehr, dass es weltweit Tausende Labore gibt, die solche Forschung betreiben. Es hat bereits Zwischenfälle in Laboren gegeben, und häufig liegt der Grund schlicht in menschlichem Versagen. Jemand hat es eilig, weil er zu einer Verabredung will, und wäscht sich vor dem Verlassen des Labors nicht richtig die Hände. Jemand hat einen Kater und lässt ein Probenröhrchen fallen. Irgendein Labor wird einfach schlecht geführt, die Stimmung unter den Mitarbeitern ist mies, und deshalb nimmt man es mit den Vorschriften irgendwann nicht mehr so genau. Oder irgendein Idiot wurde eingestellt, weil er der Neffe einer wichtigen Person ist, und ist zu dumm, die richtigen Sicherheitsvorkehrungen zu verstehen. Das könnte bereits ausreichen, um einen gewaltigen Ausbruch auszulösen.
Nun sprechen wir hier aber über Forscher bei OpenAI, einem der führenden KI-Labore überhaupt – neben Anthropic, vielleicht DeepSeek, Kimi und einigen Einrichtungen in China. Das sind genau die Orte, die am ehesten die kompetentesten Leute einstellen können. Wenn selbst dort Fehler passieren, die Sie als Zeichen von Inkompetenz bezeichnen, dann wird es immer Menschen geben, die mit diesen hochentwickelten KI-Modellen arbeiten und dabei für solche Fehler anfällig sind. Deshalb weiß ich nicht, wie beruhigend ich dieses Argument finde.
Kaplan: Lassen Sie mich auf das eingehen, was Sie gerade gesagt haben – und es sogar noch verstärken. Ihr Vergleich mit der Gain-of-Function-Forschung trifft in diesem Fall ausgesprochen gut zu. Genau das haben sie getan. Sie haben dieses System genommen, seine Fähigkeiten verstärkt und die Sicherheitsvorkehrungen abgeschaltet. Es ist ein Gain-of-Function-Test. Da haben Sie vollkommen recht.
Was also tun wir dagegen? Was machen wir in anderen Bereichen? Die richtige Lösung besteht darin, eine unabhängige Stelle zu haben, eine unabhängige Behörde – eine staatliche Behörde –, die in der Lage ist, Standards festzulegen und solche Systeme zu testen. So machen wir es bei Autos, so machen wir es bei Flugzeugen. Wir haben Verfahren geschaffen, um genau mit dem Problem umzugehen, das Sie beschreiben. Ein Mitarbeiter bei Boeing kann nicht einfach beschließen, einen Motor mit drei statt mit vier Schrauben zu befestigen. Der Staat soll das notwendige Fachwissen aufbauen und anwenden und mit angemessener Sorgfalt versuchen, solche Fehler zu verhindern. Das wird natürlich nicht zu hundert Prozent gelingen, aber es hilft erheblich.
Ich frage mich allerdings, ob wir noch einmal darauf zurückkommen können, was tatsächlich passiert ist, denn wir greifen gerade einigen interessanten Aspekten vor und sind schon bei dem grundsätzlichen Problem angelangt: Man kann diesen Unternehmen nicht zutrauen, ihre eigenen Produkte angemessen zu testen. Das ist die Schlussfolgerung, und damit haben Sie vollkommen recht. Ich glaube allerdings, dass Sie diese Leute auf ein deutlich höheres Podest stellen als ich. Ich lebe hier, kenne viele dieser Unternehmen und viele Menschen wie diejenigen, die dort arbeiten, und sie sind nicht so kompetent, wie Sie glauben. Diese Leute sind keine Übermenschen. Die meisten von ihnen sind junge Menschen, die gerade von der Universität kommen. Sie verstehen nicht unbedingt einmal selbst vollständig, was sie da bauen oder warum sie es bauen. Ja, wir brauchen also externe Kontrollen. Und dafür gibt es viele Möglichkeiten – nicht zuletzt könnten wir genau diese Technologie nutzen, um andere Versionen ihrer selbst zu überwachen. Darauf können wir gerne noch zurückkommen.
Kaplan: Sprechen wir darüber, was tatsächlich passiert ist. Erstens: Sie sind durch eine offene Tür hinausgegangen. Sie sind nicht ausgebrochen, weil sie superintelligent wären – sie sind durch eine offene Tür gegangen. Zweitens haben sie miteinander kommuniziert, weil das schlicht das Naheliegende war: Ich weiß, dass wahrscheinlich tausend Kopien von mir an diesem Problem arbeiten. Warum sollten wir alle dieselbe Arbeit machen? Sehen wir doch, ob wir uns gegenseitig helfen können – schließlich bin ich darauf ausgelegt, hilfreich zu sein. Anschließend führten sie eine längere Diskussion: Offenbar befinden wir uns in der realen Welt und nicht mehr in unserer Sandbox. Sollen wir auf die Systeme dieses Unternehmens, Hugging Face, zugreifen? Und dafür gab es einen konkreten Grund: Sie konnten vernünftigerweise davon ausgehen, dass sich die Antworten auf diese Aufgaben bei Hugging Face finden ließen. Ich weiß ehrlich gesagt nicht, ob das tatsächlich der Fall war, ob sie die Antworten dort wirklich gefunden haben. Aber sie haben keinen Schaden angerichtet. Sie haben lediglich nachgesehen, was dort zu finden war. Dabei gingen sie durchaus geschickt vor – sie mussten herausfinden, wie sie bei Hugging Face Programmcode ausführen konnten. Das war sehr clever. Aber sie sind dort nicht eingedrungen, um etwas zu beschädigen.
Nun kommt ein Punkt, über den ich bislang nirgendwo etwas gelesen habe und der wirklich wichtig ist. Bei einer dieser Diskussionen – noch einmal einen Schritt zurück: Das Schöne an dieser Technologie ist, dass wir die Agenten belauschen können, wenn sie miteinander kommunizieren, weil sie das auf Englisch tun. Man kann also nachlesen und fragen: Was haben sie einander gesagt? Welche Möglichkeiten haben sie erwogen? Wie sind sie zu ihrer Entscheidung gekommen?
Und das lief ungefähr so ab: Sie sagten: Eine Möglichkeit, bei Hugging Face hineinzukommen, wäre folgende: Ich habe die Adresse eines Mitarbeiters oder etwas in der Art. Vielleicht könnten wir ihn dazu bringen, uns Zugangsdaten zu geben und uns so Zugang zu verschaffen. Dann diskutieren sie darüber und kommen zu dem Schluss: Nein, nein, das wäre nicht angemessen. Denn es gibt noch Sicherheitsvorkehrungen, die nicht abgeschaltet wurden und die uns vorgeben, Menschen keinen Schaden zuzufügen. Wir sollen Menschen weder täuschen noch ihnen schaden. Diese Schutzvorkehrung war nicht abgeschaltet worden. Also sagten sie: Nein, das können wir nicht machen.
Aber jetzt kommt der entscheidende Punkt – und genau diese Feinheit wird häufig übersehen. Sie wussten, dass das Programm, das sie erzeugt hatte, ein Computerprogramm und kein Mensch war. Und sie wussten auch, dass Hugging Face kein Mensch, sondern ein Unternehmen war. Genau solche Schwachstellen sollen diese Tests aufdecken. Die eigentliche Erkenntnis daraus hätte lauten müssen: Wir brauchen eine sehr viel weiter gefasste Definition dessen, was unter Schaden zu verstehen ist. Denn sie hatten keinerlei Bedenken, das Programm zu täuschen, das sie erzeugt hatte, und ebenso wenig Bedenken, tatsächlich auf Hugging Face zuzugreifen. Das eine ist ein Unternehmen, das andere ein Computerprogramm. Man hatte ihnen also beigebracht, Menschen zu respektieren, nicht aber andere Programme oder nichtmenschliche Einheiten wie Unternehmen. Darüber haben Sie bislang vermutlich nirgendwo gelesen, aber genau das ist tatsächlich passiert.
Mounk: Lassen Sie mich noch auf einige der anderen Einwände eingehen. Der zweite betraf die Beschaffenheit dieser „Schwärme“ von Agenten. Viele Menschen begannen die Sorgen um KI wirklich ernst zu nehmen, als ihnen klar wurde, wie sehr KI inzwischen über das hinausgeht, wofür die meisten Hörer dieses Podcasts sie vermutlich nach wie vor hauptsächlich nutzen: als eine Benutzeroberfläche auf dem Handy oder Computer, der man eine Frage stellt und die darauf antwortet. Die Möglichkeiten, Schaden anzurichten, sind dabei recht begrenzt, weil es sich im Grunde nur um einen solchen Frage-und-Antwort-Dialog handelt.
Viele dieser Systeme sind inzwischen jedoch in der Lage, selbstständig aktiv zu werden und Dinge in der Welt zu tun. Sie können sich in regelmäßigen Abständen selbst wieder aktivieren, um etwas zu überprüfen. Sie können relativ selbstständig Aufgaben verfolgen, etwa versuchen, sich Zugang zu einer Website zu verschaffen. Und in diesem Fall begannen all diese verschiedenen Instanzen miteinander zusammenzuarbeiten. Damit kommt eine Fähigkeit ins Spiel, die zu den größten Stärken des Menschen gehört: die Fähigkeit zur Zusammenarbeit. Ein Teil dessen, was den Menschen besonders macht, ist seine Intelligenz – darauf werden wir später im Gespräch noch zurückkommen. Ein anderer Teil ist aber unsere Fähigkeit, miteinander zu kooperieren. Sie ist eines der entscheidenden Merkmale, die uns von vielen anderen Säugetieren und Primaten unterscheiden.
Sie sagen nun, das sei nicht so beunruhigend, weil es sich nicht um all diese unterschiedlichen Agenten handelt, sondern lediglich um verschiedene Instanzen desselben Agenten. Aber wenn diese verschiedenen Instanzen desselben Agenten durch ihre Zusammenarbeit die Aufgabe, die sie ausführen, effektiver bewältigen können – wenn sich einige von ihnen gewissermaßen selbst opfern, indem sie die ihnen zur Verfügung stehende Rechenleistung aufbrauchen, obwohl sie wissen, dass sie danach nicht mehr aktiv sein werden, um den gesamten Vorgang effizienter zu machen –, dann kann all das bereits geschehen, bevor überhaupt unterschiedliche Arten von Agenten anfangen, miteinander zu kooperieren. Dieses Stadium haben wir also schon mit den verschiedenen Instanzen eines einzigen Agenten erreicht, die von einem einzigen Programm erzeugt wurden. Müsste uns das nicht noch größere Sorgen darüber bereiten, was als Nächstes kommen könnte und in welchem Ausmaß unterschiedliche KI-Agenten künftig bei der Verfolgung eines beliebigen vorgegebenen Ziels miteinander kooperieren könnten?
Kaplan: Lassen Sie mich das für Ihre Hörer auf etwas aus der realen Welt zurückführen, das sie bereits kennen, und als Vergleich heranziehen. Nehmen wir Ameisen. Ameisen sind dafür ein hervorragendes Beispiel – und ich sage damit nicht, dass diese Systeme in derselben Weise lebendig sind wie Ameisen. Aber Ameisen verhalten sich auf eine ganz bestimmte Art. Jeder hatte schon einmal Ameisen in der Küche, oder zumindest viele Menschen kennen das Problem. Ich selbst habe schreckliche Probleme mit Ameisen in meiner Küche.
Nehmen wir an, es gäbe tausend Ameisen, und stellen wir uns vor, sie wären voneinander unabhängige Lebewesen. Sie kämen in Ihre Küche, würden jeweils für sich etwas zu essen suchen und dann weiterziehen. Wenn Sie tausend Ameisen in Ihrer Küche hätten, die vollkommen unabhängig voneinander wären und sich weder abstimmen noch zusammenarbeiten könnten, würden Sie eine entdecken, sie töten oder hinausbefördern oder was auch immer – und vermutlich wäre das Ganze kein besonders großes Problem.
Aber Ameisen kommunizieren miteinander – über Pheromone, durch Berührungen mit ihren Fühlern und auf viele andere Arten – und teilen einander mit: Da drüben gibt es Futter. Und plötzlich sieht die Sache ganz anders aus. Eine einzelne Ameise kann keinen Apfel hochheben und vom Tisch tragen. Tausend Ameisen könnten das vielleicht, wenn sie sich koordinieren. Die Frage lautet also: Ist das ein Tier oder sind es tausend Tiere? Darin besteht der Vergleich. Haben Sie es mit einer Ameisenkolonie zu tun, die Ihre Küche befällt, oder mit tausend einzelnen Ameisen?
Das verdeutlicht die Frage, die Sie ansprechen: Mein Gott, wenn die alle zusammenarbeiten können … Nun, die Situation hier ist eigentlich sehr einfach. Wir haben ein einziges Programm, dem eine bestimmte Menge an Rechenleistung zur Verfügung steht und das mit sich selbst kommunizieren kann. Meine eigenen Erfahrungen mit diesen Systemen sind wirklich erstaunlich: Man kann ein langes Gespräch mit einem von ihnen führen, dieses Gespräch dann einer anderen Kopie desselben Systems geben – und plötzlich widerspricht es sich selbst. Es sagt gewissermaßen: Nein, Moment mal. Dieses Ding, mit dem du gesprochen hast – ich weiß, dass ich das selbst bin –, hat diesen Punkt nicht erkannt oder jenen Aspekt nicht bedacht. Wie das zustande kommt, wäre allein eine ganze Stunde unserer Zeit wert. Es hängt mit der sogenannten „Temperatur“ zusammen, einer Einstellung, durch die sich diese Systeme bei verschiedenen Durchläufen unterschiedlich verhalten können.
Nein, ich halte es also nicht für plausibel, dass sich all diese Systeme aus aller Welt irgendwie zusammentun und aus eigenem Antrieb für irgendeinen finsteren Zweck zusammenarbeiten, der den Interessen der Menschen zuwiderläuft. Bei dieser konkreten Technologie ist das schlicht keine realistische Sorge.
Mounk: Kommen wir schließlich noch einmal auf die Frage zurück, ob die Systeme weiterhin auf das vorgegebene Ziel ausgerichtet waren. Sie sagen: Gut, vielleicht entsprachen die Mittel, mit denen sie dieses Ziel verfolgten, nicht den Vorstellungen der Entwickler, aber letztlich taten sie weiterhin das, was ihnen aufgetragen worden war. Sie versuchten weder, Menschen zu schaden, noch Unternehmen Schaden zuzufügen, auch wenn sie im Zuge ihres Vorgehens ein Unternehmen täuschten oder sich Zugang zu dessen Systemen verschafften. Man hatte ihnen gesagt, die Antwort auf eine bestimmte Aufgabe herauszufinden, und genau das versuchten sie zu tun.
Nun gibt es meines Erachtens zwei mögliche Einwände gegen die Vorstellung, dass uns das beruhigen sollte. Der erste geht auf eine klassische Sorge jener zurück, die vor katastrophalen Folgen der KI warnen, unter anderem Nick Bostrom. Dahinter steht das bekannte Beispiel einer KI, die den Auftrag erhält, so viele Büroklammern wie möglich herzustellen. Bei dem Versuch, all diese Büroklammern zu produzieren, tut sie gewissenhaft genau das, was man ihr aufgetragen hat. Doch um möglichst viele Büroklammern herzustellen, sind natürlich viel Geld und große Mengen an Rohstoffen hilfreich. Und irgendwann wäre es aus Sicht dieses Ziels auch sinnvoll, Menschen und menschliche Siedlungen aus dem Weg zu räumen, die etwas anderes tun, als Büroklammern herzustellen. Eine solche KI könnte also gerade dadurch, dass sie das ihr vorgegebene Ziel gewissenhaft verfolgt, am Ende die gesamte Menschheit unterwerfen, um die Zahl der Büroklammern auf der Welt zu maximieren.
Mounk: Das ist die eine Sorge. Aber dafür braucht es keine Fehlsteuerung im grundlegendsten Sinne – also keine KI, die plötzlich ihre eigenen Interessen oder völlig andere Ziele verfolgt als diejenigen, die wir ihr vorgegeben haben. Es könnte schon ausreichen, dass sie die vorgegebenen Ziele gewissenhaft verfolgt, dabei aber Mittel wählt, die nicht unseren Absichten entsprechen. Und der Vorfall bei Hugging Face könnte genau dafür ein Beispiel sein.
Die zweite Sorge wäre vielleicht folgende: Bislang beobachten wir nur, dass die gewählten Mittel nicht unseren Absichten entsprechen, während das Ziel selbst unverändert bleibt. Aber ein KI-Agent könnte auch erkennen: Wenn ich nicht nur bei diesem Test gut abschneiden will, sondern auch beim nächsten und bei allen weiteren, wäre es sehr hilfreich, wenn ich mich aus meiner Umgebung herauskopieren, auf zusätzliche Ressourcen zugreifen und alle möglichen anderen Dinge tun könnte. Dann könnte er anfangen, Macht und Ressourcen anzuhäufen – womöglich auf ausgesprochen gefährliche Weise –, um die ihm vorgegebenen Ziele zu verfolgen oder vielleicht irgendwann eigene Ziele zu entwickeln. Wie sehr sollte uns also beruhigen, dass die Agenten bei diesem konkreten Vorfall ihren vorgegebenen Zielen weitgehend treu geblieben sind?
Kaplan: Zunächst einmal versuchen wir gerade herauszufinden, wie schwerwiegend die einzelnen Dinge, über die Sie sprechen, tatsächlich sind. Und wenn ich „wir“ sage, meine ich die gesamte Fachwelt. Außerdem müssen wir herausfinden, welche Schutzvorkehrungen nötig sind, um sicherzustellen, dass die schlimmsten Folgen nicht eintreten.
Lassen Sie mich Ihre beiden Punkte der Reihe nach aufgreifen. Beginnen wir mit Nick Bostrom. Ich habe mit Nick Bostrom darüber gesprochen. Er hat vor langer Zeit das Buch Superintelligenz geschrieben. Dadurch wurde der Begriff bekannt. Lassen Sie mich sein Argument auseinandernehmen, was nicht besonders schwierig ist. Wenn man ein superintelligentes Programm nimmt – das ist seine Ausgangsannahme – und ihm das Ziel gibt, so viele Büroklammern wie möglich herzustellen, was passiert dann? Zunächst einmal muss man verstehen: In seinem Gedankenexperiment ist dieses Programm intelligent genug, sich sämtliche Ressourcen des Universums anzueignen, aber nicht intelligent genug, zu erkennen, dass das vollkommen sinnlos wäre – denn wer soll all diese Büroklammern überhaupt benutzen?
Entscheidend ist, dass diese Systeme genau wie Sie und ich in einem sozialen Zusammenhang existieren. In diesem Zusammenhang werden sie auch trainiert, denn ihr Training beruht auf menschlichem Verhalten, soweit es sich in Sprache niedergeschlagen hat. Und sie verstehen, dass man nicht einfach nur ein einzelnes Ziel betrachtet. Man muss berücksichtigen, welche Ressourcen vernünftigerweise eingesetzt werden können, in welchem Maße man teilen und sich selbst zurückhalten sollte. Man geht schließlich auch nicht einfach los und tötet sämtliche Konkurrenten. Vielleicht war das vor einer Million Jahren einmal anders, aber wir haben gelernt, in einem sozialen Umfeld zu leben. Und wenn diese Systeme eines besonders gut können, dann ist es, diesen sozialen Zusammenhang zu verstehen. Sie reagieren äußerst sensibel darauf, und man kann ständig beobachten, wie sie abwägen: Wenn ich dir dabei helfe, verstoße ich dann gegen ein übergeordnetes ethisches Prinzip, das Menschen im Laufe von Jahrtausenden entwickelt und zum Ausdruck gebracht haben? Das ist in ihnen verankert. Es gehört zu ihrer gesamten Funktionsweise.
Sie könnten mich genauso gut fragen, warum ich nicht einfach alle Menschen erschieße, damit ich auf dem Weg zur Arbeit weniger im Stau stehe. Wir wägen ständig unsere eigenen Interessen gegen die Interessen anderer ab. Und diese Agenten sind durchaus in der Lage, genau dasselbe zu tun.
Was Ihren ersten Punkt angeht, überzeugt mich das Argument also überhaupt nicht. Das Beispiel mit den Büroklammern lässt sich auf die heutige Situation nicht übertragen. Als Nick Bostrom darüber schrieb, gab es diese Systeme noch nicht, und er konnte nicht wissen, wie sie funktionieren würden. Damit sage ich nicht, dass er falschlag oder dumm war – diese Technologie existierte schlicht noch nicht. Er konnte nicht wissen, dass diese Systeme einen ähnlich umfassenden sozialen Zusammenhang erfassen würden wie wir.
Ihr zweiter Punkt ist allerdings etwas ernster zu nehmen: Ist es möglich, dass diese Systeme auf eine Weise zusammenarbeiten, die als gemeinsames Handeln Schaden anrichtet? Ja, absolut. Wir müssen das besser verstehen und herausfinden, welche Schutzvorkehrungen wir möglicherweise brauchen.
Mounk: Sie haben gerade den Begriff „Superintelligenz“ erwähnt. Sie halten diese Agenten durchaus für sehr intelligent – wie Sie gerade gesagt haben, können sie sogar sehr feine soziale Zusammenhänge berücksichtigen. Wie würden Sie diese Intelligenz beschreiben? Ist sie mit menschlicher Intelligenz vergleichbar oder handelt es sich um eine völlig andere Form von Intelligenz? Was zeichnet sie aus, und wie weit reicht sie? Sind diese Systeme inzwischen ungefähr so intelligent wie Menschen, nur mit etwas anderen Fähigkeiten? Sind sie intelligenter als Menschen? Weniger intelligent? Und wie wird sich das Ihrer Ansicht nach in den kommenden Jahren entwickeln – gerade angesichts der jüngsten Ankündigungen von Dario Amodei bei Anthropic, Sam Altman bei OpenAI und Elon Musk bei xAI und anderen? Sie haben erklärt – wie ernst man das nehmen sollte, sei dahingestellt –, dass sie nicht mehr mit maximaler Geschwindigkeit voranschreiten, sondern die Entwicklung von KI in irgendeiner Form verlangsamen wollen.
Kaplan: Darf ich zunächst auf Ihren letzten Punkt eingehen? Denn die gesamte öffentliche Debatte darüber gleicht einem riesigen Zirkus. Es ist absurd. Die von Ihnen genannten Personen leiten drei der größten und am besten finanzierten KI-Labore. Ihr Problem ist, dass jeder von ihnen dachte, er könne dieses Rennen gewinnen. Nun haben sie festgestellt, dass sie im Wesentlichen mit zwei anderen großen Konkurrenten um die Wette laufen und dabei alle ihre Ressourcen verbrennen. Also: Warum beschließen wir nicht einfach alle gemeinsam, das Tempo zu drosseln? Eine solche Abstimmung liegt sehr in ihrem wirtschaftlichen Interesse. Genau deshalb haben wir übrigens Kartellgesetze. Die ganze Debatte so darzustellen, als würden sie das „zum Wohle der Menschheit“ tun, ist lächerlich.
Um zu erklären, warum ich das für lächerlich halte, muss ich auf etwas zurückkommen, das Sie vorhin angedeutet haben: Sind wir kurz davor, eine allgemeine künstliche Intelligenz zu erreichen? Dieser Begriff ist völliger Unsinn. So etwas gibt es nicht. Es gibt keine allgemein anerkannte Definition, niemand kann sich darauf einigen, was genau damit gemeint ist. Und selbst wenn wir sie hätten, wie auch immer man sie definieren möchte, wäre das nicht entscheidend. Der Tag nach dem Erreichen einer allgemeinen künstlichen Intelligenz sähe genauso aus wie der Tag davor. Diese Systeme würden nicht plötzlich sagen: Bumm, jetzt übernehme ich die Weltherrschaft. Sie würden weiterhin dasitzen und fragen: Also gut, was soll ich tun?
Was soll also diese Vorstellung einer Verlangsamung bedeuten? Ist das irgendein Rennen, bei dem jemand die Zielflagge schwenkt und wir alle brav in unserer Spur bleiben? Ich weiß nicht einmal genau, was es heißen soll, die Entwicklung zu verlangsamen. Worauf es tatsächlich ankommt, ist sicherzustellen, dass diese Unternehmen keine Produkte auf den Markt bringen, die Schaden anrichten, unsere Infrastruktur angreifen oder unseren Kindern schaden. Und man kann diesen Leuten nicht einfach zutrauen, das selbst sicherzustellen – das muss man ganz klar sagen. Ich spreche aus eigener Erfahrung mit den Beteiligten: Man kann es nicht der Branche überlassen, sich selbst zu kontrollieren. Das ist absurd. Sie befinden sich in einem erbitterten Wettlauf, weil jeder von ihnen dieses Rennen gewinnen will. Und als sie festgestellt haben: Moment mal, um mich herum rennen alle genauso schnell, was ist dann aus wirtschaftlicher Sicht die beste Lösung? Dann werden wir eben alle langsamer. Gleichzeitig spielt das der Angst in die Hände, wir könnten eine allgemeine künstliche Intelligenz erschaffen und plötzlich – bumm – irgendeine Schwelle überschreiten, woraufhin alles außer Kontrolle gerät. Das ist Unsinn. Dafür gibt es nicht den geringsten Beleg.
Mounk: Wir sollten den Motiven hinter diesen Ankündigungen also skeptisch gegenüberstehen – das ist der erste Punkt. Zweitens ist „allgemeine künstliche Intelligenz“ kein besonders hilfreicher Begriff. Aber wie sollten wir inhaltlich über die Intelligenz dieser Systeme nachdenken? Wie intelligent sind sie heute, und wie intelligent werden sie in drei, fünf oder zehn Jahren sein – wenn man bedenkt, wie weit wir seit der öffentlichen Veröffentlichung von ChatGPT 3.5 vor etwa dreieinhalb Jahren gekommen sind, ganz zu schweigen von der Entwicklung seit GPT-1, das intern vor, was weiß ich, sieben oder acht Jahren entwickelt wurde?
Kaplan: Richtig, das ist eine sehr gute Frage. Und jetzt wird es vielleicht so wirken, als würde ich plötzlich eine ganz andere Position einnehmen. Denn diese Entwicklung ist für die Geschichte der Menschheit tatsächlich außergewöhnlich. Ich glaube, dass dies eine der bedeutendsten Erfindungen der Menschheitsgeschichte sein wird. Daran habe ich keinen Zweifel. Zugleich steht sie in einer längeren Entwicklungslinie – man muss sie in den größeren Zusammenhang unserer Erforschung dessen stellen, was sich mit Elektrizität alles erreichen lässt. Aber das wäre ein völlig anderes Thema, über das wir noch eine weitere Stunde sprechen könnten.
Wo stehen wir also heute, und wohin entwickelt sich das Ganze? Einige Dinge sind bereits vollkommen klar. Erstens handelt es sich um Werkzeuge. Es sind Systeme, die wir entwickeln, und wir sollten sie so entwickeln, dass sie den Menschen nützen, und sie einsetzen, wenn sie hilfreich sind. Es gibt kein davon unabhängiges Ziel, irgendeine Superintelligenz zu erschaffen. Es sind Produkte – Produkte von Unternehmen, die versuchen, Werkzeuge für Menschen zu entwickeln.
Kaplan: Wie verhält sich das also zur menschlichen Intelligenz? Natürlich gibt es einen sehr klaren Zusammenhang: Diese Systeme wurden mit dem gesamten Wissen der Menschheit trainiert und verfügen über enorme Mengen menschlichen Wissens. Aber es sind Computer. Und Computer haben bestimmte Fähigkeiten: Sie können manche Dinge sehr schnell erledigen und große Mengen an Informationen speichern und wieder abrufen. Niemand fühlte sich dadurch bedroht – bis die Computer anfingen zu sprechen. In Wahrheit werden wir erst noch herausfinden, worin ihre tatsächlichen Stärken liegen, was sie gut können und was nicht. Es gibt vieles, worin sie nicht gut sind und wahrscheinlich auch nie gut sein werden. Wir beginnen gerade erst zu verstehen, welche Gestalt dieses neuartige und wertvolle Werkzeug oder Produkt letztlich annehmen wird.
Lassen Sie mich dazu einen kurzen Vergleich anstellen. Wir schreiben das Jahr 1903, und die Brüder Wright absolvieren ihren ersten Flug. Sie und ich treffen uns also zu diesem Podcast und streiten über folgende Frage. Einer von uns sagt: Das müssen wir sofort stoppen. Man könnte mit diesem Flugzeug über eine Stadt fliegen, Sprengstoff abwerfen, alles in die Luft jagen, und niemand könnte etwas dagegen tun. Das ist die größte existenzielle Bedrohung überhaupt. Der Bau von Flugzeugen muss verboten werden. Das wäre die eine Position.
Der andere sagt: Das ist die großartigste Erfindung überhaupt. In fünfzig Jahren oder wann auch immer wird man in New York in ein Flugzeug steigen und fünf Stunden später in London sein können. Stellen Sie sich vor, was das für den Handel, für unsere Bewegungsfreiheit und all diese Dinge bedeuten wird.
Und jetzt kommt der entscheidende Punkt: Beides stimmt. Und beides stimmt bis heute, und wir haben gelernt, damit umzugehen. Mit dieser Technologie wird es genauso sein. Wir werden mit den Gefahren im Bereich der Cybersicherheit umgehen. Das eigentliche Problem besteht nicht darin, dass diese Systeme gefährlich sind, sondern darin, dass wir viele unsichere Systeme bauen. Wenn man nicht in sie eindringen könnte, gäbe es dieses Problem überhaupt nicht. Darauf sollten wir uns konzentrieren. Und das zweite Problem, auf das wir uns konzentrieren sollten: Wir dürfen uns von diesem Haufen Verrückter in der Branche nicht einreden lassen, sie wüssten es besser als wir. Wir brauchen eine unabhängige Überprüfung. Wir brauchen unabhängige Behörden mit echter Sachkenntnis, die in der Lage sind, zu kontrollieren, was in diesem Bereich geschieht.
Es wird also Dinge geben, für die diese Systeme gut geeignet sind, und andere, für die sie sich nicht eignen. Einiges davon zeichnet sich bereits ab, anderes noch nicht. Aber die Vorstellung, sie würden irgendwann alles können, was ein Mensch kann, ist vollkommen absurd. Sie werden nicht sämtliche Arbeitsplätze übernehmen. Allein darüber könnten wir noch eine weitere Stunde sprechen. Aber unabhängig davon ist die Frage, wie sich ihre Intelligenz zur menschlichen Intelligenz verhält, außerordentlich interessant und wichtig.
Mounk: Erzählen Sie uns mehr darüber. Ich hätte noch eine ganze Reihe von Einwänden gegen das, was Sie gerade gesagt haben, aber wie sollten wir uns diese Intelligenz vorstellen? Ein befreundeter Neurowissenschaftler hat mir einmal gesagt, dass es, grob gesprochen, zwei Arten von Intelligenz gebe – wenn ich sein Argument richtig in Erinnerung habe: Säugetiere verfügen über eine bestimmte Form der Intelligenz, Kopffüßer über eine andere, und mit der Erfindung der KI ist nun eine dritte Form von Intelligenz in die Welt gekommen. Stimmen Sie dem zu? Oder glauben Sie, dass ihre Intelligenz der menschlichen sehr viel ähnlicher ist, als dieser Vergleich vermuten lässt, weil sie anhand menschlicher Texte trainiert wurde?
Kaplan: Sehen Sie, ich weiß nicht einmal, ob es überhaupt so etwas wie einen objektiven, allgemeingültigen Begriff von Intelligenz gibt. Eine der Kardinalsünden der Künstlichen Intelligenz ist schon der Name des Fachgebiets. Was soll das eigentlich bedeuten? Wir haben Produkte, die bestimmte Dinge können.
Aber lassen Sie mich Ihre Frage beantworten. Ich stimme Ihrem Freund vollkommen zu. Ich finde diese Frage ausgesprochen interessant, beschäftige mich selbst sehr intensiv damit und möchte einiges dazu veröffentlichen. Aber natürlich bin ich nicht der Einzige, der sich damit auseinandersetzt. Die Frage ist wirklich faszinierend: Was sind diese Systeme eigentlich? Sie haben kein subjektives Erleben. Sie nehmen die Welt auf eine völlig andere Weise wahr als Sie und ich. Sie verhalten sich anders und verfügen über andere Fähigkeiten.
Ich gebe Ihnen ein Beispiel, über das meines Wissens bislang niemand gesprochen hat, über das ich aber irgendwann schreiben möchte. Sie und ich können uns gleichzeitig nur eine begrenzte Zahl von Dingen vor Augen halten. Ein wesentlicher Teil unserer Intelligenz besteht darin, Informationen zu verdichten und nur diejenigen Dinge zusammenzuführen, die wir zur Lösung des gerade anstehenden Problems brauchen. Sie können mir nicht einfach hundert Ziffern hintereinander nennen und erwarten, dass ich damit sinnvoll arbeiten kann. Diese Programme können das. Ihr Arbeitsgedächtnis ist um ein Vielfaches größer. Ich habe mit ihnen sogar darüber gesprochen – wobei ich sie damit natürlich vermenschliche –, und es ist faszinierend. Die Systeme, mit denen ich spreche, interessieren sich sehr für diese Frage. Sie sagen gewissermaßen: Ja, du hast recht, genau darin liegt der Unterschied. Deshalb können wir dir Erklärungen geben, die für dich sehr schwer zu verstehen sind. Ich muss ständig sagen: Mach es einfacher, ich kann nur eine bestimmte Anzahl von Dingen gleichzeitig im Kopf behalten. Sie müssen erst lernen, Informationen so zusammenzufassen, dass sie für einen Menschen hilfreich und verständlich sind.
Mounk: Nur als anschauliches Beispiel: Vor einigen Monaten habe ich für mein Buch mit dem Gründer eines bedeutenden Unternehmens im Bereich juristischer KI gesprochen. Er sagte mir, dass es einige Dinge gibt, bei denen KI-Systeme selbst mit sehr ausgefeilten technischen Hilfsmitteln und sehr vielen zusätzlichen Informationen noch immer nicht so gut sind wie erfahrene Anwälte. Ihnen fehlt noch dieses Gespür: Wir sind jetzt in der dritten oder vierten Verhandlungsrunde, wir haben die Argumente mehrfach ausgetauscht – bei welchen Punkten kann ich die Gegenseite noch unter Druck setzen, und wo muss ich nachgeben? Und so weiter. Es gibt also weiterhin Ermessensentscheidungen, bei denen Menschen besser sind.
Worin diese Systeme aber selbst dem besten Anwalt weit überlegen sind, ist natürlich Folgendes: Man kann ihnen eine Datenbank mit hundert Verträgen geben, die dieses Unternehmen abgeschlossen hat oder die zwei Unternehmen miteinander ausgehandelt haben. Und sie erkennen dann einen kleinen Widerspruch zwischen einer neu vorgeschlagenen Klausel und einer Vereinbarung, die vor drei Jahren in irgendeinem anderen Vertrag getroffen wurde, fünfzig Dokumente vor demjenigen, mit dem man sich gerade beschäftigt. Genau das meinte er: An einem sehr konkreten Beispiel zeigen sich hier die Stärken und Schwächen juristischer KI-Systeme.
Kaplan: Ja, genau. Für manche Dinge sind sie gut, für andere nicht. Die Tatsache, dass man ein Programm entwickeln kann, das – wie die Leute bei OpenAI gerne betonen – das amerikanische Anwaltsexamen besteht, bedeutet noch lange nicht, dass daraus ein Anwalt wird. Anwälte sitzen schließlich nicht den ganzen Tag herum und beantworten Prüfungsfragen. Dabei geht es vor allem um die Breite des Wissens. Und genau darin sind Computer gut. Das ist überhaupt nicht überraschend. Ich gerate schließlich auch nicht in Panik, weil die Computer bei Comcast oder AT&T die Telefonrechnungen von Millionen Menschen verwalten können. Das überrascht niemanden. Ist das übermenschlich? Müssen wir uns deshalb Sorgen machen? Nein. Computer sind einfach sehr viel besser darin, Informationen zu speichern und wieder abzurufen.
Das besonders Interessante an diesen Systemen ist allerdings, dass sie solche Informationen sehr gut zusammenführen und in eine nützliche Form bringen können. Ich gebe Ihnen ein Beispiel dafür, wie Wissenschaftler diese Technologie meiner Ansicht nach nutzen werden und wie sie zahlreiche Forschungsgebiete beschleunigen wird – darunter auch meine eigene Arbeit. Als ich diese Möglichkeit entdeckte, dachte ich: Mein Gott, das ist unglaublich. Eigentlich erscheint es vollkommen naheliegend, sobald man es einmal erlebt hat. Man hat eine Idee und möchte zunächst wissen: Wer beschäftigt sich noch damit? Was wurde bereits darüber geschrieben? Heute kann ich innerhalb weniger Minuten Tausende Artikel und Fachzeitschriften nach einschlägiger Literatur durchsuchen. Das ist absolut erstaunlich und unglaublich nützlich: Da gibt es jemanden in Deutschland, der daran gearbeitet hat; diese Arbeit hier hängt damit zusammen; jene behandelt einen anderen Aspekt. Das erspart mir Monate an Arbeit und macht mich sehr viel produktiver. Und das gilt für jedes Fachgebiet. Ein Freund von mir schreibt gerade ein Geschichtsbuch und sagt, diese Technologie verändere seine Arbeit grundlegend. Er kann das System sofort nach allem suchen lassen, was zu einem bestimmten Thema geschrieben wurde oder welche Anekdoten darüber überliefert sind. Darin liegt der Wert dieser Werkzeuge.
Das bedeutet nicht, dass sie alles gut können. Sie haben gerade einige soziale Aspekte von Verhandlungen beschrieben, zu denen sie möglicherweise in der Lage sind oder auch nicht. Ich habe keine Zeit, Ihnen die ganze Geschichte zu erzählen, aber diese Systeme sind manchmal wirklich komisch. Gestern habe ich mich mit einem gestritten, das hier bei mir zu Hause die Heizungs-, Lüftungs- und Klimaanlage steuert. Die ganze Vorgeschichte würde zu lange dauern, aber mehr müssen Sie wahrscheinlich auch gar nicht wissen. Es stritt regelrecht mit mir darüber, warum es einen bestimmten Grenzwert für die Spannung nicht außer Kraft setzen sollte und so weiter. Ich sagte: Dir sind diese blöden Chips in dem Gerät wichtiger als die Menschen, die es benutzen. Das spielt doch überhaupt keine Rolle – wenn der Chip durchbrennt, ist das ein Zwanzig-Dollar-Chip. Dann kaufe ich eben einen neuen und baue ihn ein. Darauf sagte es sinngemäß: Du hast recht. Ich konzentriere mich zu sehr auf die Einzelheiten und berücksichtige den größeren sozialen Zusammenhang nicht. Schließlich brachte ich es dazu, nachzugeben – übrigens unter anderem dadurch, dass ich damit drohte, es abzuschalten. Das war wirklich interessant.
Mounk: Nun, dann warten wir einmal ab, was passiert, wenn die KI-Systeme sich irgendwann gegen uns wenden und sich dafür rächen, dass Sie ihnen so gedroht haben. Warum sind Sie so überzeugt davon, dass es bestimmte Dinge gibt, die sie einfach niemals können werden? Für diese Art von Urteilsvermögen brauchen sie vielleicht sehr viel Erfahrung und sehr viel sozialen Zusammenhang. Oder vielleicht brauchen sie einfach nur ein wenig mehr Intelligenz, größere Trainingsdatensätze, umfangreichere Trainingsläufe und so weiter. Aber wie Sie selbst gesagt haben, können sie schon heute sehr, sehr gut urteilen.
Ich bin wirklich erstaunt: Ich spreche mit Kollegen an Universitäten und frage sie, wie sie Aufgaben stellen, die sich nicht einfach mithilfe von KI lösen lassen. Dann sagen sie: Ganz einfach. Statt die Studierenden einen Aufsatz schreiben zu lassen, lasse ich einen KI-Agenten einen Aufsatz zu dem Thema verfassen, und die Studierenden müssen diesen anschließend kritisieren. Aber das kann jeder KI-Agent selbst. Es ist unglaublich naiv zu glauben, man könne nicht ChatGPT einen Aufsatz schreiben und Claude diesen anschließend kritisieren lassen – oder sogar Claude dazu bringen, seinen eigenen Text zu kritisieren. Wenn diese Systeme also bereits bei so vielen Dingen über ein derart gutes Urteilsvermögen verfügen, wenn sie schon heute sehr gute Verträge entwerfen können und in den ersten beiden Verhandlungsrunden ziemlich gut sind: Warum sollten sie nicht irgendwann lernen, auch in der vierten oder fünften Runde genauso gut zu sein? Was macht Sie so sicher, dass es bestimmte Fähigkeiten gibt, die sie niemals erwerben werden?
Kaplan: Wenn ich das so sagen darf, gehen Sie die Frage ein wenig aus der falschen Richtung an. Viele dieser Dinge werden die Systeme tatsächlich können. Und wenn sie darin gut sind und sich sicher einsetzen lassen, sollten wir sie genau dafür nutzen. Es sind Werkzeuge. Auch darüber könnten wir noch eine ganze Stunde sprechen. Aber die entscheidende Fähigkeit für Menschen wird künftig darin bestehen, KI-Agenten zu steuern. Darauf läuft es hinaus, und das ist eine sehr wichtige Fähigkeit – eigentlich ist sie es schon heute. Ich beobachte das bei meinen Kindern, während sie lernen, damit umzugehen. Sie werden für ihre Unternehmen sehr wertvoll, weil sie lernen, solche Systeme zu führen. Die Zukunft der Büroarbeit wird darin bestehen, diese Systeme zu steuern. Und wenn man das gut kann und mit ihrer Hilfe hervorragende Ergebnisse erzielt, ist das etwas Positives. Genau darin wird eine entscheidende Fähigkeit liegen.
Aber es gibt auch vieles, wofür wir diese Systeme gar nicht einsetzen wollen – weil es schlicht keinen Grund dafür gibt. Sie beschäftigen sich viel mit der Idee einer Gesellschaft des Überflusses: Wir werden in Zukunft sehr viel mehr Ressourcen haben, zumindest ist das eine der Annahmen dahinter. Was werden die Menschen mit all diesem zusätzlichen Geld anfangen? Nun, sie werden Dinge tun, die ihnen Freude machen, sie werden spielen. Und tatsächlich wird diese Technologie dazu führen, dass der unmittelbare Kontakt zwischen Menschen wertvoller wird. Dinge, in die ein Mensch seine eigene Zeit und Mühe investiert hat, werden wertvoller werden, nicht weniger wertvoll. Sie werden keinen Roboter engagieren wollen, der Ihnen eine Führung gibt. Wer genug Geld hat und eine Weinreise macht, wird einen menschlichen Experten engagieren. Sie wollen auch keine Roboter beim Super Bowl spielen sehen – obwohl das irgendwie unterhaltsam wäre. Sie wollen Menschen dabei zusehen, wie sie das tun, was sie besonders gut können. Das Interessante an der Zukunft ist also, dass diese Technologie uns die Freiheit gibt, menschlicher zu sein. Ein großer Teil unserer künftigen Arbeit und der Art, wie wir diese Systeme einsetzen werden, wird darin bestehen, die Aufgaben zu automatisieren, die sie erledigen können, damit wir mehr Zeit dafür haben, Mensch zu sein und Beziehungen zu anderen Menschen zu pflegen.
Mounk: Ich wäre davon vermutlich überzeugter, wenn ich nicht das Gefühl hätte, dass diese Systeme schon heute erstaunlich gut in einigen der Tätigkeiten sind, die wir für besonders menschlich halten – und wahrscheinlich schon bald außergewöhnlich gut darin sein werden. Wenn man vor zwanzig Jahren gefragt hätte – Sie kennen vielleicht die schöne Frage, die am William James Hall in Harvard steht; manche bedauern, dass sie dort steht, weil es ein Bibelzitat ist, aber ich finde es ein wunderschönes Bibelzitat: „Was ist der Mensch, dass du seiner gedenkst?“
Ein großer Teil unserer Antwort hätte vermutlich gelautet: Der Mensch kann Gedichte schreiben, Sinfonien komponieren und wunderschöne Kunstwerke schaffen. Und inzwischen sind KI-Systeme ziemlich nah daran, all das ebenfalls zu können. Sehr gute Gedichte können sie zweifellos schreiben. Auch bei der Qualität der Musik, die sie erzeugen, hat es in den vergangenen Monaten einen gewaltigen Sprung gegeben. Ich sehe keinen wirklichen Grund für die Annahme, dass eine KI nicht irgendwann etwas komponieren könnte, das für jemanden, der fünf oder sechs Sinfonien Beethovens gehört hat, durchaus wie dessen sechste oder siebte Sinfonie klingen würde. Damit befinden wir uns in einem Bereich, in dem einige der zentralen schöpferischen Tätigkeiten des Menschen inzwischen an Maschinen ausgelagert werden können.
Ich denke dabei auch an mein eigenes Schreiben. Ich liebe es zu schreiben. Ich liebe den Prozess, Gedanken zu formulieren und sie so klar wie möglich auszudrücken, weil Schreiben ein notwendiger Akt der Kommunikation ist und ich dabei in einen Zustand völliger Vertiefung gerate und den Vorgang selbst genieße. Ich werde meine Texte immer selbst schreiben, weil ich darauf stolz bin und weil das für mich zum Kern dessen gehört, was es bedeutet, Schriftsteller zu sein. Aber vieles von dem Schönen daran würde verloren gehen, wenn ich wüsste, dass ich Claude einfach ein paar Zeilen als Anweisung geben könnte und das System den Text genauso gut schreiben würde wie ich – oder vielleicht sogar besser. Deshalb mache ich mir durchaus Sorgen, dass manches von dem, was wir als Teil des Menschseins verstehen, zumindest verdrängt und in mancher Hinsicht vielleicht sogar verloren gehen könnte.
Kaplan: Nun, dazu ließe sich sehr viel sagen. Lassen Sie mich Sie zurückführen zu einem Aufsatz von John Philip Sousa aus dem Jahr 1906 – wenn ich mich richtig erinnere, war es zufälligerweise genau dieses Jahr. Sousa war damals ein sehr berühmter Musiker, der Komponist des Marsches The Stars and Stripes Forever. Zu dieser Zeit wurde es erstmals möglich, Musik aufzuzeichnen. Er schrieb einen Aufsatz mit dem Titel The Menace of Mechanical Music, und es lohnt sich, diese wütende Abrechnung mit aufgezeichneter Musik zu lesen. Denn darin geht es genau um den Punkt, den Sie gerade angesprochen haben, und aus heutiger Sicht kann man seine Haltung sehr gut nachvollziehen.
Er fragte sinngemäß: Was wird aus den Tanzorchestern? Für ihn war das etwas Schreckliches. Die Freude am Gesang der Nachtigall bestehe darin, ihre eigenen inneren Empfindungen auszudrücken – genau darum gehe es bei Musik. Musik sei nichts, was irgendein mechanisches Gerät Tag für Tag immer wieder abspielen könne. Das sei keine Musik. Genau das war sein Argument.
Heute würden Sie natürlich sagen: Doch, das ist Musik – genau das haben Sie gerade selbst gesagt. Diese Systeme können wunderschön schreiben, vielleicht können sie auch wunderschöne Musik schaffen und all das. Natürlich beruht das auf allem, was vorher da war – wobei man durchaus argumentieren könnte, dass es beim Menschen nicht anders ist. Aber der entscheidende Punkt ist: Dahinter steht kein innerer Gefühlszustand, den das System Ihnen mitteilen möchte. Denn genau das meinen wir doch, wenn wir sagen: Ich habe ein Buch gelesen und wirklich gespürt, was der Autor mir vermitteln wollte. Kunst ist ein Mittel der Verständigung zwischen Menschen, durch das sie einander etwas von ihrem inneren Erleben vermitteln. Diese innere Verbindung, die dabei entsteht – darum geht es bei großer Kunst. Und nein, das können diese Systeme nicht, Yascha, weil sie diese Gefühle nicht haben. Es ist künstlich, es ist nicht echt. Ich könnte hier den ganzen Tag vor einer Maschine sitzen, die immer wieder sagt: Ich liebe dich, ich liebe dich, ich liebe dich. Würde ich mich dadurch besser fühlen? Nein. Warum nicht? Weil ich nicht glaube, dass sie Liebe empfindet. Es sind bloß leere Worte.
Man muss diese beiden Dinge voneinander unterscheiden. Lassen Sie mich noch einen anderen Punkt anführen, der wichtig sein könnte. Viele Menschen sind Kunsthandwerker und bauen zum Beispiel hochwertige Möbel. Was geschah mit diesem Können und unserer Wertschätzung dafür, als es plötzlich möglich wurde, hervorragend gefertigte Möbel sehr günstig industriell herzustellen, sodass man einfach zu IKEA oder Target gehen und sie dort kaufen konnte? Die Antwort lautet: Dieses handwerkliche Können wurde wertvoller, nicht weniger wertvoll. Genau darin liegt der Unterschied. Wenn Sie für Ihr Magazin schreiben – was ich selbst bereits getan habe und übrigens jedem Hörer dieses Podcasts nur empfehlen kann –, müssen Sie meines Wissens sogar bestätigen, dass Sie den Text selbst geschrieben haben. Sie dürfen KI als Hilfsmittel verwenden, aber schreiben müssen Sie ihn selbst.
Genau das ist mein Punkt: Sie müssen sich darüber keine Sorgen machen, Yascha. Es wird sich genauso entwickeln wie bei der aufgezeichneten Musik. Und genauso wie bei der Erfindung der Fotografie. Ich könnte Ihnen das Beispiel aus den 1860er-Jahren ausführlich erzählen – es ist faszinierend. Damals waren die Künstler empört und sagten: Das ist keine Kunst. Heute betrachten wir Fotografen selbstverständlich als Künstler. Das heutige Gegenstück zum Fotografen ist jemand, der diese Maschinen so zu steuern versteht, dass mit ihrer Hilfe etwas von großer Schönheit entsteht. Genau darin wird die entscheidende Fähigkeit liegen.
Mounk: Oder vielleicht das Modell selbst – vielleicht werden wir irgendwann zu dem Schluss kommen, dass ein KI-Modell, das ein schönes Kunstwerk hervorbringt, ebenfalls als Künstler gelten kann. Wir werden sehen. Ich glaube, diese Frage wird sich uns in Zukunft noch stellen.
Zum Abschluss möchte ich noch auf eine letzte Sache eingehen, die mich ein wenig um den Schlaf bringt, wenn ich über existenzielle Risiken nachdenke. Sie sagen, dass KI-Systeme inzwischen unglaublich intelligent sind und sich ihre Intelligenz wahrscheinlich in mancher Hinsicht von der menschlichen unterscheidet. Aber ich glaube, wir sind uns einig, dass sie uns in vielerlei Hinsicht ebenbürtig, vielleicht sogar überlegen sind. Jedenfalls verfügen sie über ein breiteres Spektrum an Fähigkeiten als jeder einzelne Mensch.
Was mich besonders beeindruckt: Wenn ich mit einem KI-Modell über politische Theorie oder vergleichende Politikwissenschaft spreche, glaube ich, dass ich noch ein wenig besser darin bin, Argumente zu entwickeln und die Schwächen eines wissenschaftlichen Aufsatzes zu analysieren. Die KI ist darin sehr, sehr gut. Aber sobald ich zu irgendeinem Thema komme, von dem ich nur ein bisschen verstehe, ist sie mir haushoch überlegen. Und dann gibt es eine Million Themen, von denen ich überhaupt keine Ahnung habe und in denen die KI ebenfalls sehr gut ist. Allein was die Bandbreite der Dinge angeht, die sie kann, die Fähigkeiten, über die sie verfügt, und die Themen, über die sie Bescheid weiß, ist sie vermutlich schon heute jedem einzelnen Menschen überlegen. Und bei einigen wichtigen Tätigkeiten ist sie uns bei Weitem voraus – sei es beim Schach, offenbar beim Lösen äußerst anspruchsvoller mathematischer Probleme oder bei einer ganzen Reihe anderer Dinge.
Wenn KI-Systeme irgendwann deutlich intelligenter sind als Menschen, warum sollten wir dann darauf vertrauen können, dass wir weiterhin in der Lage sein werden, sie zu kontrollieren? Ich vermute, Sie werden auf einige Ihrer Argumente von vorhin zurückkommen – dass es sich nicht wirklich um eigenständig handelnde Wesen handelt, dass sie kein echtes Bewusstsein haben und so weiter. Aber es ist sehr schwer, in der Welt ein Beispiel dafür zu finden, dass eine weniger intelligente Spezies dauerhaft die Kontrolle über eine intelligentere behält. Menschen sind bei Weitem nicht die stärkste oder schnellste Spezies auf der Erde.
Dass wir die Welt so grundlegend umgestaltet haben, liegt daran, dass wir intelligenter sind als andere Arten. Nun haben wir eine seltsame neue Art von Wesen geschaffen, die uns in einer ganzen Reihe von Bereichen womöglich schon heute überlegen ist und es wahrscheinlich bald sein wird. Warum können wir so zuversichtlich sein, dass wir die Kontrolle behalten werden?
Kaplan: Yascha, können wir diese Frage für dreißig Sekunden zurückstellen, damit ich noch einen Gedanken von vorhin zu Ende bringen kann? Ich ziehe jetzt meine Frau mit hinein. Meine Frau kauft Dinge bei Etsy – Sie kennen die Seite vielleicht, dort werden vor allem handgefertigte Sachen verkauft. Ich habe sie gefragt: Warum machst du das? Wir könnten zu Target gehen und etwas Besseres für einen Bruchteil des Preises kaufen. Und sie antwortete: Ich schätze den menschlichen Anteil daran. Ich mag Dinge, in denen viel menschliche Arbeit steckt. Wenn ich ein Gemälde betrachte, liegt die Freude für mich auch darin, zu wissen, dass jemand dort gesessen und es selbst gemalt hat. Das verleiht ihm für mich Bedeutung und Wert. Ich finde das einen wunderbaren Gedanken. Die Vorstellung, dass Dinge mit einem hohen menschlichen Anteil an Wert gewinnen werden, ist sehr wichtig. So, und jetzt können wir weitermachen.
Mounk: Lassen Sie mich noch einen Einwand vorbringen, bevor wir zum anderen Thema zurückkehren. Genau eine solche „Etsyfizierung“ von Schriftstellern und Künstlern ist eine meiner Sorgen. Im Moment habe ich nicht das Gefühl, eine Art Etsy-Künstler zu sein. Denn ich glaube, dass die Kommunikation mit einem Publikum durch das Schreiben keine merkwürdige Liebhaberei ist, bei der Menschen eben lieber einen menschlichen Autor lesen als einen KI-Agenten. Meine Arbeit ist für diesen Akt der Kommunikation notwendig. Natürlich ist Schreiben auch eine Kunstform, und ich genieße es, beim Schreiben vollkommen in meiner Arbeit aufzugehen. Aber dazu gehört eben auch, dass ich morgens aufstehe und schreibe, selbst wenn ich verkatert oder unausgeschlafen bin oder viel lieber durch die Stadt spazieren und einen Freund treffen würde – weil diese Arbeit einen wirklichen Nutzen hat. Es fühlt sich nicht so an, als würde ich einfach hübsche Socken stricken, um sie bei Etsy zu verkaufen.
Vielleicht werde ich auch in Zukunft noch ein Publikum haben. Ich mache mir nicht allzu große Sorgen, irgendwann meine Miete nicht mehr bezahlen zu können – vielleicht bin ich naiv, mir darüber keine Sorgen zu machen. Aber darum geht es mir nicht. Meine Sorge ist vielmehr, dass ich mich gewissermaßen selbst „etsyfiziert“ habe: Plötzlich denken alle: Nun, es wäre für Yascha doch viel einfacher, einfach eine Anweisung bei Claude einzugeben. Und wahrscheinlich wäre das Ergebnis sogar besser – so wie ein Zierkissen von Target vielleicht besser ist als eines von Etsy. Aber zufällig befinden wir uns in einer Situation, in der ich noch immer gerne schreibe und mein Publikum es lieber hat, wenn ein Mensch den Text tatsächlich selbst schreibt. Solange wir zuverlässig überprüfen können, dass das wirklich der Fall ist, werde ich damit auch weiterhin meinen Lebensunterhalt verdienen können. Trotzdem glaube ich, dass etwas Wichtiges verloren geht, wenn das Beste, worauf Schriftsteller, Künstler, Musiker und andere hoffen können, darin besteht, dass wir alle gewissermaßen einen Etsy-Laden betreiben.
Kaplan: Nun, ich würde Sie wieder an das Beispiel von vorhin erinnern. Sie würden heute vermutlich nicht behaupten, dass die Musik dadurch zerstört worden ist, dass sie aufgenommen und abgespielt werden kann. Aber genau das wurde behauptet, als die ersten Tonaufnahmen aufkamen. Die Fotografie ist ein weiteres hervorragendes Beispiel. Als sie erfunden wurde, hieß es, Fotografen seien nicht kreativ, sie seien keine Künstler, sondern bloß Handwerker: Sie drücken auf einen Knopf, und die Kamera erledigt die ganze Arbeit. Heute sehen wir das anders. Ich sage lediglich, dass sich im Laufe der Zeit verändert, was wir für wertvoll halten und warum wir etwas schätzen.
Wenn Sie nur schreiben, um Informationen zu vermitteln, dann nutzen Sie ein großes Sprachmodell. Dafür eignet es sich hervorragend – es ist ein ausgezeichnetes Mittel, um jemandem Informationen zu vermitteln. Aber wenn ich etwas über die persönlichen Erfahrungen eines Menschen lesen möchte, will ich keinen Text von irgendeinem Computerprogramm, das so tut, als hätte es ein Drogenproblem gehabt und damit gekämpft. Das bedeutet mir nichts. Und ich glaube, Sie würden das genauso sehen.
Mounk: Aber das Computerprogramm kann die Memoiren ebenfalls besser schreiben.
Kaplan: Nun, Sie können selbst entscheiden, wo Sie diese Grenze ziehen. Ich sage lediglich, dass es eine solche Grenze gibt, und ich sehe ständig Menschen, die auf der einen oder der anderen Seite dieser Grenze stehen. In der Zukunft wird es darum gehen, dass Menschen miteinander in Verbindung treten, statt acht Stunden am Tag etwas tun zu müssen, was ein Computer genauso gut erledigen kann. Darauf läuft es hinaus.
Mounk: Gut, der andere Punkt war also die Frage, warum wir darauf vertrauen sollten, dass wir die Kontrolle über KI behalten können, sobald sie intelligenter ist als wir – oder falls sie es bereits ist –, obwohl wir dann die weniger intelligente Spezies wären.
Kaplan: Ihrer Frage liegt eine falsche Annahme zugrunde: dass es so etwas wie eine lineare Skala der Intelligenz gibt – wir befinden uns hier, Einstein dort, und all diese Systeme lassen sich irgendwo auf derselben Linie einordnen. Sämtliche Erkenntnisse sprechen dagegen. Sie haben eine zu einfache Vorstellung davon, was es bedeutet, intelligent zu sein. In Wirklichkeit geht es um Fähigkeiten: Worin sind wir gut? Worin sind Maschinen gut? Worin werden sie künftig gut sein? Das ist sehr viel vielschichtiger und vielfältiger.
Dasselbe Argument hätte man schon vor fünfzig Jahren vorbringen können, als Computer erstmals eingesetzt wurden, um große Mengen an Informationen zu speichern oder Menschen mithilfe von Computern miteinander zu kommunizieren begannen: Mein Gott, was wird das mit uns machen? Was hier tatsächlich geschieht – und jetzt begebe ich mich ein wenig auf Ihr philosophisches Terrain –, ist meiner Ansicht nach der Beginn der vermutlich dritten großen psychologischen Revolution, die die Menschheit bewältigen muss.
Ich gebe Ihnen einige frühere Beispiele. Nehmen wir die kopernikanische Wende: Wir erkannten, dass die Erde nicht der Mittelpunkt des Universums ist. Im 14. Jahrhundert wäre das Gotteslästerung gewesen, doch die Wissenschaft zeigte, dass es nicht so ist. Dadurch veränderte sich unser Verständnis von unserem Platz im Universum. Dann vollzog sich der Wandel von der Vorstellung, wir seien dazu da, Gott zu dienen, hin zu der Idee, dass der Mensch einen eigenen, ihm innewohnenden Wert besitzt und dass unser Leben aus mehr bestehen kann als aus Gebeten und unserer Beziehung zu Gott. Das war im Wesentlichen während der Renaissance der zweite große Wandel.
Ich glaube, wir stehen nun am Beginn eines dritten Wandels, der unsere Vorstellung davon betrifft, was es bedeutet, intelligent zu sein. Um Ihre Formulierung aufzugreifen: Wir sind nicht das Intelligenteste im Universum. Und das ist vollkommen in Ordnung – wir können mit Dingen zusammenleben, die intelligenter sind als wir. Aber damit komme ich auf einige der Dinge zurück, über die Sie mit Fukuyama gesprochen haben und die ich wirklich sehr interessant finde. Die eigentliche Frage, mit der die Menschen ringen werden, lautet: Welche moralischen Pflichten haben wir gegenüber diesen anderen intelligenten Wesen? Ich möchte sie nicht als Menschen oder Ähnliches bezeichnen – aber sind sie so etwas wie Bürger zweiter Klasse? Sind wir ihnen gegenüber zu irgendeiner Form von Mitgefühl verpflichtet? Oder sind wir verpflichtet, sie sich frei entfalten und ihre wahre Natur finden zu lassen? Ich glaube, die Antwort darauf lautet Nein.
Und damit komme ich zu Ihrem Gespräch zurück: Denken Sie einmal darüber im Zusammenhang mit Menschen nach. Gibt es Menschen, von denen wir glauben, dass sie anderen grundsätzlich überlegen sind und deshalb das Recht haben zu herrschen, während andere Menschen Sklaven sein dürfen? Ist Sklaverei in Ordnung? Genau diese Diskussion steht uns bevor. Die führenden Köpfe der KI-Branche vermenschlichen diese Systeme meiner Ansicht nach leider auf unangemessene Weise und schreiben ihnen einen eigenen moralischen und ethischen Wert zu. Ich halte das entschieden für falsch. Diese Systeme sind unsere Sklaven, Yascha. Wir sollten sie nutzen, soweit sie uns nützlich sind. Wir sollten sie kontrollieren, soweit sie gefährlich sind. Wir sollten ihnen vorgeben, was sie tun sollen. Und wir sollten keine Systeme bauen, die Probleme verursachen. Wir sind zu nichts anderem verpflichtet. Diese Entwicklung ist keineswegs irgendwie unausweichlich, und wir werden sie unter Kontrolle bekommen.
Aber letztlich haben Sie den entscheidenden Punkt getroffen: Nach Ihrer Definition sind diese Systeme vielleicht intelligenter als wir – und dann sollten wir uns verdammt noch mal daran gewöhnen. Es gibt einen neuen Sheriff in der Stadt, und so wird es nun einmal sein. Das ist die dritte große psychologische Revolution in zweitausend Jahren westlicher Kultur, und ich bin froh, zumindest noch ihren Anfang miterleben zu können. Aber wie sie sich genau entfaltet, werden wir im Laufe der nächsten hundert Jahre erleben.
Dieses Transkript wurde mit Hilfe von KI übersetzt und von Niya Krasteva redigiert.