Arvind Narayanan: Warum KI gar nicht so revolutionär ist
Yascha Mounk und Arvind Narayanan diskutieren, warum die eigentliche Transformation durch KI Jahrzehnte statt Monate dauern wird – und was das dafür bedeutet, wie wir uns vorbereiten sollten.
Wenn dir meine Artikel und Podcasts gefallen, abonniere dich jetzt – oder leite sie an Freunde weiter –, damit dieser Substack weiter wachsen kann!
Arvind Narayanan ist Professor für Informatik an der Princeton University.
Im Gespräch dieser Woche diskutieren Yascha Mounk und Arvind Narayanan darüber, warum sich die transformative Wirkung der KI über Jahrzehnte statt über Monate entfalten wird, ob menschliche Verantwortlichkeit den Aufstieg von KI-Agenten am Arbeitsplatz überleben kann, und wie die Wirtschaft aussehen wird, sobald KI jede präzise spezifizierbare Aufgabe automatisiert hat.
Das Transkript wurde gekürzt und zur besseren Verständlichkeit leicht bearbeitet.
Yascha Mounk: Sie haben eine Formulierung geprägt, die für einige der Debatten über künstliche Intelligenz wirklich zentral ist, aber was Sie damit meinen, geht ein Stück über das hinaus, was man allein aus der Formulierung intuitiv erschließen würde. Der Ausdruck lautet „KI ist normale Technologie“. Was bedeutet es, KI als normale Technologie zu betrachten?
Arvind Narayanan: „Normale Technologie“ bedeutet nicht, dass das banal oder langweilig ist, nichts Besonderes, weiter geht’s, wir sind keine KI-Skeptiker. Der Text beginnt damit, anzuerkennen, dass die KI eine transformative Technologie ist und sein wird, vielleicht in einer Größenordnung wie die Elektrizität, die verschiedenen industriellen Revolutionen und so weiter. Wir glauben tatsächlich, dass dies eine Transformation für kognitive Arbeit ist, so wie es in der Vergangenheit Transformationen für mechanische Arbeit gab. Aber ich denke, diese historische Analogie gibt uns sehr viel an die Hand.
Wir glauben, dass es tiefe Lehren aus der Geschichte gibt, die nahelegen: Nur weil diese Technologie so mächtig ist, wird sie die Welt nicht innerhalb von ein, zwei Jahren umkrempeln. Es gibt viele Technologen, Tech-Führungskräfte und Wirtschaftsführer, die vorhersagen, dass allein deshalb, weil die Zahlen auf den Diagrammen, die sie sich anschauen – KI-Fähigkeitsdiagramme –, nach oben gehen, menschliche Arbeit überflüssig wird, Menschen ihre Jobs verlieren, das Konzept des Geldes sogar endet, oder existenzielle Bedrohungen für die Menschheit entstehen. Wir halten das alles für berechtigte Sorgen. Wir sind froh, dass Menschen dazu forschen. Aber wir glauben, dass es so viele Engpässe gibt zwischen der wachsenden KI-Fähigkeit und diesen Auswirkungen – positiven wie negativen –, besonders wenn man sie wirklich in die Wirtschaft integrieren und daraus etwas Nützliches gewinnen will. Es müssen so viele Dinge richtig laufen. Wir glauben, dass sich das über Jahrzehnte abspielen wird, nicht über Monate oder Jahre.
Wir haben eine erhebliche kollektive Handlungsfähigkeit dabei, wie KI verschiedene Berufe, die Wirtschaft, die Demokratie und so weiter verändern wird.
Mounk: Ich finde das eine wirklich nützliche Denkweise. Nochmals, Sie sind sehr vorsichtig dabei, zu betonen, dass Sie kein KI-Skeptiker sind. Ich bin mir aber etwas unsicher, was genau wir in diesem Zusammenhang mit dem Begriff „normal“ meinen. Wenn man sich die Elektrizität anschaut, sogar das Internet – das waren Technologien, die die Welt tatsächlich sehr fundamental verändert haben.
Wenn man das nun den naivsten Verlautbarungen gegenüberstellt, die manche Leute im Silicon Valley von sich geben – in achtzehn Monaten wird sich alles verändert haben –, erinnere ich mich, wie ich 2017 mit jemandem, der heute im Silicon Valley sehr bekannt ist, in einem Konferenzraum saß, der aus dem Fenster auf eine grüne Wiese zeigte und sagte, in achtzehn Monaten würden dort Roboter Wolkenkratzer bauen. Wir haben jetzt 2026, und die Wohnungskrise in Kalifornien ist so schlimm wie eh und je. Ich habe also viel Sympathie für diesen Punkt. Aber selbst wenn das eher Jahrzehnte als Jahre dauern wird, und die Art, wie die Technologie die Welt formt, offensichtlich von allerlei menschlichen Entscheidungen, Institutionen und regulatorischen Hindernissen beeinflusst wird, fühlt sich etwas in der Größenordnung der Elektrizität in gewissem Sinne doch ziemlich unnormal an.
Narayanan: Es ist eine Technologie, die man ernst nehmen sollte. Ich denke, Einzelpersonen, Unternehmen und politische Entscheidungsträger sollten sie alle ernst nehmen, und deshalb arbeiten wir im Bereich KI. Mein Koautor Sayash Kapoor und ich haben eine lange Geschichte darin, politische Entscheidungsträger zu beraten, wie sie auf diese Veränderungen reagieren sollten. Würden wir das nicht ernst nehmen, würden wir nicht unsere eigenen Karrieren in diese Arbeit investieren. Aber um den Finger auf einige der Meinungsverschiedenheiten zu legen – genau wie Sie es angesprochen haben –, es gibt so viele Behauptungen, diese Transformation werde innerhalb von ein, zwei Jahren geschehen. Und wenn das der Fall wäre, dann würden all die eher normalen politischen Hebel, die wir haben könnten – Menschen helfen, angesichts dieser neuen Technologie neue Fähigkeiten zu erwerben, damit sie neue Jobs finden können –, all das wäre hinfällig, weil auf dieser Zeitskala nichts schnell genug passieren kann. Das Einzige, worauf wir uns dann vorbereiten könnten, wäre Massenarbeitslosigkeit. Also müssten wir über alles reden, was unterhalb der Größenordnung eines bedingungslosen Grundeinkommens liegt, als völlig unangemessen im Verhältnis zur Größe des Problems. Genau das fordern Tech-Führungskräfte, und dem stehen wir entschieden entgegen.
Wir glauben tatsächlich, dass die normalen Werkzeuge der Politikgestaltung, der Wirtschaft und der menschlichen Anpassung auch bei KI funktionieren können. Wir müssen sicherlich einige Probleme lösen. Selbst „normale“ Politikgestaltung, selbst bei einer Technologie, die nicht so schnell voranschreitet wie KI, braucht oft sehr lange, bis Probleme überhaupt anerkannt werden. Bei sozialen Medien zum Beispiel dauerte es weit über ein Jahrzehnt, nachdem sie diese massiven Auswirkungen auf die Gesellschaft zu zeigen begannen, bis die Forschung tatsächlich so weit war, bis politische Entscheidungsträger aufwachten und so weiter. Das sind Probleme, die wir schon hatten, und wir werden diese Probleme auch bei KI haben. Wir müssen die Geschwindigkeit verbessern, mit der wir auf diese Veränderungen reagieren, aber es ist nicht so, dass es sich um eine Sache von ein, zwei Jahren handelt und wir unser gesamtes bestehendes Regelwerk über Bord werfen und uns entweder auf eine Utopie oder eine Katastrophe vorbereiten müssten.
Mounk: Lassen Sie uns unterscheiden zwischen der Geschwindigkeit, mit der die Transformation geschehen wird, und dem letztendlichen Ausmaß dieser Transformation. Ich glaube, bei der Geschwindigkeit sind wir uns sehr einig. Nachdem ich viel von Ihrer Arbeit gelesen habe, bin ich mir noch nicht sicher, ob wir uns auch über das Ausmaß einig sind. Aber fangen wir dort an, wo es einfach ist, bei der Geschwindigkeit. Warum, in präzisen Worten, glauben Sie, dass sich die Auswirkungen dieser Technologie in der realen Welt viel langsamer materialisieren werden, als viele Leute im Silicon Valley zu glauben scheinen? Warum ist das eine Frage von Jahrzehnten und nicht von Jahren oder gar Monaten?
Narayanan: Nehmen wir ein konkretes Beispiel: Softwareentwicklung. Das ist der Bereich, in dem die KI-Einführung am schnellsten vorangeschritten ist und die KI-Fähigkeiten am weitesten fortgeschritten sind. Es gab die Vorhersage, dass KI die Softwareentwicklung automatisieren würde, sobald sie den gesamten Code schreiben kann. Wir haben inzwischen genug Belege – wir haben gerade einen Essay dazu veröffentlicht –, um dieses Modell zu verwerfen. KI schreibt inzwischen bereits den größten Teil des Codes, und trotzdem hat sie Softwareentwickler nicht überflüssig gemacht.
Die Einstellung von Softwareentwicklern – die Zahl der beschäftigten Softwareentwickler wächst immer noch, vielleicht etwas langsamer als früher, aber selbst das ist umstritten, weil es Softwareentwicklern auch leichter macht, zum Beispiel Unternehmer zu werden, und das wird von den Daten nicht ganz erfasst. Wir haben untersucht, warum das so ist, und wir haben ein Modell, das es erklärt. Wir nennen es das „Entscheiden-Ausführen-Liefern-Sandwich“. Das sind drei Schichten, die unserer Ansicht nach auf die meisten Arten kognitiver Arbeit zutreffen.
Kognitive Arbeit – für den Lebensunterhalt denken – ist die Art von Arbeit, von der Leute sagen, sie werde durch KI automatisiert. Unsere Analyse ergibt, dass bei den meisten dieser Jobs, ob man nun Softwareentwickler, Anwalt, Forscher oder in vielen anderen Arten kognitiver Arbeit tätig ist, ein gutes Drittel schlicht darin besteht, herauszufinden, worin das Problem überhaupt besteht, und Entscheidungen zu treffen, ob es sich lohnt, das Problem zu lösen, wie man es lösen wird, wie man die Software bauen, und das System entwerfen wird und so weiter.
Dann besteht vielleicht ein weiteres Drittel, wieder im Kontext der Softwareentwicklung, darin, den Code zu schreiben, ihn zu korrigieren und so weiter. Und ein weiteres Drittel besteht darin, den Code auszuliefern – ihn zu verifizieren, sicherzustellen, dass er die Qualitätsprüfungen besteht, dafür Verantwortung zu übernehmen, ihn in die Systeme des Kunden zu integrieren, ihn über die Zeit zu pflegen, besonders wenn man an Unternehmenssoftware statt an Verbrauchersoftware denkt. Das ist ein großer Teil davon. Was wir feststellen, ist, dass KI die Mitte dieses Sandwiches komprimiert. Sie kann das Schreiben des Codes übernehmen, aber bei den anderen Teilen, die erfordern, dass ein Mensch für das, was letztlich geliefert wird, verantwortlich ist, hat sie den Menschen nicht aus diesem Prozess herausgenommen. Wenn überhaupt, haben sich diese Schichten des Sandwiches ausgedehnt, um die Zeitersparnis wieder aufzufüllen, die man dadurch gewinnt, dass KI den gesamten Code schreibt. Es gibt noch mehr dazu zu sagen, aber ich höre hier erst mal auf und bin gespannt auf Ihre Gedanken.
Mounk: Inwieweit ist das eine Funktion des jeweiligen Entwicklungsstadiums der Technologie? ChatGPT 3.5 wurde vor, was, dreieinhalb Jahren eingeführt? Der Fortschritt dessen, was diese Systeme leisten können, war erstaunlich schnell. Bei der zentralen Aufgabe, Code zu schreiben, können sie inzwischen offensichtlich mit den allerbesten menschlichen Ingenieuren mithalten. Aber natürlich, was den Aufbau einer Struktur angeht, die es KI-Agenten erlaubt, darüber nachzudenken, welches Problem innerhalb einer Organisation überhaupt lohnenswert zu lösen ist, oder zu überlegen, wie man KI-Agenten so einrichtet, dass sie zuverlässig die Codequalität im Kontext der Bedürfnisse des Unternehmens prüfen können – da sind wir noch nicht. Das spricht sicherlich für Ihren Punkt. Aber was spricht dagegen, dass genau das in den nächsten drei, fünf oder zehn Jahren eingeführt wird?
Allgemeiner gesagt: Wenn man an viele dieser im Grunde politischen Anforderungen innerhalb eines Unternehmenskontexts denkt – irgendjemand muss verantwortlich sein. Wenn das zu einem schrecklichen Ausfall führt, muss man jemanden haben, den man feuern kann, jemanden, dem man die Schuld geben kann. Das gilt sicherlich für heutige Organisationen, und es fällt diesen Organisationen sehr schwer, sich selbst zu reformieren. Aber wenn wir über einen längeren Zeithorizont nachdenken, könnten wir uns sicherlich KI-native Unternehmen vorstellen, die ganz anders aufgestellt sind, viel besser in der Lage, KI-Technologie zu nutzen, um einen Teil dieses menschlichen Urteilsvermögens zu ersetzen.
Narayanan: Das ist eine großartige Frage, und ich denke, das ist ein zentraler Streitpunkt – hier weichen wir von vielen unserer Kritiker ab, die uns bei der Zeitskala vielleicht zustimmen, aber beim Ausmaß der Transformation widersprechen. Zwei Punkte. Wie du sagst, politische Anforderungen – ich glaube nicht, dass sich diese einfach deshalb ändern werden, weil die Fähigkeiten sich verbessern. Einer unserer zentralen Punkte ist, dass wir die Handlungsmacht haben, darauf zu bestehen, dass Menschen letztlich verantwortlich bleiben für das, was geliefert wird. Das könnte sogar dann gelten, wenn KI in einem engen Sinne von Fähigkeit die bessere Arbeit leisten könnte, gerade weil man KI nicht bestrafen kann, sozusagen, oder zur Verantwortung ziehen kann. Sie hat nicht einige der Beschränkungen, die Menschen haben. Ich denke, das Richtige ist, darauf zu bestehen, dass Menschen verantwortlich bleiben. Es gibt etwas Inhärentes an menschlicher Verantwortlichkeit, das man mit KI nicht bekommen kann. Das liegt nicht an den KI-Unternehmen – das liegt an den nachgelagerten Organisationen, die KI einsetzen, und, falls nötig, an der Regulierung, die darauf besteht, dass das so gehandhabt wird. Das haben wir historisch bei vielen Technologien so gemacht, die sehr mächtig, aber gefährlich sind. Ich mag die Analogie des Kranführers. Der Kran kann die Schwerstarbeit auf der Baustelle übernehmen – wir brauchen keine menschliche körperliche Arbeitskraft mehr. Aber obwohl wir es könnten, lassen wir den Kran nicht autonom arbeiten. Wir setzen einen Bediener hinein, und der Kran wird zu einem gewaltigen Verstärker menschlicher Fähigkeit. Das ist das Modell, das wir für richtig halten, und wir können uns dafür entscheiden, es dabei zu belassen. Wir können nicht garantieren, dass es so bleibt, aber ich glaube nicht, dass das allein eine Entscheidung ist, die die Tech-Unternehmen selbst treffen.
Der zweite Punkt ist der Ursprung vieler dieser Meinungsverschiedenheiten. Wir glauben tatsächlich, dass sich die Menge der Aufgaben, die man an KI delegieren kann, mit der Zeit allmählich ausweitet. Aber das bedeutet: Sobald KI etwas kann, ist das keine Quelle von Wettbewerbsvorteil im Unternehmen mehr. Es ist nicht so, dass wir eine feste Menge an Dingen bauen wollen, und sobald man diese Dinge mit KI bauen kann, ist man fertig, es gibt keine Arbeit mehr. So funktioniert die Wirtschaft nicht. Sobald man bestimmte Dinge automatisieren, an KI delegieren kann, wird das zu einer allgemeinen Fähigkeit, die jede Firma hat. Dann konkurrieren die Firmen um das, was knapp ist. Menschliche Arbeitskraft wird immer knapp bleiben, weil man von ihr keine unendlichen Kopien erstellen kann. Diese verbleibenden Bereiche des Urteilsvermögens, die KI noch nicht ausführen kann, das ist es, was im Bereich menschlichen Urteilsvermögens und menschlicher Expertise bleiben wird, und darum werden Unternehmen konkurrieren.
In ferner Zukunft könnte sich das ändern, mehrere Jahrzehnte weiter, aber für lange Zeit werden wir uns in dieser Phase eines sich ständig nach oben verschiebenden Gleichgewichts befinden.
Mounk: Ich nehme diese Argumente sehr ernst. Nur zwei Anmerkungen. Erstens haben Sie „mehrere Jahrzehnte“ einfließen lassen. Ich versuche, das auf der Zeitskala der Geschichte und auf der Zeitskala der Herausforderungen, denen unsere Gesellschaft gegenüberstehen wird, zu denken. Werden Menschen, die heute in ihren 50ern oder 60ern sind, vermutlich in Ordnung sein? Ich denke schon. Werden Menschen in ihren 30ern und 40ern in Ordnung sein? Ich denke, das ist eine offenere Frage. Wie wird die Welt für Menschen aussehen, die heute in ihren 20ern sind und gerade mit der Uni angefangen haben? Ich finde, das ist eine viel, viel größere Herausforderung. Insofern die Antwort lautet, es werde mehrere Jahrzehnte dauern, ist das in gewissem Sinne beruhigend, und es passt sicherlich vollständig zu den Belegen aus der industriellen Revolution, dazu, wie lange es dauerte, bis die Erfindung des Buchdrucks eine große Wirkung auf die europäische Kultur oder Gesellschaft entfaltete. Das nehme ich dir absolut ab. Es ist mir nur nicht klar, ob mehrere Jahrzehnte tatsächlich so beruhigend sind, wie es scheinen mag.
Narayanan: Klar. Schauen Sie, der Rahmen „KI als normale Technologie“ ist für manche Leute beruhigend und für andere nicht, und unser Ziel ist es, diesen Rahmen bereitzustellen, damit die Leute damit machen, was sie wollen, nicht unbedingt, um Beruhigung zu spenden. Für mich ist er beruhigend, weil ich glaube, dass sich Menschen über eine Zeitskala von mehreren Jahrzehnten anpassen können. Fast jeder kann sich anpassen. Wenn es ein oder zwei Jahre sind, können sich die meisten Menschen nicht anpassen. Wenn es mehrere Jahrzehnte sind, können wir sozusagen Spieltheorie nutzen, um darüber nachzudenken, wie dieses Gleichgewicht aussehen wird, wann immer es eintritt, und zu überlegen, was wir jetzt schon tun können, um uns darauf vorzubereiten.
Eine Möglichkeit, wie sich die Dinge entwickeln könnten – und dieser Teil zum Gleichgewicht ist etwas, worüber wir gerade erst nachzudenken beginnen, das steht nicht im Essay selbst –, ist, dass jede Aufgabe in der Wirtschaft, die man präzise genug spezifizieren kann, sodass sie überhaupt als Aufgabe erkennbar wird, von KI erledigt werden wird. Die meisten der Dinge, aus denen mein Job heute besteht, all diese zehn Dinge werden von KI erledigt werden. Was Arbeit in Zukunft bedeuten wird, ist das, was Ökonomen manchmal interstitielle Aufgaben nennen: Dinge, denen eine präzise Spezifikation fehlt, bei denen vielleicht schon ein Teil der Aufgabe darin besteht, herauszufinden, was als Nächstes zu tun ist, Dinge, die vielleicht noch nie zuvor getan wurden. Das sind die Arten von Dingen, die unserer Ansicht nach im Bereich des Menschen bleiben werden. Der Grund, warum ich glaube, dass wir diese Dinge sehr wahrscheinlich nicht der KI überlassen werden, sind die unbekannten Unbekannten. Man kann nicht sicher sein, dass die KI, wenn man sie mit etwas beauftragt, das sich so sehr von allem unterscheidet, was zuvor getan wurde, eine halbwegs vernünftige Arbeit abliefert. Das ist eine Möglichkeit, sich vorzustellen, wie ein neues Gleichgewicht aussehen könnte.
Eine andere, vielleicht sogar radikalere Verschiebung ist, dass vielleicht alles, was ein Gut ist – und ein Gut, nicht nur ein physisches Produkt, sondern selbst kognitive Arbeit –, ein Gut ist etwas, bei dem es einem egal ist, welcher bestimmte Mensch oder welche KI es hervorbringt. Vieles, was wir heute produzieren, sind Güter in diesem Sinne. Ich produziere Forschung, ich schreibe diese Artikel – es spielt keine Rolle, dass sie von mir kommen, es zählen eigentlich hauptsächlich die Ideen. Vielleicht wird das künftig größtenteils von KI erledigt werden. Wir sollten uns auf radikale Verschiebungen vorbereiten, etwa dass Professoren einen hohen Status genießen, weil wir heute etwas Einzigartiges produzieren können, das in Zukunft vielleicht nicht mehr einzigartig ist. Vielleicht wird es keinen Bedarf mehr für Leute geben, die Podcasts wie diesen machen – all das ist vielleicht auch etwas, das man von KI bekommen kann. Ich denke, darauf sollten wir vorbereitet sein.
Mounk: Ich glaube, die drei P’s werden immer überleben: Professoren, Podcaster und Prostituierte. Aber mal sehen.
Narayanan: Schön. Ich würde dagegen wetten. Aber diese Dinge sind sehr unterschiedlich. Ich denke, manche dieser Dienstleistungen unterscheiden sich stark voneinander. Sexarbeit zum Beispiel ist eine Relation – es geht um eine bestimmte Person. Es gibt viele Arten von Jobs in der Wirtschaft. Selbst manche Jobs mit niedrigem Status, wie Barista zum Beispiel – Alex Imas hat schön darüber geschrieben, warum manche dieser Jobs sich der Automatisierung so widersetzt haben, weil menschliche Interaktion dort tatsächlich eine Rolle spielt. Wie die Wirtschaft der Zukunft aussehen wird, ist vielleicht im Grunde, dass Menschen sich gegenseitig für ihre Zeit bezahlen, für den einzigartigen relationalen Wert, den sie geben können. Der Wert eines Besuchs im Café wird der Kundenservice sein. Hat man guten Kaffee, aber miesen Kundenservice, ist das völlig nutzlos, weil Roboter guten Kaffee machen können, aber den guten Kundenservice können sie nicht ersetzen.
Mounk: Lassen Sie uns hier einen Schritt zurücktreten, denn darin stecken wirklich viele interessante Ideen. Ein paar Gedanken. Der erste ist: Mir ist nicht klar, warum ein KI-System, das inzwischen sehr gut darin ist, Kurzgeschichten zu schreiben – wir haben kürzlich erfahren, dass ein KI-generierter Text einen bedeutenden Literaturpreis gewonnen hat, wobei die Juroren zu diesem Zeitpunkt nichts davon wussten –, das zunehmend gutes Urteilsvermögen bei medizinischen Diagnosen zeigt, zum Beispiel viele widersprüchliche Daten betrachtet und die beste Deutung dessen liefert, was gerade geschieht, nicht auch diese Art von interstitiellen Aufgaben lernen können sollte. Es gibt also durchaus eine mögliche Zukunft, in der KI-Systeme sich tatsächlich als ebenso fähig erweisen wie die intelligentesten Menschen, selbst bei einer Aufgabe, die etwas unregelmäßig oder unordentlich wirkt.
Die zweite Möglichkeit ist sicherlich, dass es einige Menschen mit außergewöhnlichen Fähigkeiten geben wird, die weiterhin gebraucht werden. Es könnte tatsächlich einige Menschen geben, die enorme Gehälter verlangen können, weil sie im Vergleich zu anderen so gut darin sind, diese KI-Schwärme zu dirigieren, um Aufgaben zu erledigen. Aber es könnte sein, dass die Zahl der Menschen, die zu solchen kognitiven Fähigkeiten in der Lage sind, sehr begrenzt bleibt, was zu einer Art Klasse oder Kaste von KI-Superverdienern führt und einem großen Teil der Bevölkerung, dessen Fähigkeiten viel weniger wert sind.
Eine dritte Möglichkeit – und man kann diese bis zu einem gewissen Grad auch kombinieren – ist der Gedanke, dass es vielleicht immer noch einen Bedarf an relativ gewöhnlichen menschlichen Fähigkeiten gibt. Natürlich ist es eine echte Fähigkeit, ein großartiger Barista oder ein guter Barkeeper zu sein, und ich bewundere die Menschen, die das tun, aber es ist eine weniger seltene Fähigkeit, als es noch vor wenigen Jahren war, auf allerhöchstem Niveau programmieren zu können. Vielleicht ist die Zahl der Stellen, die wir dafür brauchen, einfach viel geringer als der Umfang der verfügbaren menschlichen Arbeitskraft. Es könnte sein, dass ich neun von zehn Mal sehr gerne meinen ausgezeichneten, von einem Roboter oder einer Kaffeemaschine gemachten Kaffee für 10 Cent nehme, und einmal die Woche möchte ich jemanden auf einen Kaffee in einer wirklich angenehmen Umgebung treffen, und dann möchte ich definitiv einen super fröhlichen, netten Barista, der mir bei dieser Gelegenheit den Kaffee macht. Aber das schafft womöglich einfach nicht genug Arbeit, damit die Leute weitermachen können. Und in einer solchen Welt wird es eine Armee von Menschen ohne Arbeit geben, die diesen Barista-Job sehr gerne annehmen würden, je nachdem, welche sozioökonomischen Rahmenbedingungen bestehen, die hoffentlich Armut abfedern würden. In diesem Fall verdienen selbst die Menschen, deren Fähigkeiten noch gefragt sind, möglicherweise kein besonders gutes Gehalt.
Ich glaube, hier müssen wir aufpassen, nicht in eine Welt zu geraten, in der entweder kein Mensch mehr jemals einen Job haben wird – was, glaube ich, wir beide für eine seltsame Silicon-Valley-Dystopie halten würden, auch wenn manche das wahrscheinlich eine Utopie nennen würden –, aber dann zu sagen: Nun, wenn das die Eins ist, dann ist die Null, dass gewisse Jobs weiterhin gebraucht werden, und deshalb sei das Problem lösbar. Es gibt alle möglichen Welten, in denen bestimmte Arten von Jobs gebraucht werden, die aber nicht diejenigen sind, die den meisten wirtschaftlichen Wert schaffen, die nicht die tatsächlich knappen Fähigkeiten sind, und die deshalb weit davon entfernt bleiben, die strukturellen Voraussetzungen für eine wohlhabende Mittelschichtsgesellschaft zu schaffen.
Narayanan: Ja, all das ist möglich. Und ich bin froh, dass wir darüber sprechen. Die Leute schauen sich Frühindikatoren dafür an, in welche Richtung sich die Dinge entwickeln. Ich glaube tatsächlich, dass das über einen mehrere Jahrzehnte umfassenden Zeitrahmen lösbare Probleme sind. Über einen solchen Zeitrahmen können wir das sogar planen, falls sich am Ende herausstellt, dass die Antwort ein bedingungsloses Grundeinkommen ist. Das ist nicht etwas, das wir innerhalb von 18 Monaten umsetzen können, aber es ist etwas, das wir über einen mehrere Jahrzehnte umfassenden Zeitraum umsetzen können.
Ich glaube wirklich nicht, dass etwas so Radikales nötig sein wird. Ich stimme dem meisten zu, was Sie gesagt haben. Vielleicht besteht die zentrale Meinungsverschiedenheit darin, dass ich die Unterscheidung zwischen notwendigen und nicht notwendigen Jobs in der Wirtschaft nicht für besonders hilfreich halte, zumindest für mich nicht. Meiner Ansicht nach tut die überwiegende Mehrheit der Jobs heute bereits Dinge, die nicht in der Nähe der unteren Ebenen von Maslows Bedürfnispyramide liegen. Die Dinge, die wir wirklich brauchen, wie Landwirtschaft und Unterkunft, das sind vielleicht so etwas wie 5 Prozent der Jobs. Und all das andere Zeug – wenn man sich einfach aus der alltäglichen Intensität des Lebens und der Wirtschaft herausnähme und wirklich aus der Perspektive eines Außerirdischen darüber nachdächte – ist alles nur Zeug, mit dem wir uns selbst amüsieren. Ich mag David Graebers Buch dazu sehr.
Mounk: Ich muss schon sagen, manchmal gehe ich durch die Straßen von Brooklyn und denke: Hier gibt es so viel Wohlstand. Was macht hier eigentlich jeder? Was hält dieses Perpetuum mobile am Laufen? Es sind einfach Menschen, die sich gegenseitig alberne Dienstleistungen verkaufen und irgendwie gut davon leben.
Narayanan: In vielen Teilen der Welt gibt es offensichtlich echte, erdrückende Armut. In wohlhabenden Gesellschaften sind 95 Prozent der Jobs Dinge, die wir tun, weil wir Beschäftigung für Menschen brauchen, nicht Dinge, die wir tun, damit Menschen überleben können. Ich sage, dass diese 95 Prozent in Zukunft auf 99, vielleicht sogar 100 Prozent steigen werden.
Mounk: Da bin ich hin- und hergerissen. Ich habe dieses Gefühl tatsächlich, wenn ich durch die Straßen von Brooklyn gehe, aber wenn ich dieses Beispiel etwas genauer durchdenke: Einer der Hauptgründe, warum New York so wohlhabend ist, ist, dass die Finanzbranche ihren Hauptsitz in New York hat, und natürlich haben auch viele andere Branchen, von der Mode bis zu den Medien, eine große Präsenz in New York.
Wir können ausführlich darüber debattieren, ob das Finanzwesen wirklich ein produktives Unterfangen ist oder nicht, aber der Punkt ist, dass dort im Moment ein Großteil des Wertes in der Gesellschaft geschaffen wird. Und um Goldman und JP Morgan und all diese Unternehmen zu betreiben, benötigen die Eigentümer dieses Kapitals derzeit viel knappe und hochqualifizierte Arbeitskraft. Einer der Gründe, warum die Straßen von Brooklyn voller teurer Yogastudios sind, ist, dass viele der Menschen, die in diese Yogastudios gehen, für diese Banken arbeiten oder für Leute arbeiten, die für diese Banken arbeiten. Und so verteilt sich der enorme Reichtum der Stadt.
In einer Wirtschaft, in der KI-Systeme den überwältigenden Großteil des Wertes produzieren und Menschen dann in der Rolle verbleiben, einander zu unterrichten, sich im Alter umeinander zu kümmern und einander „Konzerte zu geben“ – all das ist gewissermaßen nur peripher zur eigentlichen Kernaktivität. Kann sich das selbst tragen? Ich glaube, das hängt, etwas vereinfacht gesagt, davon ab, ob das erste Bild, das ich von Brooklyn gezeichnet habe, zutrifft, oder das zweite. Und so sehr ich es liebe, über Brooklyn zu schimpfen – wo ich mich sehr gerne aufhalte –, glaube ich, dass das zweite Bild der Wahrheit etwas näherkommt als das erste, das in seinen Implikationen dafür, wie diese Welt tatsächlich aussehen würde, etwas beunruhigend ist.
Narayanan: Auch das ist wieder eine Möglichkeit. Ich glaube, der Grund, warum ich dagegen wette, ist: Wenn man sich anschaut, was tatsächlich Wert hat, ist das einfach sehr davon abhängig, was zu einem bestimmten Zeitpunkt der Geschichte gerade knapp ist. Dinge wie Licht und Kleidung – Dinge am unteren Ende von Maslows Bedürfnispyramide – waren früher extrem knapp, weil sie schwer herzustellen waren, und sie beschäftigten einen sehr großen Teil der Arbeiterschaft.
Ihre Kosten sind über ein paar Jahrhunderte hinweg um mehr als das Tausendfache gefallen, und das liegt an der Automatisierung und an einer großmaßstäblicheren Energieproduktion und billigeren Energiekosten. Ein weit über tausendfacher Rückgang der Beleuchtungskosten – es könnte näher an einer Million liegen, ich erinnere mich nicht mehr genau an die Zahlen, aber es sind viele, viele Größenordnungen. Ich denke, viele der Dinge, die Menschen heute tun, sind gerade deshalb knapp und wertvoll, weil menschliche Arbeitskraft knapp ist. Ich widerspreche der Prämisse, dass KI-Systeme in Zukunft den größten Teil des Wertes schaffen werden. Das steht nicht im Einklang mit meinem Verständnis von Ökonomie. Ich stimme zu, dass KI-Systeme den größten Teil der Arbeit erledigen werden. Aber jede Arbeit, die KI leisten kann, ist unendlich reproduzierbar, und wenn etwas unendlich reproduzierbar ist, hat es nicht viel Wert, weil die Kosten dafür auf Marktniveau sinken werden – jeder kann es zu sehr geringen Kosten anbieten. Der Wert wird sich also zu den Dingen verschieben, die knapp sind.
Heute ist die Arbeit der Altenpflege zum Beispiel sehr niedrig im Status und sehr schlecht bezahlt. Aber das Argument ist, dass viele der Dinge, die heute höheren Status und höhere Bezahlung genießen – vielleicht wie das, was wir gerade tun –, in Zukunft sehr leicht reproduzierbar werden. Was in der Wirtschaft als wertvoll gilt, wird sich also verschieben.
Mounk: Wie funktioniert das mechanisch? Sie sagen, die Pflege alter Menschen werde zu dem, was wirklich wertgeschätzt wird, und das dürfte wohl ein großzügigeres Gehalt einbringen als das, was ein Professor in Princeton heute bekommt, hoffentlich. Aber woher bekommt der alte Mensch das Geld, um der Person, die ihn pflegt, ein so stattliches Gehalt zu zahlen?
Vermutlich lautet die Antwort, dass er selbst irgendetwas in der Wirtschaft getan haben muss, das ihm dieses Geld eingebracht hat, oder dass wir so etwas wie ein System eines bedingungslosen Grundeinkommens haben – dem Sie, wie ich vermute, größtenteils ablehnend gegenüberstehen, und das wird interessant sein, zu vertiefen –, das ihnen das Geld von einer dritten Partei bereitstellt. Nochmal, wenn man sich heute Brooklyn anschaut, ist die Intuition, dass es eine Art seltsames Perpetuum mobile ist, bei dem jeder einfach jedem etwas verkauft. Aber schaut man genauer hin, kann man sagen: Nein, es gibt tatsächlich einen Weg, auf dem die Banken Fertigungsunternehmen und landwirtschaftliche Betriebe und alle möglichen anderen Dinge finanzieren, die Dinge produzieren, und es gibt dort sehr viele gut bezahlte Angestellte, und die sind es, die erklären, warum Menschen 10.000 Dollar bezahlen können, um sich die Knicks im NBA-Finale anzuschauen.
Diese Verbindung zur zugrunde liegenden Wirtschaft nimmt man weg, weil so wenige Menschen gebraucht werden, um diese zugrunde liegende Wirtschaft zu betreiben – weil, was auch immer die produktivsten Firmen der Zukunft sind, sie einfach so viel weniger Menschen brauchen, die für sie arbeiten. Und es ist unklar, wie dieses Geld sich in der Wirtschaft verteilen soll, sodass, selbst wenn wir gesellschaftlich sagen: Was für eine wunderbare Aufgabe, sich um alte Menschen zu kümmern, dieser alte Mensch tatsächlich das Geld hat, ein gutes Gehalt an die Person zu zahlen, die sich um ihn kümmert.
Eine ganz andere Art, diesen Punkt auszudrücken: Vergleiche Walmart, das eine Bewertung von etwa einer Billion Dollar hat – etwas weniger, glaube ich, je nachdem, wann genau man hinschaut – und zwei Millionen Mitarbeiter hat, mit Anthropic, das wahrscheinlich bei seinem Börsengang ebenfalls etwa eine Billion Dollar wert sein wird und gegenwärtig etwa 5.000 Mitarbeiter hat. Das ist ein wirklich auffälliger Unterschied, und das wird sicherlich enormen Einfluss darauf haben, wer tatsächlich dafür bezahlen kann, dass solche menschenzentrierten Fähigkeiten auf dem Arbeitsmarkt wertgeschätzt werden.
Narayanan: Ja, das wird nicht automatisch geschehen. Ich sage nur, dass wir die Mittel haben werden, es zu lösen, auch wenn es viel Arbeit kosten wird, es zu lösen. Der Grund, warum ich das sage, ist, dass wir in einer Dimension ziemlich fantastische Annahmen treffen – dass KI in der Lage sein wird, nahezu alle Arbeit zu automatisieren – und gleichzeitig annehmen, dass die Welt in allen anderen Dimensionen gleich bleibt. Ich denke, das ist eine kleine Falle.
Diese Zukunft könnte auch nicht eintreten. Es könnte sein, dass, obwohl ich eher zur Seite der „langsameren Transformation“ gehöre, sogar ich viel zu optimistisch bin, und dass es wirklich fundamentale Hürden gibt, die KI daran hindern, selbst über einen mehrere Jahrzehnte umfassenden Zeitraum einen Großteil dieser Arbeit zu übernehmen. Aber nehmen wir an, all das geschieht. Dann wird das offensichtlich einen unglaublichen Nutzen für die Menschheit schaffen, weil so viele unserer materiellen Bedürfnisse erfüllt werden. Und es wird, glaube ich, da würdest du zustimmen, eine gewisse Vermögensakkumulation geben. Das ist die Verteilungsfrage, die unklar ist. Wenn also immer größere Vermögensmengen akkumuliert werden, können wir anfangen, politische Maßnahmen einzuführen. Ich bin nicht gegen ein bedingungsloses Grundeinkommen. Vielleicht ist das UBI genau das, worüber wir wieder sprechen sollten, über einen mehrere Jahrzehnte umfassenden Zeitraum. Ich glaube nur nicht, dass das etwas ist, das geschehen kann, wenn wir über einen Zeitraum von ein bis zwei Jahren sprechen.
Zu dem Punkt, dass Anthropic ein kleines Unternehmen ist, das eine Billion Dollar wert sein könnte – ja, vielleicht steuern wir auf eine dystopische Zukunft zu, in der das nur drei Unternehmen leisten können. Aber vielleicht wird tatsächlich Folgendes geschehen: Unternehmertum wird so viel leichter, dass es viele Millionen Millionäre geben wird – vielleicht nicht so reich wie Anthropic, aber weit mehr Millionäre, als es heute gibt –, weil ein oder zwei Personen Firmen besitzen können, die größtenteils KI nutzen, um viele wertvolle Dinge zu vollbringen. Und dann ist es zwar immer noch herausfordernd, aber zumindest kann man sich politisch und wirtschaftlich vorstellen, wie man diesen Reichtum im Rest der Gesellschaft verteilt.
Mounk: Das ist eine Randbemerkung, aber es gibt etwas Seltsames an diesen Diskussionen, wenn wir diesen tiefen Wert gerade den menschlichen Aufgaben zuschreiben wollen, die in einer möglichen Zukunft noch gebraucht werden. Natürlich glaube ich, dass die Beziehung zu anderen Menschen etwas unglaublich Bedeutsames ist, und dass Menschen, die in Berufen arbeiten, in denen sie sich auf andere beziehen, oft tatsächlich eine hohe Arbeitszufriedenheit haben. Aber es liegt zumindest etwas Melancholisches darin, sich eine Zukunft vorzustellen, in der all die Arten von Aufgaben, durch die sich die Menschheit historisch von anderen Tieren unterschieden hat – Aufgaben, von denen wir dachten, sie seien uns eigen, unsere Fähigkeit zu höherem Denken –, über Bord gehen.
Schon nur im sozialen Sinn: Die Art, wie für die letzten ein, zwei Jahrhunderte für eine enorme Zahl von Menschen ihr Stolz und ihr Gefühl der Selbstentwicklung daraus kam, sich Bildung anzueignen, Fähigkeiten zu erwerben, Experte in irgendeiner Art geistiger Arbeit zu werden – und wir sagen jetzt, die ursprünglichsten menschlichen Fähigkeiten, sich um Babys und um alte Menschen zu kümmern, seien jetzt das, was übrig bleibt, und das sei es, was wir wirklich schätzen. Damit will ich nicht die unglaubliche Arbeit von Krankenschwestern abwerten, oder von Menschen, die in Altersheimen arbeiten, oder von Müttern und Vätern, die sich um kleine Kinder kümmern. Aber es ist vielleicht weniger als eine uneingeschränkte Befürwortung einer Zukunft, zu sagen, das sei die eine Art von Sache, die für Menschen übrig bleibt.
Narayanan: Ja, das ist völlig fair. Nochmal, ich sage nicht, dass dieser Rahmen, um über die Zukunft nachzudenken, für jeden unbedingt beruhigend sein sollte. Ich glaube, es gibt vieles, das wir verlieren werden, das wir an unserer heutigen Gesellschaft mögen. Es gibt vieles, das wir betrauern werden, und ich denke, das ist eine sehr berechtigte Reaktion auf all das. Aber wiederum, es läuft parallel zu dem, was in der Vergangenheit mit der Wertschätzung körperlicher Stärke geschehen ist.
Denkt man an einen römischen General, so stieg er wirtschaftlich und politisch auf, weil er zunächst davon profitierte, dass körperliche Stärke im Heer sehr wertvoll war, und das war der Weg, auf dem er in den Rängen aufstieg. Wir sprechen hier über Professoren in der Akademie – das Wort „Akademie“ kommt von den alten Griechen.
Wenn ich mich richtig erinnere – wir haben über Professoren in der Akademie gesprochen, und Sie kennen sich damit wahrscheinlich besser aus als ich –, aber die ursprüngliche Akademie hatte ihren Namen von einem Garten, in dem die Bildungskomponente parallel zur Entwicklung körperlicher Stärke stattfand. Diese beiden Dinge wurden damals auf ganz ähnliche Weise wertgeschätzt. Aber im Laufe der Zeit haben wir das verloren. Wir haben immer noch Sportler, die zum Beispiel hohe Statuspositionen in der Gesellschaft innehaben, aber nicht, weil sie mit ihrer körperlichen Stärke direkt zur Wirtschaft beitragen. Es ist einfach etwas, das wir gerne in einem Wettkampfrahmen schätzen, gerade weil es seinen direkten wirtschaftlichen Wert verloren hat. Jetzt ist es Sport geworden.
Vielleicht wird mit intellektueller Fähigkeit dasselbe geschehen wie zum Beispiel mit dem Schach, dass sie zu einem Sport wird, den wir genießen. Ähnlich werden Menschen in Zukunft ihre manuell, ohne KI erarbeiteten Ideen in einem Format präsentieren, das wir alle genießen können, um die Stärke und die Grenzen menschlicher kognitiver Fähigkeit zu würdigen. Aber es wird von der Wirtschaft gewissermaßen abgekoppelt sein, und es gibt tatsächlich Grund, darüber traurig zu sein.
Mounk: Ich frage mich, inwieweit der römische General für körperliche Kraft oder für geistige Fähigkeiten geschätzt wurde. In einem ganz anderen Kontext wurde ich vor etwa zwanzig Jahren zu einem Stierkampf geschleppt, und ich war ziemlich widerwillig, hinzugehen, weil ich dachte, es würde ziemlich hässlich sein. Zum Teil, weil ich dachte, es sei eine Art Macho-Spektakel darüber, wie stark der Stierkämpfer ist und wie groß seine Muskeln sind.
Es stellte sich heraus, dass mir das Spektakel in seiner besten Form, zu meiner Überraschung, ziemlich gefiel. Was mir daran speziell gefiel, war, dass ich verstand, dass es eigentlich eine mittelalterliche, vielleicht sogar nur moderne Form der Feier des Geistes über die Materie war – das heißt, dass der Stier fünfzigmal stärker ist als der stärkste Mann der Welt. Es gibt keine Möglichkeit, dass irgendein Mensch, egal wie oft er ins Fitnessstudio geht oder wie viele Proteinshakes er trinkt, es in einem Kräftevergleich mit einem Stier aufnehmen könnte. Was ein guter Stierkämpfer tut, ist zu zeigen, dass er seine menschlichen Fähigkeiten nutzen kann – seine Fähigkeit zu verstehen, wie der Stier funktioniert, nämlich dass er auf das rote Ding losgeht –, die Fähigkeit, das Tuch so zu schwenken, dass er die Bewegung des Stiers lenkt, eine Art Tanz mit dem Stier zu vollführen, in dem er zeigt: Schaut, was ich habe, ist Intelligenz, und mit dieser Intelligenz kann ich gegen dieses Tier bestehen, das weitaus stärker ist als ich. Die Grausamkeit dabei hat mich dennoch beunruhigt. Aber ich fand das tatsächlich sehr interessant.
Sie haben recht, dass wir körperliche Stärke historisch viel mehr geschätzt haben, als wir es heute tun. Aber dieses Argument schneidet natürlich in beide Richtungen, denn es ist heute recht schwierig, sich seinen Lebensunterhalt allein mit körperlicher Stärke zu verdienen, und die Menschen, die das tun, verdienen deutlich geringere Gehälter. Wenn wir uns vergangene Umwälzungen anschauen, wie die Transformation nach der industriellen Revolution, wurden viele Menschen dadurch geschädigt, und das geschah über Jahrzehnte und über Jahrhunderte.
Aber das, was sie hatten – worauf sie zurückgreifen konnten – ist das, was ich manchmal eine Art geistigen Reservefonds nenne. Es gibt einen Reservefonds an Nachfrage nach menschlicher Fähigkeit, nämlich geistige Jobs, geistige Aufgaben, kognitive Aufgaben auszuführen. Wenn man also 45 Jahre alt war und seinen Job in einer Fabrik verlor, oder beim Baumwollweben, oder in der Feldarbeit, dann war das eigene Leben vielleicht ruiniert – es war vielleicht zu spät, um noch ein gutes Einkommen zu bekommen. Aber den eigenen Kindern ging es vermutlich gut, weil sie sich diese kognitiven Fähigkeiten aneigneten, und das war es, was sie gefragt hielt und ihnen letztlich einen viel besseren Lebensstandard verschaffte, als man selbst wahrscheinlich hatte. Aber wenn wir jetzt diesen geistigen Reservefonds anzapfen, ist dann klar, dass es eine Art höherwertige Fähigkeit gibt, auf die Menschen zurückgreifen können, um das zu kompensieren? Zu sagen: Nun, wir kehren einfach zu den Dingen zurück, die wir schon immer getan haben, wie die Betreuung von Kindern und alten Menschen – mir ist nicht klar, ob das ausreichen wird.
Narayanan: Nochmal, ich denke, Sie haben recht, sich Sorgen zu machen. Ich glaube, es gibt vieles, das wir verlieren werden. Wenn es einen Punkt der Uneinigkeit gibt, dann wohl den, dass ich nicht glaube, dass wir uns in Zukunft durch unsere Fähigkeit auszeichnen werden. Wir werden uns rein definitionsgemäß dadurch auszeichnen, dass menschliche Zeit knapp ist, und Künstliche Intelligenz’ größte Schwäche ist, dass alles, was eine KI kann, auch eine Milliarde Kopien dieser KI können.
Knappheit erzeugt immer Wert. So war es schon immer. Wir können sogar aus völlig künstlichen Formen von Knappheit Wert schaffen, wie bei Eheringen und Diamanten, obwohl es dabei eigentlich keinen intrinsischen Wert gibt. In gewisser Weise ist das sehr deprimierend, aber ich denke trotzdem, aus wirtschaftlicher Perspektive werden wir zurechtkommen. Es wird eine große Nachfrage nach menschlicher Zeit geben, nach verschiedenen Formen von Gesellschaft. Wir werden das dann verschiedene Dinge nennen – Coaching, Therapie, Pflege. Ich glaube, viele Professorenjobs werden in Zukunft einfach darin bestehen, die emotionale Reise der Studierenden auf ihrem Weg durch das Bildungssystem zu begleiten. Die Inhalte müssen wir nicht mehr liefern – das wird sehr stark zur Massenware werden.
Mounk: Dann ist es also eine gute Sache, dass es an den meisten Universitäten bereits mehr Verwaltungskräfte als Professoren gibt, denn eigentlich brauchen wir gar nicht die Professoren, sondern diese Verwaltungskräfte.
Narayanan: Vielleicht. Schau, falls sich das alles unglaublich deprimierend anhört: Ich bin nicht hier, um zu sagen, wir sollten diese Zukunft begrüßen. Ich sage ein paar Dinge. Es ist keine Katastrophe, wenn alle, die eigentlich arbeitslos wären, dennoch Jobs haben werden, einfach weil menschliche Zeit knapp ist, und wir künstliche Wege finden werden, diese Knappheit menschlicher Zeit in Jobs zu verwandeln und sie verschiedene Dinge nennen, ob nun Professor, Therapeut oder Pflegekraft.
Es wird viel Reichtum geschaffen werden. Vielleicht bekommen wir ein Problem damit, dass ein paar Unternehmen versuchen, den größten Teil dieses Reichtums an sich zu ziehen, aber das ist etwas, das wir politisch ändern können und sollten. All das wird sich über einen Zeitraum von Jahrzehnten abspielen, nicht innerhalb von ein, zwei Jahren. Wir haben also Zeit, uns vorzubereiten, sowohl was neue Dinge angeht, die wir tun müssen, aber auch einfach, um uns mental auf diese Zukunft einzustellen, egal ob man sie ermächtigend oder deprimierend oder irgendetwas dazwischen findet. Das sind meine zentralen Punkte.
Mounk: Ich widerspreche dir dabei, aber ich finde es sehr interessante Punkte. Eines der Dinge, die Sie im Gespräch mehrfach angedeutet haben und über die Sie auch expliziter geschrieben haben, ist, dass es echte Gefahren birgt, künstliche Intelligenz als eine unnormale Technologie zu betrachten. Wenn wir annehmen, dass sich in den nächsten zwei Jahren alles verändern wird, und wenn wir annehmen, dass wir unseren üblichen politischen Werkzeugkasten über Bord werfen müssen, dann hat das Ihrer Ansicht nach wirklich schlechte Konsequenzen für unsere Fähigkeit, diese Technologie zu regulieren, und für die Welt. Warum? Wie würden wir in die falsche Richtung gedrängt werden, wenn wir nicht anerkennen, dass KI tatsächlich eine normale Technologie ist, in dem Sinne, wie Sie es beschreiben?
Narayanan: Es ist ganz einfach. Aus der KI-Sicherheits-Community kommt diese Erzählung – und sie leistet großartige Forschung. Ich respektiere die gesamte Arbeit, die sie leisten, wo ich anderer Meinung bin, sind die politischen Implikationen und diese übergreifende Erzählung. Diese Erzählung besagt, dass KI immer fähiger wird und zunehmend Dinge tun kann wie sich in kritische Infrastruktur zu hacken oder biologische Waffen zu erschaffen.
Wenn sich diese Technologie also über die Gesellschaft verbreitet, sei sie auf zwei Arten extrem gefährlich. Erstens könnten sich KI-Systeme selbst gegen ihre Schöpfer wenden, oder böswillige Akteure könnten sie in die Hände bekommen und gefährliche Dinge damit tun. Der Weg, das zu verhindern, sei, wirklich mächtige KI-Systeme davon abzuhalten, ohne Schutzmaßnahmen an die Öffentlichkeit zu gelangen. Damit gibt es meiner Ansicht nach eine Menge Probleme.
Das Erste ist die Vorstellung, dass zunehmende KI-Fähigkeiten automatisch gefährlich sind. Das entspricht nicht dem, was wir historisch gesehen haben. Bei der Cybersicherheit zum Beispiel begann übermenschliche Fähigkeit, Schwachstellen in Software zu finden und auszunutzen, schon vor ein paar Jahrzehnten, und diese Fähigkeit ist seither gestiegen, sogar schon vor den modernen KI-Systemen. Tatsächlich hat die Software sicherer gemacht, nicht unsicherer. Der Grund ist, dass Verteidiger, also die Unternehmen, die Software herstellen, dieselben Fähigkeiten nutzen können, um diese Fehler zu beheben, bevor sie die Software überhaupt herausbringen. Generell haben uns diese mächtigen Technologien also tatsächlich geholfen, die Widerstandsfähigkeit zu verbessern, statt sie zu verschlechtern. Das sollte unsere Standardannahme sein. Vielleicht gibt es in manchen Fällen Ausnahmen, aber wir sollten auf Belegen bestehen, dass zunehmende Fähigkeit die Welt tatsächlich gefährlicher macht.
Das ist der erste große Bereich der Uneinigkeit: Erstens bedeutet eine zunehmende Fähigkeit nicht, dass die Welt gefährlicher wird. Zweitens braucht man, um zu verhindern, dass sich KI-Fähigkeiten breit verteilen, im Grunde autoritäre Regierungen. Und drittens, selbst wenn man das erreicht, ist das nur eine vorübergehende Erleichterung. Irgendwann wird der Damm brechen, und das, was man durch den Versuch, KI zu kontrollieren, erreicht hat, ist nicht der Aufbau des Immunsystems, das man braucht, um in einer Welt mit diesen mächtigen Systemen zu leben.
Mounk: Vermutlich ist eines der Dinge, zu denen man bei der düstersten Version dieser These, gegen die Sie argumentieren, gelangen könnte: Wir stehen kurz davor, diese unglaublichen Cyberkriegsfähigkeiten zu bekommen, Schurkenakteure werden in der Lage sein, in unsere Bankkonten einzubrechen und wahrscheinlich in die Datenbank des US-Militärs, und möglicherweise Atomwaffen zu übernehmen. Und wenn das geschieht, müssen wir alle historischen Schutzmaßnahmen, die wir für private Unternehmen, aber auch für Individuen hatten, außer Kraft setzen, um absolut sicherzustellen, dass das nicht geschieht. Vielleicht müssen wir unsere Regierungen mit allerlei Befugnissen ausstatten, die sie derzeit nicht haben, um dieses schlimmste Szenario zu vermeiden. Ist das eine der Ängste, die Sie haben?
Narayanan: Ja, das ist eine der Behauptungen, die oft aufgestellt werden, und wir haben eine andere Position. Ich glaube tatsächlich, dass die Regierung flexibel und anpassungsfähig sein muss. Manche der Dinge, die im US-amerikanischen politischen Kontext kürzlich geschehen sind, wie freiwillige Vereinbarungen, dass Regierungen die Fähigkeiten neuer Technologien testen und deren Veröffentlichung vielleicht einen Monat oder so zurückhalten, das steht ziemlich weit unten auf der Leiter außergewöhnlicher Eingriffe. Wenn wir das sorgfältig machen, kann das meiner Ansicht nach in Ordnung sein.
Aber das Problem entsteht, wenn man sagt, der Weg, um zu verhindern, dass Schurkenakteure Zugang zu dieser Technologie bekommen, bestehe darin, sie so streng zu kontrollieren, dass sie garantiert niemals in deren Hände gelangt. Unsere Ansicht ist, dass der einzige Weg, das zu erreichen, autoritäre Regierungen sind – und nicht nur eine autoritäre Regierung, sondern eine Art Weltregierung mit autoritärem Charakter, sozusagen –, weil es jedes Jahr so viel billiger wird, diese unglaublich mächtigen Fähigkeiten aufzubauen. Wenn man sich diese exponentiellen Diagramme anschaut, sind sie erstaunlich. Es ist einfach wieder das Mooresche Gesetz. Bestenfalls kauft man sich damit ein paar Jahre Zeit, und irgendwann wird sich diese Technologie in die Hände von jedermann verbreiten.
Mounk: Nur eine Randbemerkung dazu, übrigens, bei der Sie sich technologisch sicher besser auskennen als ich, deshalb würde ich gerne Ihre Gedanken dazu hören: Unser Bezugsrahmen ist oft Atomwaffen. Das ist eine unglaublich gefährliche, mächtige Technologie, die die Welt zerstören kann, und wir konnten ihre Verbreitung, zumindest bis zu einem gewissen Grad, durch internationale Verträge und Inspektions- und Kontrollregime unter bestimmten Umständen verhindern. Meines Wissens gibt es prinzipielle Unterschiede zwischen Nukleartechnologie und der Fähigkeit, hochmoderne KI-Modelle zu bauen.
Einer davon ist, dass Nukleartechnologie viel größere physische Maschinerie erfordert. Die Vereinigten Staaten sind ziemlich gut darin, mithilfe von Satellitenbildern und anderen Mitteln herauszufinden, ob die Zentrifugen in Isfahan, oder wo auch immer sie im Iran stehen, laufen oder nicht. Für Rechenzentren wäre das viel schwerer.
Der andere Punkt ist, dass es bei Kernenergie stets ein gewisses Dual-Use-Problem gibt, was die zivile Nutzung betrifft, aber grob gesagt weiß man, wofür sie genutzt wird. So vieles in unserer Zivilisation hängt bereits von Chips und Rechenzentren ab. Buchstäblich einige der leistungsfähigsten Chips, die zur Entwicklung künstlicher Intelligenz genutzt werden, wurden ursprünglich entwickelt, um Grafik für Videospiele zu betreiben. Es tatsächlich zu kontrollieren, ob zum Beispiel die Vereinigten Staaten und China einen großen Vertrag hätten, sich auf den Verzicht auf die Entwicklung hochmoderner KI-Modelle zu einigen – zu kontrollieren, aus amerikanischer Sicht, dass China sich daran hält, oder aus chinesischer Sicht, dass Amerika sich daran hält – wäre wegen dieser Dual-Use-Herausforderung unglaublich schwierig.
Narayanan: Sie haben es genau erfasst. Es gibt Dual-Use, es gibt eine mächtige ökonomische Logik der Verbreitung von KI-Fähigkeiten und Chips, es gibt die Beobachtbarkeit, und es gibt den physischen Engpass. Lass mich noch einen Punkt hinzufügen: Es gibt keine bestimmte Schwelle, ab der KI gefährlich wird. Jede Stufe von KI-Fähigkeit, die wir je hatten, brachte immer schon gewisse Gefahren mit sich. Man kann bis in die sehr jüngste Vergangenheit zurückgehen, und es gab auffällige Momente der Panik rund um GPT-2 zum Beispiel. OpenAI veröffentlichte das Modell zunächst nicht, weil man es für so gefährlich hielt. Es ist ein Modell, das heute meine Doktoranden an einem Wochenende auf einer einzigen GPU nachbauen, um sich selbst beizubringen, wie man solche KI-Systeme baut. So schnell hat sich diese Technologie verbreitet, und wir sind mit unseren neuesten Modellen inzwischen so viel mächtiger als GPT-2. Würde man heute aufstehen und sagen, GPT-2 sei zu gefährlich, würde das absurd klingen. Meine Vorhersage ist, dass das, was wir heute über Mythos oder was auch immer sagen, in zehn Jahren genau so aussehen wird.
Der letzte Punkt, den ich anführen möchte: Das Gute daran, dass wir diese Systeme veröffentlicht haben, ist, dass es uns auch gezwungen hat, unsere Verteidigung zu verbessern, denn wenn manche dieser Modelle zum Hacken genutzt werden können, hat das Unternehmen dazu gezwungen, mit verschiedenen Arten von Softwareherstellern zusammenzuarbeiten, um ihnen besseren Zugang zu diesen Modellen zu geben, damit sie diese Fehler finden und beheben können, bevor die Software überhaupt herauskommt. Wenn wir stattdessen einen politischen Ansatz verfolgen würden, bei dem niemand von vornherein Zugang zu dieser Technologie für solche Dual-Use-Zwecke hat, dann werden wir die Gelegenheit verpassen, dieses Immunsystem aufzubauen, und der Damm wird irgendwann trotzdem brechen. Wenn der Damm bricht, wird er in eine Welt eintreten, die diese Verteidigungsmaßnahmen nicht eingerichtet hat.
Mounk: Mir bereitet es große Sorgen, der Regierung Machtbefugnisse über Individuen zu geben, und in gewissem Maße auch über Unternehmen. Ich bin philosophischer Liberaler, ich lege großen Wert auf individuelle Freiheit, und ich denke, wir werden in diesem Kontext bestimmten Dilemmata gegenüberstehen, die sich ziemlich von denen unterscheiden, die frühere Technologien aufgeworfen haben. Um noch einmal auf Atomwaffen zurückzukommen: Wir müssen natürlich regeln, wie Staaten Atomwaffen einsetzen. Eines der beängstigenden Dinge ist, dass, von Kim Jong-un – ich will sie nicht völlig gleichsetzen – bis zu Donald Trump, derzeit einige eher unverantwortliche Menschen den Finger am Knopf haben, und das ist zutiefst beunruhigend.
Eine Sache bei Atomwaffen ist allerdings: Obwohl sie die Welt zerstören und in die Luft jagen können, sind sie für innenpolitische Kontrolle nicht besonders nützlich. Man kann nicht wirklich drohen, die nächste Wahl zu gewinnen, indem man eine Stadt nuklear bombardiert, die man nicht mag. Das Beängstigende an einigen der hochmodernsten KI-Modelle ist aus politischer Sicht, dass sie für innenpolitische Formen der Unterdrückung genutzt werden können. Das bedeutet: Wenn man vermeiden will, dass die Regierung all diese Macht bekommt, könnte man sagen, es sei besser, wenn OpenAI und Anthropic und so weiter die Kontrolle über diese hochmodernen Modelle behalten. Aber wenn diese Unternehmen die Kontrolle über diese hochmodernen Modelle haben und sie potenziell in Atomwaffen einbrechen könnten, oder potenziell militärische Anwendungen haben könnten, die absolut zentral für die Fähigkeit der Regierung sind, ihre Bürger zu schützen, dann können wir auch das eigentlich nicht zulassen. Wie denken Sie also darüber, diese echten Zielkonflikte und vielleicht diese echten Dilemmata zu lösen, ohne der Regierung Befugnisse zu geben, die sehr schnell tyrannisch werden könnten?
Narayanan: Einfach gesagt, es ist kein Alles-oder-Nichts. Ich denke, wir können der Regierung begrenzte Macht geben. Zum Beispiel Zugang zu diesen Modellen vor deren Veröffentlichung – die Regierung hat Zugang, bevor die breite Öffentlichkeit ihn bekommt, um wiederum Schwachstellen in kritischen Systemen zu finden und zu beheben. Aber das unterscheidet sich stark davon, der Regierung die Macht zu geben, eine Massenüberzeugungskampagne durchzuführen. Wir haben darüber geschrieben, und unserer Ansicht nach ist der entscheidende Engpass dafür, dass die Regierung das tun könnte, nicht die Fähigkeit, Text oder Bilder oder was auch immer zu erzeugen, sondern vielmehr die Vertriebskanäle. Mit anderen Worten: Wenn die Regierung zum Beispiel soziale Medien kontrollieren würde, wäre das eine viel gefährlichere Sache als Regierungen, die KI-Systeme kontrollieren, wenn es um die Fähigkeit zur Überzeugung und Propaganda geht.
Blickt man zurück auf die Medientheorie: Naiv gesehen hatten die Leute in den 1950er-Jahren dieses „Hypodermic-Syringe“-Modell – die Vorstellung, dass es Botschaften von Unternehmen oder Regierungen oder irgendeinem anderen gegnerischen Akteur geben kann, die so mächtig sind, dass Menschen, sobald sie mit diesen Botschaften in Kontakt kommen, selbst unterschwellig, ihre Meinung ändern werden. Heute wissen wir, dass das nicht stimmt. Dennoch verläuft in der KI-Debatte ein Großteil des Diskurses so, als sei das der Fall. So werden Menschen nicht überzeugt. Menschen werden überzeugt, weil sie in einer sozialen Gemeinschaft eingebettet sind, in der diese Überzeugungen aus verschiedenen stammesähnlichen Gründen Wurzeln schlagen. Wenn man sich anschaut, wie KI zum Beispiel für Desinformation eingesetzt wird, wird sie von denen an der Macht, einschließlich Politikern, genutzt, um ihre eigenen Anhänger zu überzeugen oder zu täuschen, und nicht ihre Gegner, denn genau in diesem Kontext wird sie sehr mächtig.
Also reduziert sich das Problem, KI-Desinformation und -Propaganda zu kontrollieren, tatsächlich auf die bereits bestehenden Probleme mit der Qualität unserer epistemischen Kanäle und unseres Diskurses – was tun wir gegen das Ausmaß an Polarisierung und Stammesdenken, und solche Dinge. Das sind schwierige Probleme. Sie sind nicht einfach. An den Rändern wird KI sie verstärken. Ich glaube aber nicht, dass KI diese Probleme erschafft.
Mounk: Wie steht es mit den Veränderungen, die im Bereich der Kriegsführung auf uns zukommen? Wir haben ja gesehen, dass künstliche Intelligenz, und besonders die verkörperte Form künstlicher Intelligenz, der wir in all diesen Debatten meiner Ansicht nach zu wenig Aufmerksamkeit schenken, die Kriegsführung bereits enorm verändert. Der Einsatz von Drohnen im Ukraine-Krieg, und zu einem gewissen Grad auch im Iran-Krieg, ist erstaunlich. Wir haben Beispiele gesehen, dass die Ukraine, zumindest laut Pressemitteilung, Gebiete allein mithilfe von Robotik ohne menschliche Soldaten erobert hat.
Wie, glauben Sie, wird das die Fähigkeit besonders von Großmächten wie den Vereinigten Staaten, ihre Bürger sicher zu halten, beeinflussen? Das US-Militär war mit seinen konventionellen Streitkräften und sicherlich mit seiner nuklearen Macht bisher stark genug, um jeden Traum von einer Bodeninvasion abzuschrecken. Aber die Möglichkeit, zum Beispiel, dass ein Gegner einen Schiffscontainer voller Hunderttausender Drohnen in die Vereinigten Staaten schmuggelt, und dass diese Drohnen dann enormen Schaden in einem Wohngebiet anrichten könnten, oder bestimmte Personen ausschalten, oder eine Art biologische Waffe verbreiten könnten, ist offensichtlich immens. Wird die Kriegsführung, aber allgemeiner das Leben, das wir jetzt in großen städtischen Zentren genießen, weiterhin normal sein, oder glauben Sie, dass manches davon eine unnormale Wirkung haben könnte?
Narayanan: Ich weiß es nicht. Das sind großartige Fragen, und ich habe zwei Gedanken dazu. Ich sage das mit der Vorbemerkung, dass alles, worüber wir bisher gesprochen haben, Dinge sind, über die ich tief nachgedacht und Paper oder Essays geschrieben habe. Darüber habe ich etwas nachgedacht, aber ich sage es vielleicht mit weniger Zuversicht als etwa bei wirtschaftlichen Auswirkungen, Auswirkungen auf die Demokratie und so weiter.
Zwei Dinge. Erstens denke ich, der Ukraine-Krieg hat sehr deutlich gezeigt, dass der Vorteil heute weniger in aufgebauter Kapazität liegt, sondern mehr in der Geschwindigkeit der Innovation, die Gegner während der Kämpfe am Boden hervorbringen können. Die Zyklen von Drohnen- und Gegendrohnentaktiken scheinen sich, soweit ich das gesehen habe, in einem Tempo von etwa sechs Wochen zu entwickeln – so sehr, dass man, wenn man sechs Wochen hinter dem neuesten Stand der Störtechnik oder was auch immer zurückliegt, von den neuen Innovationen der Gegenseite überwältigt werden kann. Das ist eine ganz andere Art, Kriegsführung zu betrachten. Soweit ich weiß, brauchen US-Kampfjets von der Planung bis zur Fertigstellung mehrere Jahrzehnte. Das ist eine ganz andere Zeitskala, ein ganz anderes Verständnis davon, was einem einen Vorteil gegenüber dem Gegner verschafft – es war aufgebaute Kapazität, im Gegensatz zu Geschwindigkeit und Dynamik. Ich glaube, das wird von den bestehenden mächtigen Militärs eine enorme Anpassungsleistung erfordern. Ich weiß nicht, wie gut das gelingen wird. Das halte ich für einen Zielkonflikt.
Der zweite große Zielkonflikt ist, glaube ich: Die Antwort auf viel von diesem asymmetrischen Potenzial, was Terrorismus betrifft, zum Beispiel durch den Einsatz kleiner Geräte – oder historisch mit Dynamit, als das eine neue Technologie war –, war oft mehr Überwachung. Bei Dynamit konnte, soweit ich weiß, über mehrere Jahrzehnte hinweg praktisch jeder Menschen an der Macht ermorden; es gab nichts, was man dagegen tun konnte. Abgemildert wurde das durch eine viel umfassendere Überwachung. Ist das also ein Zielkonflikt, den wir wieder eingehen und noch mehr staatliche Überwachungsbefugnisse akzeptieren müssen? Ich weiß es nicht. Aber ich hoffe, es gibt einen Weg, mit dieser asymmetrischen Bedrohung umzugehen, der weniger Eingriffe in die Freiheit der Menschen erfordert.
Mounk: Das bringt uns ganz natürlich zu der letzten Reihe von Fragen, die ich wirklich mit dir besprechen wollte: Wenn wir den von dir dargelegten Rahmen im Großen und Ganzen akzeptieren, was bedeutet das dafür, wie Regierungen, und vielleicht allgemeiner auch bürgerschaftliche Vereinigungen und wir als Bürger und Individuen reagieren sollten? Wenn wir nicht glauben, dass sich in den nächsten zwei Jahren alles verändern wird, es aber tatsächlich einen bedeutenden Wandel gibt, der auf uns zukommt, wie können wir sicherstellen, dass die Mittelschicht nicht erheblich geschwächt wird, dass Regierungen diese neuen Werkzeuge nicht dazu nutzen können, ihre eigenen Bürger zu unterdrücken, dass böswillige Akteure nicht in der Lage sind, mithilfe dieser neuen Technologien große Verbrechen zu begehen oder gewaltige Terrorakte zu verüben – und das alles hoffentlich, ohne die Werte aufzugeben, die Sie und ich teilen, nämlich einige der historischen Schutzrechte, die wir als Bürger freier Gesellschaften genossen haben?
Narayanan: Ja, auf jeden Fall. Ich denke, es gibt für all diese Akteure viel zu tun. Fangen wir bei den Individuen an. In vielen Ländern, besonders im Westen, gibt es, allgemein gesprochen, eine stark negative öffentliche Stimmung gegenüber KI. Ich habe den Eindruck, dass es dafür viele Gründe gibt. Mein vorheriges Buch, wieder mit Sayash, hieß „AI Snake Oil“, in dem wir viele der unterdrückerischen Arten untersucht haben, wie KI eingesetzt wird, all den unberechtigten Hype darum, und die Gründe, warum Menschen sich dagegen wehren sollten, und wie sie das tun sollten. Ich habe also grundsätzlich Sympathie für vieles davon.
Aber ich glaube, ein Großteil dieser Energie wird fehlgeleitet. Ich halte die Bedenken für real. KI wird auf der Grundlage kreativer Werke von Schriftstellern, Künstlern und anderen aufgebaut, ohne angemessene Entschädigung. Sie wird in vielen Fällen auf unverantwortliche Weise eingesetzt, um Menschen durch unzuverlässige KI-Systeme zu ersetzen, die dann letztlich doch wieder durch Menschen ersetzt werden müssen. Es gibt viele berechtigte Sorgen, und viele berechtigte Wege, wie wir uns kollektiv organisieren können, um sicherzustellen, dass KI angemessener eingesetzt wird, und um Widerstand zu leisten, wenn das nicht der Fall ist.
Was mich aber stört, ist, dass sich ein Großteil dieses Widerstands in Form der Anti-Rechenzentren-Bewegung äußert, und ich halte das für eine besonders wirkungslose Art zu protestieren oder Wandel zu erzeugen, denn auf lokaler Ebene ist das, was man erreicht, indem man ein Rechenzentrum verhindert, verschwindend gering. Es wird immer Länder geben, die mehr Rechenzentren bauen, weil es wirtschaftlich sinnvoll ist, und ein globales Verbot von Rechenzentren wird es nie geben. Ohne ein vollständiges globales Verbot bewirkt die Anti-Rechenzentren-Bewegung meiner Ansicht nach so gut wie gar nichts.
Es gibt Bedenken wegen des lokalen Wasserverbrauchs und so weiter. Soweit diese Bedenken real sind, sind das legitimere Gründe, sich gegen den Bau von Rechenzentren zu stellen. Aber nach allem, was ich gesehen habe, sind viele dieser Bedenken enorm übertrieben worden. Ich wünschte, die Leute würden diese Energie stattdessen darauf verwenden, mehr kollektive Maßnahmen am Arbeitsplatz zu ergreifen.
Mounk: Bevor wir zum Arbeitsplatz kommen – nur für Leute, die diesen Diskurs vielleicht nicht so gut kennen: Warum glauben Sie, dass diese Bedenken zum Wasserverbrauch übertrieben sind? Die Leute denken – ich habe das in Argumenten gehört, die Leute mir persönlich vorgebracht haben, und ich habe es im Internet gesehen –, dass jede Anfrage an ChatGPT oder Claude Liter von Wasser verbraucht und so weiter. Erkläre uns die Belege dazu, wie viel Wasser tatsächlich verbraucht wird.
Narayanan: Ja, die Daten stützen das einfach nicht. Eine der bekanntesten Behauptungen dazu, im Buch „Empire of AI“, stellte sich als Tippfehler heraus – um drei Größenordnungen daneben. Diese zitierte Zahl wurde weithin wiederholt, und die Leute dachten, es werde tatsächlich tausendmal mehr Wasser verbraucht, als es tatsächlich der Fall ist. Das war eine Quelle für viele dieser falschen Überzeugungen. Es gibt auch Missverständnisse über die Art des Wasserverbrauchs – das meiste davon wird tatsächlich an die Wasserquelle zurückgeführt, es wird nicht dauerhaft verbraucht.
Mounk: Viele Rechenzentren haben also geschlossene Wasserkreisläufe, bei denen das Wasser hin und her zirkuliert. Wenn man glaubt, all dieses Wasser werde bei jeder Anfrage verbraucht, kommt man auf ganz andere Werte für den Wasserverbrauch, als wenn man erkennt, dass es Teil eines geschlossenen Systems ist.
Narayanan: Genau. Rechenzentren scheinen deutlich weniger Wasser zu verbrauchen als Golfclubs. Wo bleibt also der Aufstand gegen Golfclubs, die viel weniger zur Wirtschaft beitragen und viel mehr Wasser verbrauchen? Ich denke einfach, dass Rechenzentren grundsätzlich der falsche Blickwinkel sind. Ja, KI ist energieintensiv – wechselt man vom Wasser zur Energie, ist sie in mancher Hinsicht energieintensiv –, aber eine ChatGPT-Anfrage ist nicht unbedingt energieintensiver als das Ansehen von Netflix oder irgendeine andere Aktivität, die wir ausführen. Die energieintensiven Aktivitäten sind die, bei denen man Agenten hat, die dauerhaft laufen oder lange im Hintergrund arbeitende Aufgaben ausführen.
Wenn wir diese Praktiken ändern wollen, wollte ich auf den Arbeitsplatz-Blickwinkel hinaus. Das muss geschehen, indem man sich anschaut, wie Unternehmen ihre Budgets innerhalb einer Organisation ausgeben, die KI einsetzt. Sagen sie jedem Mitarbeiter: Sie haben ein Budget von einer Milliarde Token pro Monat, was viele Organisationen so machen, und Sie können es nutzen, wie Sie wollen – oder versuchen sie, damit verantwortungsvoller umzugehen? Denken sie sorgfältig darüber nach, wofür sie KI tatsächlich einsetzen? Ist sie zuverlässig genug, um die Art von Einsatz zu unterstützen, die sie im Sinn haben? Das ist politisch viel weniger reizvoll, um sich dafür zu organisieren, weil es das bequeme Feindbild der KI-Unternehmen gibt, und – glaub mir, ich denke, die KI-Unternehmen tun alles, um sich als Bösewicht in diesem ganzen Diskurs darzustellen, weil sie ständig davor warnen, dass alle Jobs verschwinden werden. Es ist also moralisch sehr befriedigend, gegen die KI-Unternehmen zu protestieren, aber letztlich treffen die nicht die Entscheidungen darüber, wie KI eingesetzt wird. Viele der ethischen Entscheidungen liegen tatsächlich nachgelagert zur Entwicklung der Modelle. Das ist die ganze Perspektive der „normalen Technologie“.
Mounk: Lass uns darüber sprechen, wie viel Wahlfreiheit Unternehmen haben, und wie sinnvoll es ist, dagegen zu protestieren. Jedem Mitarbeiter ein riesiges Token-Budget zu geben, mag eine ineffiziente Nutzung von Unternehmensressourcen sein, und das mag zum Teil ein Symptom dafür sein, wie wenig diese Unternehmen bisher darüber wissen, wie man diese Ressourcen am besten nutzt. Da diese Kosten in die Höhe schießen, überdenken viele Unternehmen das bereits.
Aber wenn wir eine Wirtschaft wollen, die viele Güter und Dienstleistungen produziert, und sofern wir Unternehmen nicht grundsätzlich davon abhalten wollen, jemals Arbeitskosten einzusparen – was historisch sehr schlecht gewesen wäre, denn wenn Arbeitskosten eingespart wurden, wurde diese Arbeitskraft anderen, produktiveren Aufgaben zugewiesen, und wir sind dadurch enorm viel reicher geworden, als wir es waren –, ist es dann nicht das Richtige, Unternehmen damit experimentieren zu lassen? Wenn manche Unternehmen dabei Fehltritte machen, ist das in Ordnung – sie werden merken, dass ihre Gewinne sinken, und den Kurs ändern, vielleicht werden manche von ihnen verschwinden und andere an ihre Stelle treten. Aber sicherlich sollten wir uns ganz am Anfang der Einführung dieser gewaltigen Technologie wünschen, dass viele Unternehmen damit experimentieren, wie man sie am besten einsetzt, um herauszufinden, wie sie die Güter und Dienstleistungen, die sie herstellen, günstiger und hoffentlich auch wertvoller produzieren können. Wenn ein Schuhmacher herausfindet, wie er Schuhe wesentlich billiger herstellen kann, und eine Versicherungsgesellschaft herausfindet, wie sie ihre Dienstleistungen mit einer viel geringeren Verwaltungsspanne anbieten kann, und ein Krankenhaus herausfindet, wie es den Menschen viel mehr medizinische Versorgung zu geringeren Kosten bieten kann – das ist doch, was auf einer gewissen Ebene geschehen sollte.
Narayanan: Ja, Experimentieren ist gut. Ich bin ganz für Experimente. Ich experimentiere selbst viel. Die Frage ist – ich glaube, vieles von dem, was Unternehmen tun, ist gar kein Experimentieren im eigentlichen Sinne. Das Entscheidende beim Experimentieren ist, dass man es so anlegt, dass man am Ende etwas daraus lernt. Stattdessen tun Unternehmen Dinge wie Vorgaben von oben, dass jeder für alles KI nutzen soll. Arbeitnehmer haben durchweg das Gefühl, dass ihnen KI auf eine Weise aufgezwungen wird, die keinen Sinn ergibt, und das ist die häufigste Beschwerde, die wir von Menschen hören, die unzufrieden damit sind, wie KI in der Wirtschaft eingesetzt wird.
Viele CEOs ziehen diese Lehren nicht. Es gibt eine sehr gute Analyse von Aaron Levie, CEO von Box.com, der darauf hinweist, dass CEOs auf eine besondere Weise anfällig für „KI-Psychose“ sind. Das ist ein starker Begriff – man kann etwas anderes dafür einsetzen –, aber CEOs bauen oft Prototypen eines Produkts und denken: Das ist erstaunlich, Claude Code hat mir in zwanzig Minuten gebaut, wofür ein Team von zwei Leuten zwei Wochen gebraucht hat. Aber was der CEO nicht sieht, sind die letzten 90 Prozent, oder sogar die letzten 99 Prozent, die es braucht, um von diesem Prototyp zu einem tatsächlich funktionierenden, wartbaren Produkt zu gelangen. Damit beschäftigen sich die Mitarbeiter an der Basis jeden Tag. Viel von diesem Wissen dringt nicht von den alltäglichen Arbeitnehmern, die tatsächlich eine viel bessere Perspektive auf diese Dinge haben, zu den CEOs vor, die viele dieser vorschnellen Entscheidungen treffen, weil sie im Grunde den Kool-Aid trinken – und denken, Claude könne jetzt viele Angestellte ersetzen. Das ist für mich die unethischste Art von Entscheidungsfindung, die ich bei Unternehmen sehe, und darauf sollte sich meiner Ansicht nach ein Großteil der Proteste richten.
Mounk: Ich nehme dir ab, dass CEOs schlechte Entscheidungen treffen werden, weil es gerade so viel Kriegsnebel gibt, so wenig Erfahrung damit, wie man diese Technologien am besten einsetzt – was mit erklärt, warum die Produktivitätssteigerungen und die Rückgänge bei der Beschäftigung bisher noch nicht so groß waren, weil es einfach noch keine Zeit gab, herauszufinden, wie man das nutzt. Ich habe allerdings Schwierigkeiten zu erkennen, wie das eine Quelle für fortlaufende Arbeiterforderungen sein kann. In den Fabriken von Manchester zu sagen, wir müssen 14 Stunden am Tag arbeiten, es gibt keine Sicherheitsvorkehrungen, und ihr beschäftigt sechsjährige Kinder – das ergibt eine Reihe sehr klarer Forderungen: Arbeitszeitverkürzung, Sicherheitsvorschriften, Verbote von Kinderarbeit. Wenn die Idee ist, dass gerade eine Menge CEOs dumme Entscheidungen treffen, dann lautet die Antwort „trefft bessere Entscheidungen“ – wenn man zum Beispiel bei, ich weiß nicht, General Electric arbeitet, und General Electric verfolgt diese dumme Politik – ich habe dieses Unternehmen willkürlich herausgegriffen, ich habe keine Ahnung, ob das zutrifft –, worum organisiert man sich dann als Reaktion darauf? Was ist die Forderung?
Narayanan: Klar, ein paar Dinge. Ich glaube, wir kommen damit zu einigen der wirtschaftlichen Fragen zurück, mit denen wir begonnen haben, und vielleicht ist das ein guter Punkt, um zu schließen. Ein paar Arten von Forderungen: Entscheidungsträger sollten besser über die Technologie informiert sein, bevor sie solche vorschnellen Entscheidungen treffen. Während ich mit all dieser Kommentatorentätigkeit, die wir gerade machen, sozusagen einen Nebenjob habe, besteht meine Hauptarbeit darin, ein Forschungsteam zu leiten, das die Stärken und Grenzen von KI-Agenten bewertet. Es ist bemerkenswert, wie wenig von dieser Art rigoroser informatischer Evaluation stattfindet, bevor große Behauptungen über diese Produkte aufgestellt werden und diese Unternehmen Risikokapital zu Bewertungen in Milliardenhöhe erhalten. Sie haben das Wort „Experimentieren“ verwendet – das finde ich sehr hilfreich, denn es gibt nicht viel Beschäftigung mit der Wissenschaft dahinter, wo wir gerade stehen, und was die Belege dafür hergeben, welche Entscheidungen wir treffen sollten.
Also, bessere evidenzbasierte Entscheidungsfindung – das ist eine große Forderung. Mehr Mitspracherecht für Arbeitnehmer – ich glaube, viel des Wissens darüber, wie man KI am besten für produktive Zwecke statt für Hype-Zwecke einsetzt, muss von unten nach oben kommen, statt von oben nach unten. CEOs sind eigentlich nicht die Richtigen, um diese Entscheidungen zu treffen. Sie haben nicht das nötige Wissen. Arbeitnehmer finden es individuell heraus, aber wie viele Leute geschrieben haben, darunter Ethan Mollick, sprudelt viel von diesem Wissen nicht nach oben, weil Arbeitnehmer das Gefühl haben, dass sie, wenn sie es mit dem Rest des Unternehmens teilen, nichts von den Gewinnen aus den Produktivitätssteigerungen abbekommen, die sie eingeführt haben. Das grundlegende Verhältnis zwischen Arbeit und Kapital ist also gestört, und das muss repariert werden, ob mit oder ohne KI, aber KI erhöht den Druck darauf.
Vielleicht noch ein dritter Punkt – das hat weniger mit Organisieren und Protestieren zu tun, aber ich glaube, viele Leute müssen mehr darüber nachdenken, welche neuen Organisationsformen wegen KI entstehen werden. Ein frühes Anzeichen ist, dass Unternehmertum viel leichter wird, also könnte das für viel mehr Menschen als früher der richtige Weg sein. Sogar innerhalb einer einzelnen Firma – in der Softwarebranche zum Beispiel gab es früher einen Produktmanager auf zehn Programmierer, jetzt ist es eher ein Eins-zu-eins-Verhältnis. Diese Art von Innovation, glaube ich, ist notwendig, um das tatsächlich als Produktivitätsvervielfacher und -verstärker zu nutzen, statt als Ersatz für menschliche Arbeitskräfte.
Mounk: Das ist eine Darstellung dessen, was Einzelpersonen tun können, wofür sich Arbeitnehmer organisieren können. Was ist mit staatlicher Politik? Welche Art von Regulierung brauchen wir für Sicherheit, selbst wenn wir nicht zu dieser paranoiden Extremposition totaler Kontrolle über die gesamte Entwicklung und so weiter gelangen wollen? Was die Wirtschaftspolitik angeht: Wenn es verfrüht ist, gleich zu einem bedingungslosen Grundeinkommen zu springen, weil wir bisher tatsächlich hohe Beschäftigungsniveaus in den Vereinigten Staaten haben und so weiter, wie können wir den Staat darauf vorbereiten, dass, falls tatsächlich viele Jobs wegfallen, die Steuerbasis nicht verschwindet und die Menschen tatsächlich in der Lage sind, ihre Miete zu bezahlen und Essen auf dem Tisch zu haben? Wie sollten wir in diesem frühen Stadium eines gewissermaßen KI-Zeitalters darüber nachdenken?
Narayanan: Ich glaube, in diesem frühen Stadium fliegen wir gewissermaßen blind, und das Wichtigste, was politische Entscheidungsträger tun können, ist, Lücken in der Datenerhebung zu schließen. Aus Sicherheits- und Arbeitsmarktperspektive ist eine der großen Sorgen der Menschen, dass es so viele Entscheidungsträger gibt – ob CEOs, Militärs, Regierungen und so weiter –, die zu viele Entscheidungen an KI delegieren oder von KI treffen lassen, bei denen eigentlich ein Mensch die Kontrolle haben sollte, und die wichtige Entscheidungen einfach auf Grundlage von „Claude hat das gesagt“ treffen. Wir brauchen viel bessere Messung dieser Dinge. Bis zu einem gewissen Grad sollte es Regulierung geben, die die Leute zwingt, mehr Daten offenzulegen. Die meisten Rechtssysteme zum Beispiel verlangen nicht von Unternehmen, offenzulegen, wenn Entlassungen auf KI zurückzuführen waren, und wo es solche Vorschriften gibt, sind die Daten tatsächlich sehr interessant, und zwar entgegen vielen der gängigen Erzählungen.
Es sollte auch mehr Forschungsförderung geben, um zu untersuchen, wie Entscheidungsträger tatsächlich KI nutzen – ob auf verantwortungsvolle oder unverantwortliche Weise. Natürlich wird Datenerhebung allein nicht ausreichen, aber wenn wir nicht einmal den politischen Willen aufbringen können, deutlich mehr solcher Vorschriften zur Datenerhebung einzuführen, wie sollen wir dann jemals stärker interventionistische Maßnahmen wie ein bedingungsloses Grundeinkommen einführen? Das geht einfach nicht auf. Wir müssen damit beginnen, wirklich grundlegende regulatorische Muskeln zu trainieren.
Dieses Transkript wurde mit Hilfe von KI übersetzt und von Niya Krasteva redigiert.