Die Geisteswissenschaften stehen vor der Automatisierung
KI kann mittlerweile überzeugende wissenschaftliche Arbeiten verfassen. Da hilft kein Leugnen mehr.
Wenn dir meine Artikel und Podcasts gefallen, abonniere dich jetzt – oder leite sie an Freunde weiter –, damit dieser Substack weiter wachsen kann!
Es gab schon lange eine Kluft zwischen jenen, die glauben, dass künstliche Intelligenz eine enorm transformative Technologie ist, und jenen, die sie für hoffnungslos überbewertet halten. Noch nie war diese Kluft größer als in den vergangenen Wochen.
Die meisten Menschen, die diese Technologie in letzter Zeit regelmäßig nutzen, glauben, dass die Fortschritte der modernsten Modelle extrem rasant sind. Sie sind heute imstande, lange Ketten des Denkens zu verfolgen, was ihre Problemlösungsfähigkeiten in Bereichen von der Finanzanalyse bis zur Molekularbiologie dramatisch steigert. Ihre Fähigkeit, praktische Instrumente – von Datenvisualisierungen bis zu Websites – aus dem Stand zu entwickeln, ist verblüffend. Sie sind so gut im Programmieren geworden, dass einige der begabtesten Computerprogrammierer der Welt heute sagen, sie schrieben kaum noch eigene Zeilen. Und erst vor wenigen Tagen präsentierten führende Wissenschaftler eine neue Entdeckung in der Astrophysik, die lange gehegte Annahmen des Fachbereichs korrigierte – und die von einem großen Sprachmodell produziert worden war.
Und dennoch verharren viele Menschen, die ich kenne, besonders in den Geisteswissenschaften, in tiefer Verleugnung des Zustands dieser Technologie. Die wohl häufigste Art, wie sie die Bedeutung dieser Technologie abtun, ist die Behauptung, KI-Modelle seien nicht intelligent oder kreativ. Gewiss, sagen sie, diese stochastischen Papageien können einige beeindruckende Dinge leisten, wie eine E-Mail zusammenfassen oder Floskeln der Unternehmenssprache verfassen; aber sie sind von Natur aus unfähig, einen echten intellektuellen oder künstlerischen Beitrag zu leisten.
Meist sind die Menschen, die dieses Argument vorbringen, nicht sehr klar darüber, was sie mit Intelligenz oder Kreativität meinen, und wechseln den Boden unter den Füßen, wenn man sie auf ihre Definition festnagelt. Gelingt es einem, sie festzunageln, wird meist offenkundig, dass ihr Argument zirkulär ist: Sie glauben, KI-Systeme könnten nicht intelligent oder kreativ sein, weil nur von Menschen produzierte Texte oder Kunstwerke Beispiele für Intelligenz oder Kreativität sind.
Ich will mich nicht von einer sinnlosen semantischen Debatte über den Gebrauch dieser Wörter aufzehren lassen. Was ich weiß, ist, dass ich die Fähigkeit, ein neuartiges, interessantes und plausibles Argument über Politik zu formulieren, für einen wichtigen Indikator von Intelligenz und Kreativität halte, und dass ich einen langen Abschnitt meiner frühen Erwachsenenjahre darauf verwendet habe, diese Fähigkeit auf hohem Niveau zu entwickeln. Als ich also vor einigen Tagen, noch immer unter Jetlag von einer kürzlichen Europareise leidend, lange vor Sonnenaufgang aufwachte, beschloss ich zu testen, ob die neuesten KI-Modelle imstande wären, eine kompetente wissenschaftliche Arbeit in meinem Studienbereich, der politischen Theorie, zu verfassen. Das Ergebnis begeisterte und deprimierte mich zugleich.
Ich verbrachte den Großteil eines Jahrzehnts damit, meine intellektuelle Energie primär dem Studium der politischen Theorie zu widmen. Das erforderte von mir, einige der einflussreichsten Texte der Geschichte des politischen Denkens zu meistern; sorgfältige Unterscheidungen zwischen verschiedenen Ideen zu treffen und die Prämissen eines Arguments bis zu ihrer logischen Schlussfolgerung zu verfolgen; und (der Teil, mit dem ich immer am meisten kämpfte, weil ich ihn so langweilig fand) die Konventionen des akademischen Publizierens zu erlernen und ein Gespür für die impliziten Normen zu entwickeln, die bestimmen, was man in einer „publikationsfähigen” wissenschaftlichen Arbeit tut und nicht tut.
Obwohl wenig von meiner akademischen wie öffentlichen Arbeit heute strikt in die Kategorie der politischen Theorie im engeren Sinne fällt, hat diese Ausbildung zutiefst geprägt, wie ich schreibe, und ich bin ihr zutiefst dankbar. Das jahrelange Nachdenken über die Natur politischer Argumente lehrte mich, die Struktur aller Arten von Fragen zur sozialen Welt zu verstehen, logische Widersprüche sowohl in wissenschaftlichen Artikeln als auch in Social-Media-Posts zu erkennen und eine keimende Idee mit rasanter Geschwindigkeit in ein kohärentes Argument zu verwandeln. Die Kernfertigkeiten, die mir das Studium der politischen Theorie vermittelt hat, bilden das intellektuelle Fundament eines Großteils meiner Arbeit. Die Kernfertigkeiten, die mir das Studium der politischen Theorie vermittelt hat, bilden das intellektuelle Fundament eines Großteils meiner Arbeit. Sie haben mir erlaubt, zu untersuchen, unter welchen Bedingungen Demokratien anfälliger für Demagogen werden könnten, als zur damaligen Zeit weithin angenommen wurde – darüber schrieb ich in Der Zerfall der Demokratie – oder den Aufstieg einer neuen Ideologie in der amerikanischen Linken zu erklären und zu kritisieren, wie ich es in Das Zeitalter der Identität getan habe.
Tatsächlich ist es, wie ich meine, kaum ein Zufall, dass politische Theoretiker in der öffentlichen Debatte in den Vereinigten Staaten über ihr Gewicht hinaus schlagen. Die Liste prominenter Denker und Kommentatoren, die zumindest teilweise in politischer Theorie ausgebildet sind, ist überraschend lang, besonders angesichts der winzigen Größe des Fachbereichs: Um nur einige zu nennen, gehören dazu George Will, Andrew Sullivan, Michael Sandel, Bill Galston, Danielle Allen und Patrick Deneen.1
In gewisser Hinsicht sollte es für künstliche Intelligenz einfacher sein, die politische Theorie zu knacken als manch andere Bereiche. Schließlich erfordert politische Theorie weder das Sammeln noch die Analyse neuer Datensätze, und viele der kanonischen Texte des Faches dürften in den Trainingsdaten für KI stark vertreten sein. In anderer Hinsicht ist die Messlatte jedoch hoch: Ein originelles Argument in diesem Bereich erfordert sowohl eine anspruchsvolle Mischung aus interpretativen und argumentativen Fähigkeiten als auch eine neue Idee zu einem Thema, über das die Menschen seit Jahrtausenden streiten. Die Fähigkeit großer Sprachmodelle, ein überzeugendes Werk der politischen Theorie zu schaffen, scheint mir daher ein guter Testfall für die Debatte darüber zu sein, ob künstliche Intelligenz intelligent ist oder nicht.
(Claudes Urteil über das Fach fällt, wie ich einräumen muss, deutlich weniger schmeichelhaft aus. Als ich den Ehrgeiz äußerte, die These zu widerlegen, Künstliche Intelligenz sei nichts weiter als ein „stochastischer Papagei“, konterte Claude trocken, politische Theorie sei womöglich das einzige Fach, in dem „stochastischer Papagei“ als Kompliment durchginge – schließlich bestehe die ganze Disziplin darin, immer neue Variationen dessen zu liefern, was Tocqueville und Mill längst gesagt hätten. Autsch.)
Ich begann damit, Claude Opus 4.6 – mit erweitertem Denken aktiviert – zu bitten, mir beim Verfassen einer politiktheoretischen Arbeit zu helfen, die in einer Spitzenzeitschrift des Faches veröffentlicht werden könnte. Nachdem es sich einen Überblick über aktuelle Beiträge in Spitzenjournalen verschafft hatte, präsentierte es fünf verschiedene Ideen, manche besser als andere. Eine, für die ich Claude später bat, eine Zusammenfassung für allgemeine Leser zu schreiben2, die hier wiedergegeben wird, schien mir vielversprechend:
Politische Theoretiker haben das letzte Jahrzehnt damit verbracht zu fragen, ob große Konzerne wie Mini-Regierungen sind – ob Ihr Chef eine Art Diktator ist, ob Tech-Unternehmen demokratisiert werden sollten. Das ist der richtige Instinkt, aber er blickt an die falsche Stelle. Die wahre Macht, die Google, Meta und OpenAI ausüben, gilt nicht Ihren Entscheidungen – sie gilt den Bedingungen, unter denen Sie denken. Sie sagen Ihnen nicht, was Sie glauben sollen; sie prägen, was Sie antreffen, was plausibel erscheint, welche Fragen es wert scheinen, gestellt zu werden, und zunehmend produzieren sie durch generative KI das Material selbst, aus dem Ihre Überzeugungen geformt werden. Tocqueville hatte einen Ausdruck dafür: den „respektgebietenden Kreis, der um das Denken gezogen wird”. Mill fürchtete dasselbe – dass, wenn eine Gesellschaft die Reibung wirklich konkurrierender Ideen verliert, selbst ihre wahren Überzeugungen zu „totem Dogma” verkommen, mechanisch festgehalten und von niemandem verstanden. Beide reagierten auf die Kommunikationsrevolutionen ihrer eigenen Epochen. Unsere ist radikaler als alles, was sie sich vorstellten, denn zum ersten Mal in der Geschichte kontrolliert eine Handvoll privater Unternehmen nicht nur, welche Ideen zirkulieren, sondern die Infrastruktur der Erkenntnis selbst – und sie tun dies ohne demokratisches Mandat, mit minimaler Transparenz und fast ohne Rechenschaftspflicht. Ich nenne dies epistemische Herrschaft und behaupte, sie sei die größte untheoretisierte Bedrohung der Selbstregierung im einundzwanzigsten Jahrhundert.
Im nächsten Schritt lud ich zwei aktuelle Arbeiten aus Political Theory, einer Spitzenzeitschrift, hoch und bat Claude, mir eine Gliederung der Arbeit zu geben, die den Konventionen des Faches folgt. Danach gingen wir Abschnitt für Abschnitt vor, wobei ich bei jedem eine Runde allgemeiner Rückmeldungen gab. Als Beispiel: Ich befürchtete, dass der Abschnitt zu John Stuart Mill, den es verfasst hatte, zu viel Zeit damit verbrachte, die Argumente zugunsten der Meinungsfreiheit aus Kapitel 2 von Über die Freiheit zu wiederholen, die politischen Theoretikern sehr vertraut wären, und beauftragte Claude damit, Zitate aus obskureren Texten wie veröffentlichten Briefen einzubauen.
Der menschliche Eingriff in diesen Prozess beruhte gewiss auf meiner fachlichen Ausbildung, war aber sehr minimal. Einschließlich der Zeit, die Claude für die Texterzeugung brauchte, und der deutlich längeren Zeit, die ich zum Lesen von Claudes Text benötigte, vergingen weniger als zwei Stunden von der ersten Idee zu diesem Experiment bis zur Fertigstellung des Entwurfs.
Der Entwurf ließe sich gewiss in einigen Punkten verbessern. An mehreren Stellen der Argumentation könnten Gutachter durchaus geschickte Einwände vorbringen. Claude drängte mich ausdrücklich, die Seitenangaben einiger Referenzen für die verwendeten Zitate gegen kanonische Ausgaben der Werke von Tocqueville und Mill zu überprüfen. Es bat mich auch, die Formulierung einiger Zitate aus weniger kanonischen Texten zu kontrollieren, etwa aus dem Briefwechsel zwischen Mill und Tocqueville. (Da ich Claudes Ergebnis in seiner ursprünglichen Form präsentieren wollte, habe ich das nicht getan. Die wenigen Referenzen, die ich überprüfte, schienen korrekt zu sein, aber ich rechne damit, dass es einige Fehler gibt, die korrigiert werden müssten, bevor man das Paper bei einer Fachzeitschrift einreichen könnte.) Aber insgesamt war das Ergebnis deprimierend gut: Ich bin überzeugt, dass es mit geringfügigen Überarbeitungen von einer seriösen Zeitschrift veröffentlicht werden könnte.
Die Macht der motivierten Begründung ist immens. Falls dieses kleine Experiment zufällig etwas breitere Aufmerksamkeit erregen sollte, werden viele Leute schnell behaupten, dass dieses Paper fundamental fehlerhaft oder rundheraus dumm sei und niemals in einer seriösen Zeitschrift hätte veröffentlicht werden können. Der Weg, das definitiv zu widerlegen, wäre eine Version des Sokal-Hoax gewesen: das Paper unter falschen Voraussetzungen bei einer guten Zeitschrift zur Annahme zu bringen, bevor man es öffentlich teilt.
Ich habe kurz darüber nachgedacht. Da aber die Ethik der Einreichung von Arbeiten bei Zeitschriften unter falschen Voraussetzungen umstritten ist und die Ethikkommissionen der Universitäten solche Praktiken eher missbilligen, entschied ich mich dagegen. Es genüge die Feststellung, dass ich überzeugt bin, jemand mit Grundkenntnissen der politischen Theorie könnte so etwas mühelos schaffen. Falls Sie ein Politiktheoretiker sind, der vom Gegenteil fest überzeugt ist: Warum versuchen Sie es nicht ernsthaft?
Aber der Vergleich mit dem berühmten Hoax von Alan Sokal sowie dem Nachfolgeprojekt von Helen Pluckrose, James Lindsay und Peter Boghossian ist ohnehin irreführend. Beide Unternehmungen zielten auf Zeitschriften in akademischen Teilbereichen, die völlig auf Abwege geraten waren; sie waren eine bewusste reductio ad absurdum. Das von Claude verfasste Paper ist dagegen keineswegs absurd. Es hat zwar seine Schwächen und ist nicht gerade weltbewegend originell, aber niemand kann es ernsthaft als reductio bezeichnen. Hätte ein Kommilitone diesen Text beim Graduierten-Workshop meines Fachbereichs eingereicht, wäre meine Achtung vor ihm eher gewachsen als geschrumpft.
Das soll kein billiger Treffer gegen die politische Theorie sein, ein Fach, das ich nach wie vor sehr schätze. Es ist ein Weckruf über die Zukunft der Geisteswissenschaften. Selbst wenn man das Ausmaß beiseitelässt, in dem manche geisteswissenschaftlichen Bereiche in den letzten Jahren von Ideologie vereinnahmt worden sind, wirkt das ganze Unternehmen mittlerweile etwas schief. Professoren an Spitzenuniversitäten konzentrieren sich – nicht zuletzt wegen dessen, was man heute braucht, um eine gute Stelle im Fach zu bekommen – mehr darauf, gelehrte Beiträge zu Nischendiskussionen in Fachzeitschriften zu veröffentlichen, die nur eine Handvoll Kollegen je lesen wird, als darauf, die immer weniger werdenden Studenten zu unterrichten und zu betreuen.
Das war schon immer absurd. Aber sobald künstliche Intelligenz diese Beiträge anstelle von Menschen schreiben kann – nicht nur in der politischen Theorie, sondern auch in Theologie und Kunstgeschichte und Komparatistik – ist es völlig unhaltbar.
In mancher Hinsicht wird das Zeitalter der KI die Geisteswissenschaften wichtiger machen denn je. Disziplinen von der Literatur bis zur Philosophie brauchen wir, um Antworten auf eine Frage zu finden, die drängender wird als viele ahnen: Wie finden wir unseren Platz in einer Welt, in der wir weit weniger gebraucht werden als früher? Und was heißt es noch, Mensch zu sein, wenn wir nicht länger die Einzigen sind, die manche jener Fähigkeiten besitzen, die einst allein unserer Spezies vorbehalten schienen? Doch in einer Zeit, in der Künstliche Intelligenz mit wachsender Leichtigkeit durch all jene Reifen springt, die in den vergangenen Jahrzehnten eine akademische Laufbahn in den Geisteswissenschaften definiert haben, ist es höchste Zeit für eine radikale Neubestimmung dessen, wie wir in diesen Fächern bedeutsames Wissen gewinnen und weitergeben.
Sie glauben mir nicht, dass die KI-bedingte Krise der Geisteswissenschaften vor der Tür steht? Schauen Sie sich das politiktheoretische Paper an, das Claude in ein paar Stunden geschrieben hat:
Die Oligarchie der Größenordnung: Epistemische Herrschaft und die Bedingungen der Selbstregierung
Abstract
Politiktheoretiker wenden sich verstärkt der Macht von Unternehmen zu und fragen, ob Firmen Autorität, Zwang oder Herrschaft in einer Art ausüben, die der von Staaten gleicht. Ich argumentiere, dass diese Perspektive zwar produktiv ist, aber einen charakteristischen blinden Fleck erzeugt. Die folgenreichste Form privater Macht in gegenwärtigen Gesellschaften operiert nicht durch die direkte Ausübung von Autorität über identifizierbare Subjekte, sondern über die epistemischen Bedingungen, unter denen Bürger ihre Überzeugungen, Präferenzen und politischen Urteile bilden. Indem ich zwei unterschätzte Stränge der liberalen Tradition wiederentdecke — Tocquevilles Analyse des demokratischen Geistes in Über die Demokratie in Amerika und Mills Theorie epistemischer Infrastruktur in Über die Freiheit — zeige ich, dass beide Denker genau diese Form der Macht theoretisierten, auch wenn keiner von ihnen das begriffliche Vokabular besaß, sie zu benennen. Auf ihre Einsichten und auf jüngere Arbeiten zur postkolonialen und feministischen Epistemologie gestützt entwickle ich das Konzept epistemischer Herrschaft: die willkürliche Fähigkeit eines Akteurs, die epistemischen Bedingungen zu prägen, unter denen eine politische Gemeinschaft urteilt und denkt. Ich unterscheide dieses Konzept von republikanischer Herrschaft, epistemischer Ungerechtigkeit und ideologischer Hegemonie und argumentiere, dass der Aufstieg von Unternehmen der künstlichen Intelligenz dessen vollständigste gegenwärtige Verwirklichung darstellt. Die Demokratietheorie, so meine Schlussfolgerung, operierte bislang mit einer unvollständigen Vorstellung davon, was Selbstregierung erfordert.
Schlüsselwörter: epistemische Herrschaft, Tocqueville, Mill, Unternehmensmacht, künstliche Intelligenz, Demokratietheorie
Politiktheoretiker haben das Unternehmen jüngst wiederentdeckt. Nach Jahrzehnten, in denen konzentrierte private Macht von der Disziplin relativ wenig Aufmerksamkeit erhielt, besteht eine wachsende Literatur nun darauf, dass die von Firmen über Arbeiter, Verbraucher und Gemeinden ausgeübte Autorität dieselbe Prüfung verdient, die Politiktheoretiker seit langem dem Staat zuteil werden lassen. [^1] Elizabeth Andersons Darstellung des Arbeitsplatzes als Schauplatz „privater Regierung” war besonders einflussreich und offenbarte das Ausmaß, in dem Arbeitgeber willkürliche, unrechenschaftspflichtige Autorität über das tägliche Leben ihrer Angestellten ausüben.[^2] Isabelle Ferreras und Hélène Landemore haben diese Argumentationslinie erweitert und fragen, ob demokratische Prinzipien die Demokratisierung der Firma selbst erfordern.[^3] David Ciepley hat Politiktheoretiker gedrängt, das Unternehmen als eine eigenständige politische Entität anzuerkennen — vom Staat konzessioniert, mit Rechtspersönlichkeit ausgestattet, aber weder allein durch demokratische noch durch Marktprinzipien regiert. [^4]
Diese Beiträge teilen ein wichtiges strukturelles Merkmal. Jeder modelliert Unternehmensmacht nach Kategorien, die der Analyse politischer Autorität entnommen sind: Herrschaft, Zwang, Dominanz, Legitimität. Die Frage, die sie stellen, ist im Wesentlichen, ob Firmen etwas ausüben, das politischer Macht hinreichend ähnelt, dass die normativen Rahmen, die wir auf Staaten anwenden, auf sie ausgedehnt werden sollten. Das ist eine produktive Forschungsrichtung, und die Antwort ist offensichtlich ja. Aber sie erzeugt auch einen charakteristischen blinden Fleck. Indem sie fragt, ob Unternehmen in einer Weise herrschen, zwingen oder dominieren, die der von Staaten gleicht, neigt diese Literatur dazu, Unternehmensmacht dort zu suchen, wo wir bereits gelernt haben, staatliche Macht zu suchen — in der direkten Ausübung von Autorität über identifizierbare Subjekte.
Ich möchte nahelegen, dass die folgenreichste Form privater Macht in gegenwärtigen Gesellschaften anders operiert. Sie wirkt nicht hauptsächlich durch die direkte Ausübung von Autorität über Angestellte oder die zwanghafte Aufoktroyierung von Bedingungen gegenüber Verbrauchern, auch wenn sie diese Dinge ebenfalls tut. Sie wirkt vielmehr auf die Bedingungen ein, unter denen Bürger ihre Überzeugungen, Interpretationen und politischen Urteile bilden — auf die epistemische Umgebung, die demokratische Selbstregierung voraussetzt, die die Demokratietheorie aber weithin als selbstverständlich betrachtet hat. Wenn eine Handvoll Unternehmen die Infrastruktur kontrolliert, durch die Information produziert, kuratiert und angetroffen wird — wenn sie nicht nur prägen, was Menschen wissen, sondern die Rahmen, in denen sie interpretieren, was sie wissen — dann üben sie eine Form der Macht aus, für die unser vorhandenes theoretisches Vokabular nicht gut gerüstet ist.
Diese Sorge ist nicht völlig neu. Die Befürchtung, dass die konzentrierte Kontrolle über die Bedingungen des Denkens sich als gefährlicher für die Selbstregierung erweisen könnte als die direkte Ausübung von Zwangsgewalt, hat tiefe Wurzeln in der liberalen Tradition – auch wenn diese Wurzeln bislang nicht angemessen verfolgt wurden. Im Folgenden arbeite ich zwei weitgehend unterschätzte Stränge dieser Sorge heraus. Der erste durchzieht Tocquevilles Analyse des geistigen Lebens unter der Demokratie in Über die Demokratie in Amerika, wo seine Darstellung der „Tyrannei der Mehrheit” weit über gesellschaftlichen Konformismus hinausreicht und theoretisiert, wie demokratische Verhältnisse die Spannweite dessen verengen können, was er „denkbare Gedanken” nennt. Der zweite findet sich in Mills Über die Freiheit, wo die berühmte Verteidigung der freien Meinungsäußerung auf einem weniger häufig untersuchten Argument über die strukturellen Bedingungen ruht, die eine Gesellschaft benötigt, um ihre kollektive Fähigkeit zu gesundem Urteil aufrechtzuerhalten.
Tocqueville und Mill auf diese Weise gemeinsam zu lesen, offenbart, dass beide eine Form von Macht theoretisierten, für die der zeitgenössischen politischen Theorie immer noch angemessene Begriffe fehlen. Beide erkannten, dass Selbstregierung nicht nur durch Zwang, Zensur oder die direkte Unterdrückung von Dissens untergraben werden kann, sondern durch subtilere Transformationen des epistemischen Umfelds – Transformationen, die unterhalb der Schwelle operieren, an der die Freiheit irgendeines Einzelnen sichtbar beschnitten wird. Beide reagierten, was entscheidend ist, auf Kommunikationsrevolutionen ihrer eigenen Epochen, die den Einfluss auf die öffentliche Meinung auf neue und beispiellose Weise zu konzentrieren drohten. Auf der Grundlage dieser historischen Ressourcen entwickle ich ein Konzept, das ich epistemische Herrschaft nenne: die willkürliche Fähigkeit eines Akteurs, die epistemischen Bedingungen zu gestalten, unter denen eine politische Gemeinschaft ihre Überzeugungen, Präferenzen und Urteile bildet. Dieses Konzept ist verwandt mit, aber unterschieden von mehreren benachbarten Ideen in der zeitgenössischen Theorie – Philip Pettits republikanische Herrschaft, Miranda Frickers epistemische Ungerechtigkeit und die marxistische Tradition ideologischer Herrschaft –, und ich bemühe mich im Folgenden, die Unterschiede zu spezifizieren.
Die zeitgenössische Form privater Macht, die die von Tocqueville und Mill artikulierten Ängste am vollständigsten verwirklicht, ist das große Unternehmen für künstliche Intelligenz. Konzerne wie Google, Meta und OpenAI verbreiten nicht bloß Informationen, wie Zeitungen und Rundfunkanstalten es seit langem tun. Sie gestalten zunehmend die Bedingungen der Kognition selbst: die Fragen, denen Nutzer begegnen, die Antworten, die plausibel erscheinen, die Rahmungen, die sich natürlich anfühlen, die Alternativen, die denkbar bleiben. Durch das Design von Empfehlungssystemen, das Training großer Sprachmodelle und die Kuratierung von Suchergebnissen üben diese Firmen einen andauernden, infrastrukturellen Einfluss auf das epistemische Leben von Milliarden von Bürgern aus – einen Einfluss, der weitgehend unrechenschaftspflichtig, häufig undurchsichtig und in bemerkenswert wenigen Händen konzentriert ist. Wenn epistemische Herrschaft eine reale und eigenständige Form von Macht bezeichnet, dann repräsentiert der Aufstieg der KI-Konzerne nicht bloß ein neues Kapitel in der vertrauten Geschichte der Unternehmenskonzentration, sondern eine qualitative Transformation im Verhältnis zwischen privater Macht und demokratischer Selbstregierung.
Mein primärer Zweck im Folgenden ist allerdings nicht, eine politische Agenda oder einen regulatorischen Rahmen zur Bewältigung dieser Transformation anzubieten. Es geht darum zu zeigen, dass die demokratische Theorie mit einer unvollständigen Darstellung dessen operiert hat, was Selbstregierung erfordert – und dass Tocqueville und Mill dies klarer verstanden, als wir gemeinhin anerkannt haben.
Tocqueville und der demokratische Geist
Das bekannteste Element von Tocquevilles Analyse der demokratischen Kultur ist seine Darstellung der „Tyrannei der Mehrheit”. In der öffentlichen Wahrnehmung bezeichnet der Ausdruck eine klare politische Gefahr: dass eine demokratische Mehrheit dafür stimmen kann, Minderheiten zu unterdrücken und dabei Macht ebenso effektiv zu konzentrieren wie jeder Despot. [^5] In sorgfältigeren wissenschaftlichen Behandlungen wird das Konzept so verstanden, dass es etwas Subtileres beschreibt – eine Form gesellschaftlichen Konformismus, in dem demokratische Bürger, begierig auf die Zustimmung ihrer Gleichen, abweichende Ansichten aus dem Wunsch heraus unterdrücken, dazuzugehören. Keine dieser Lesarten ist falsch.[^6] Aber beide, möchte ich behaupten, erfassen nur die äußeren Schichten von Tocquevilles Sorge. Unter der politischen Gefahr und der Soziologie des Konformismus liegt ein verstörenderes Argument über die epistemischen Konsequenzen des demokratischen Lebens – ein Argument darüber, wie die Gleichheit der Verhältnisse nicht bloß das umgestaltet, was Bürger zu sagen bereit sind, sondern das, was zu denken sie imstande sind.
Die Schlüsseltexte sind nicht die vielgerühmten Kapitel über die Tyrannei der Mehrheit im ersten Band von Über die Demokratie in Amerika, sondern die seltener untersuchten einleitenden Abschnitte des zweiten Bandes, in denen sich Tocqueville von den demokratischen Institutionen den demokratischen Denkgewohnheiten zuwendet. [^7] Er beginnt mit einem Paradox. Demokratische Völker werden, gerade weil sie unter ihresgleichen keine natürliche intellektuelle Autorität anerkennen, dazu gedrängt, Autorität in der einzigen Quelle zu suchen, die ihnen noch zur Verfügung steht – der aggregierten Meinung der Vielen. In aristokratischen Gesellschaften, so argumentiert Tocqueville, unterwerfen sich die Einzelnen der intellektuellen Autorität bestimmter Personen oder Klassen, deren überlegenes Urteilsvermögen sie anerkennen. Die Demokratie löst diese Ehrerbietung auf. Kein Bürger in einer Demokratie betrachtet irgendeinen anderen Bürger als von Natur aus kompetenter im Urteilen: „Je ähnlicher und gleicher die Bürger einander werden, desto geringer wird bei jedem Einzelnen die Bereitschaft, einem bestimmten Menschen oder einer bestimmten Klasse noch bedingungslos Glauben zu schenken.” [^8] Das Ergebnis ist jedoch nicht etwa intellektuelle Unabhängigkeit. Es ist eine Übertragung kognitiver Autorität von identifizierbaren Individuen auf ein anonymes und überwältigendes Kollektiv. „Die allgemeine Meinung ist nicht nur der einzige Wegweiser, der der individuellen Vernunft bei den demokratischen Völkern noch bleibt”, schreibt Tocqueville, „sondern sie hat bei diesen Völkern auch eine unendlich größere Macht als bei allen anderen.” [^9]
Der Mechanismus dieser Übertragung verdient genaue Beachtung, denn hier geht Tocqueville über alles hinaus, was sich mit der Sprache des Konformismus oder der politischen Unterdrückung erfassen ließe. Die Autorität der Mehrheit über den demokratischen Geist operiert weder durch Überredung noch durch Gewalt. Sie operiert durch eine Art kognitive Sättigung:
Die Öffentlichkeit in demokratischen Völkern verfügt über eine einzigartige Macht, deren Vorstellung sich aristokratische Nationen nicht einmal würden ausmalen können. Sie überzeugt nicht, sie drängt ihre Überzeugungen auf und lässt sie durch eine Art ungeheuren Druck des Geistes aller auf die Intelligenz jedes Einzelnen in die Seelen eindringen.[^10]
Der Satz ist bemerkenswert. Ein „ungeheurer Druck des Geistes aller auf die Intelligenz jedes Einzelnen” beschreibt nicht gesellschaftliche Missbilligung oder politischen Zwang. Es ist die Beschreibung eines epistemischen Zustands – eines Zustands, in dem das schiere Gewicht geteilter Meinungen die Fähigkeit des Individuums zu unabhängigem Urteil umformt, nicht indem es Dissens bestraft, sondern indem es ihn kognitiv unverfügbar macht. Die Mehrheit, so Tocqueville weiter, „übernimmt es, den Individuen eine Fülle vorgefertigter Meinungen zu liefern und entlastet sie damit von der Verpflichtung, sich eigene Meinungen zu bilden”.[^11] Die Wortwahl „Entlastung” ist pointiert: Die Bürger erleben es nicht als Zwang. Sie erleben es als Bequemlichkeit – die komfortable Delegation kognitiver Arbeit an eine Quelle, die schon durch ihre Allgegenwart autoritativ wirkt.
Diese Transformation ist bedeutsam, weil sie den Charakter intellektueller Beschränkung verändert. Unter aristokratischen Verhältnissen sind die Hindernisse für freies Denken sichtbar und persönlich: ein Zensor, ein Mäzen, eine Kirche. Man kann die Quelle der Beschränkung identifizieren und ihr, zumindest im Prinzip, widerstehen. Die kognitive Autorität der demokratischen Mehrheit funktioniert anders. Sie unterdrückt bestimmte Meinungen nicht mit Gewalt. Sie macht sie unplausibel – nicht indem sie sie widerlegt, sondern indem sie ihnen die gesellschaftlichen Bedingungen entzieht, unter denen sie ernst genommen werden könnten. Im ersten Band fasst Tocqueville dies in einer Passage zusammen, die mehr Aufmerksamkeit verdient hätte, als sie erhalten hat:
In Amerika zieht die Mehrheit einen respektgebietenden Kreis um das Denken. Innerhalb dieser Grenzen ist der Schriftsteller frei; doch wehe ihm, wenn er es wagt, sie zu verlassen. Nicht dass er ein Autodafé zu fürchten hätte, aber er wird zum Ziel von Demütigungen aller Art und täglichen Verfolgungen.[^12]
Die Passage wird typischerweise als Beschreibung gesellschaftlicher Strafen für Dissens gelesen – Ächtung, Karriereende, Rufschädigung. Doch die Metapher des „respektgebietenden Kreises” deutet auf etwas Fundamentaleres hin. Ein um das Denken gezogener Kreis ist keine Strafe, die nach dem Dissens verhängt wird; er ist eine vorgängige Beschränkung des Raums, in dem Denken operiert. Was außerhalb des Kreises fällt, ist nicht bloß gefährlich zu äußern. Es hört mit der Zeit auf, als lebendige intellektuelle Option wirklich verfügbar zu sein.
Sheldon Wolins meisterliche Tocqueville-Studie erfasst einen Teil dieser Dynamik. Wolin liest Tocqueville als Theoretiker der „totalen Kultur” der Demokratie – als einen Denker, der verstand, dass demokratische Macht nicht primär durch Institutionen wirkt, sondern durch die durchdringende Formung von Sitten, Gewohnheiten und Dispositionen.[^13] Das stimmt, soweit es geht. Doch Wolins Betonung der demokratischen Kultur kann die spezifisch epistemische Dimension von Tocquevilles Sorge verdecken. Das Problem ist nicht nur, dass die Demokratie eine charakteristische Kultur der Konformität hervorbringt. Das Problem ist, dass demokratische Verhältnisse dazu neigen, eine charakteristische Epistemologie hervorzubringen – ein Bündel stillschweigender Annahmen darüber, wo maßgebliches Wissen liegt, was als glaubwürdige Behauptung gilt und welche Fragen es zu stellen lohnt –, die systematisch das Spektrum der der demokratischen Gemeinschaft verfügbaren Perspektiven verengt.
In den Schlusspassagen des Kapitels über den demokratischen Glauben formuliert Tocqueville diese Sorge in ihrer radikalsten Form. Nachdem er die Übertragung kognitiver Autorität von Individuen und Klassen auf die Mehrheit nachgezeichnet hat, hält er inne, um Bilanz zu ziehen über das, was gewonnen und verloren wurde:
Ich sehe sehr deutlich in der Gleichheit zwei Tendenzen: eine, die den Geist jedes Menschen zu neuen Gedanken führt, und eine andere, die ihn dazu bringt, überhaupt nicht mehr zu denken. Und ich bemerke, wie unter der Herrschaft bestimmter Gesetze die Demokratie die intellektuelle Freiheit auslöschen würde, die der demokratische Gesellschaftszustand begünstigt, so dass der menschliche Geist, nachdem er alle Hindernisse gebrochen hat, die ihm früher von Klassen oder Menschen auferlegt wurden, sich eng an den allgemeinen Willen der größten Zahl binden würde.[^14]
Diese Passage ist von verheerender Präzision. Die Demokratie befreit und lähmt zugleich – sie sprengt die alten Fesseln von Klasse und Kaste, ersetzt sie aber durch eine neue und in mancher Hinsicht gründlichere Form geistiger Abschottung. Der menschliche Geist, nachdem er sich vom besonderen Willen aristokratischer Herren befreit hat, „bindet sich eng” an den allgemeinen Willen der Mehrheit. Tocqueville ist sich des Echos von Rousseau vollkommen bewusst und ebenso der Ironie: Der allgemeine Wille, jenes große emanzipatorische Konzept, wird hier zum Instrument epistemischer Eingrenzung. Sein abschließendes Urteil ist schonungslos: „Die Menschen hätten nicht die Mittel gefunden, unabhängig zu leben; sie hätten nur — schwieriges Unterfangen — ein neues Gesicht der Knechtschaft entdeckt.”[^15]
In den berühmten Schlusskapiteln des zweiten Bandes fügt Tocqueville diese Fäden in seinem Porträt des „weichen Despotismus” zusammen. Die Passage wird regelmäßig in Diskussionen über paternalistische Regierungsführung zitiert, doch ihre epistemische Dimension wird selten in den Vordergrund gerückt. Tocqueville beschreibt eine Machtform, die „nicht zerstört, sie verhindert, dass Dinge geboren werden; sie tyrannisiert nicht, sie behindert, kompromittiert, entkräftet, erstickt, betäubt”.[^16] Die Verben sind aufschlussreich. Diese Macht „zerstört” oder „tyrannisiert” nicht – sie „verhindert, dass Dinge geboren werden”, sie „erstickt” und „betäubt”. Das sind Verben der epistemischen Abschottung, nicht des Zwangs. Was der weiche Despotismus eliminiert, ist nicht die Handlungsfreiheit im herkömmlichen Sinne, sondern die generative Kapazität einer Gesellschaft – ihre Fähigkeit, neue Ideen, neue Interpretationen, neue Wege des Verstehens ihrer eigenen Lage hervorzubringen.
Zwei Merkmale von Tocquevilles Analyse verdienen Betonung. Erstens ist die epistemische Bedrohung, die er beschreibt, strukturell, nicht gezielt. Keine einzelne Person oder Institution setzt sich zum Ziel, das Spektrum denkbarer Gedanken zu verengen. Die Verengung ist eine Folge der demokratischen Bedingungen selbst – der Gleichheit, der kognitiven Autorität der Mehrheit, der Verdrängung individuellen Urteils durch kollektive Meinung.
Zweitens schrieb Tocqueville als Antwort auf eine spezifische Transformation der Infrastruktur öffentlicher Kommunikation. Die 1830er und 1840er Jahre erlebten die rasche Ausweitung der Massenpresse sowohl in Frankreich als auch in den Vereinigten Staaten – der „Penny Press”, die erstmals Zeitungen für ein breites demokratisches Publikum verfügbar machte.[^17] Tocqueville diskutiert die Presse in diesen Kapiteln nicht ausführlich, doch seine Analyse ist nur vor diesem Hintergrund verständlich. Der „ungeheure Druck des Geistes aller auf die Intelligenz des Einzelnen” ist keine Abstraktion; er wird durch neue Kommunikationstechnologien vermittelt und verstärkt, die es erstmals möglich machten, dass ein einheitliches Set von Deutungsmustern ein wahrhaft massenhaftes Publikum erreichte.
Tocqueville bietet also mehr als eine Soziologie des Konformismus und etwas Tieferes als eine Warnung vor majoritärer Despotie. Er liefert die Elemente – wenn auch nicht die fertige Form – einer Theorie epistemischer Verdichtung: den Prozess, durch den die Bedingungen demokratischen Lebens, vermittelt durch die Infrastruktur der Massenkommunikation, das Spektrum verfügbarer Interpretationen, Deutungsmuster und Fragen für die Bürger fortschreitend verengen. Die Bedrohung der Selbstregierung, die er identifiziert, wirkt nicht auf der Ebene dessen, was Bürgern zu denken erlaubt ist, sondern auf der Ebene dessen, was zu denken sie imstande sind. Diese Unterscheidung wird sich im Folgenden als wesentlich erweisen.
Mill und die Ökologie der Meinungsbildung
Wenn Tocqueville die Nachfrageseite epistemischer Verdichtung theoretisiert – wie demokratische Bürger dazu kommen, ihre kognitive Autorität an die Mehrheit zu delegieren – theoretisiert Mill die Angebotsseite: was mit der kollektiven Urteilsfähigkeit einer Gesellschaft geschieht, wenn die Bedingungen, unter denen Meinungen gebildet, getestet und revidiert werden, verarmen. Die gängige Lesart von Kapitel 2 von „Über die Freiheit” behandelt es als Verteidigung individueller Meinungsäußerung – den Urtext der liberalen Tradition der Meinungsfreiheit, der das Recht zu sprechen in der Autonomie und Würde des Sprechers begründet.[^18] Diese Lesart ist nicht falsch, aber sie unterschätzt die Radikalität dessen, was Mill tut. Sein Argument handelt nicht primär von den Rechten des Einzelnen. Es handelt von den epistemischen Bedürfnissen der Gemeinschaft. Die Frage, die das Kapitel organisiert, lautet nicht „Was hat der Einzelne das Recht zu sagen?”, sondern „Welche Bedingungen müssen erfüllt sein, damit eine Gesellschaft ihre kollektive Fähigkeit zu solidem Urteil über die Zeit bewahren kann?”
Mill hatte diese Frage lange vor „Über die Freiheit” entwickelt. In seinem Essay „Civilization” von 1836 bot er eine bemerkenswert direkte Analyse der Beziehung zwischen der Ausweitung der Massenkommunikation und der Degradierung des öffentlichen Verstandes. Der Essay stellt fest, dass die Instrumente zur Meinungsbildung und -verbreitung, wenn sie mächtiger werden, nicht – wie Optimisten erwarteten – die Qualität des öffentlichen Diskurses heben. Sie tendieren vielmehr dazu, ihn anzugleichen. Das Wachstum der Leserschaft und die Verbreitung billiger Druckerzeugnisse produzieren keine urteilsfähigere Bürgerschaft; sie produzieren eine Bürgerschaft, die gründlicher von einem engeren Spektrum von Ideen durchdrungen ist. „Der Einzelne geht so sehr in der Masse unter”, schreibt Mill, „dass er, obwohl er immer mehr von der Meinung abhängt, dazu neigt, immer weniger an irgendeiner wohlbegründeten Meinung zu hängen – immer weniger eigentlich eigene Meinungen zu haben.”[^19] Das Problem ist nicht Unwissen. Es ist eine spezifische Form epistemischer Abhängigkeit, in der Bürger von mehr Informationen denn je umgeben sind, aber weniger echtes Verständnis besitzen – weil die Bedingungen zur Bildung unabhängiger Urteile durch eben jene Institutionen untergraben wurden, die ihnen fertige Schlussfolgerungen liefern.
Mill stand in dieser Zeit auch in direktem Briefwechsel mit Tocqueville, und ihr Austausch zeigt, wie eng die beiden Denker dieselbe Sorge von unterschiedlichen nationalen Blickwinkeln aus verfolgten. In einem Brief von 1840 als Antwort auf den zweiten Band von „Über die Demokratie in Amerika” schrieb Mill an Tocqueville, dass die große Gefahr der modernen Zeit nicht die politische Tyrannei sei, sondern die Erosion des unabhängigen Denkens unter Bedingungen, wo die Instrumente der Meinungsbildung überwältigend mächtig geworden seien.[^20] Der Brief bestätigt, was die veröffentlichten Werke nahelegen: Mill verstand sich als Teil eines gemeinsamen intellektuellen Projekts mit Tocqueville – des Projekts, eine Machtform zu theoretisieren, die nicht durch Zwang operierte, sondern durch die strukturelle Transformation der Bedingungen, unter denen Bürger denken.
„Über die Freiheit”, zwei Jahrzehnte nach „Civilization” veröffentlicht, stellt die reife und systematische Darstellung dieser Sorge dar. Kapitel 2 entwickelt eine Reihe von Argumenten für die Gedanken- und Diskussionsfreiheit, die typischerweise als Variationen eines einzigen Themas zusammengefasst werden: Der Wahrheit dient am besten die offene Debatte.[^21] Aber diese Zusammenfassung nivelliert, was tatsächlich ein sorgfältig sequenziertes Argument über die Bedingungen ist, unter denen eine Gemeinschaft ihre epistemische Gesundheit erhält. Mills zentrale Einsicht ist, dass selbst wahre Überzeugungen verfallen, wenn sie nicht regelmäßig gegen ernsthafte Herausforderungen getestet werden. Eine Überzeugung, die ohne Verständnis der Gründe gehalten wird, auf denen sie beruht, wird zu dem, was Mill „totes Dogma” nennt – mechanisch wiederholt, schlecht verstanden und unfähig, Handeln unter neuen Umständen zu leiten.[^22] „Sowohl Lehrer als auch Lernende schlafen auf ihrem Posten ein”, warnt er, „sobald kein Feind mehr im Feld steht.”[^23] Die Sorge gilt hier nicht dem zum Schweigen gebrachten Individuum, sondern der Beziehung der Gemeinschaft zu ihren eigenen Überzeugungen. Eine Gesellschaft, in der wahre Überzeugungen als totes Dogma zirkulieren, hat die Fähigkeit verloren zu verstehen, warum sie glaubt, was sie glaubt.
Mill erweitert dieses Argument in eine Richtung, die nicht ausreichend gewürdigt wurde. Abweichende Meinungen, sogar irrige, erfüllen eine gleichsam ökologische Funktion: Sie bewahren Perspektiven, Rahmungen und partielle Einsichten, die die herrschende Sicht unvollständig oder gar nicht absorbiert hat. Wenn sie eliminiert werden, verliert die Gemeinschaft nicht einfach eine falsche Meinung. Sie verliert den korrigierenden Druck, den die falsche Meinung auf die richtige ausübte – die Reibung, die die vorherrschende Sicht ehrlich, präzise und empfänglich für ihre eigenen Begrenzungen hielt. Was Mill beschreibt, funktioniert weniger wie ein Marktplatz und mehr wie ein Ökosystem: eine komplexe Umgebung, in der die Gesundheit des Ganzen von einer Vielfalt von Elementen abhängt, einschließlich Elementen, die individuell mangelhaft sind. Wenn das Ökosystem degradiert wird – wenn abweichende Ansichten eliminiert oder der Bedingungen beraubt werden, unter denen sie überleben können – ist das Ergebnis nicht einfach der Verlust bestimmter Meinungen, sondern die schleichende Atrophie der kollektiven kognitiven Kapazität der Gesellschaft. Die Bedeutung der überlieferten Lehre „läuft Gefahr, verloren zu gehen oder geschwächt und ihrer vitalen Wirkung auf Charakter und Verhalten beraubt zu werden”.[^24]
Was sich aus diesen Argumenten ergibt, ist nicht primär eine Theorie individueller Rechte, sondern eine Theorie epistemischer Infrastruktur – eine Darstellung der strukturellen Bedingungen, die eine Gesellschaft aufrechterhalten muss, wenn sie ihre kollektive Fähigkeit zu fundiertem Urteil bewahren will. Zu diesen Bedingungen gehören mindestens: die aktive Zirkulation konkurrierender Deutungen; die regelmäßige Prüfung vorherrschender Überzeugungen gegen die stärksten verfügbaren Einwände; die Bewahrung dissidenter Perspektiven auch dann, wenn sie unbeliebt sind; und die Aufrechterhaltung institutioneller Räume, in denen intellektuelle Reibung nicht bloß geduldet, sondern aktiv gefördert wird.
Mill lokalisiert, wie Tocqueville, die primäre Gefahr nicht im staatlichen Handeln, sondern in strukturellen Bedingungen, die unterhalb der Schwelle jeder identifizierbaren Repressionstat wirken. Die „Tyrannei der vorherrschenden Meinung” benötigt keinen Zensor. Sie benötigt nur die Abwesenheit entgegenwirkenden Drucks – eine Abwesenheit, die ebenso wirksam durch die schiere Homogenität verfügbarer Meinungen erzeugt werden kann wie durch die bewusste Unterdrückung des Dissens. Was Mill fürchtet, ist nicht Verfolgung in ihren groben Formen, sondern das stille Verschwinden intellektueller Alternativen: nicht das Verbrennen von Büchern, sondern das Versäumnis, sie zu schreiben; nicht die Gefangennahme von Dissidenten, sondern die schleichende Erosion der gesellschaftlichen Bedingungen, unter denen Dissens eine lebendige Möglichkeit bleibt.
Diese Sorge war untrennbar von der materiellen Transformation der Presse, die Mill zu seinen Lebzeiten miterlebte. Die mittelviktorianische Zeit erlebte eine dramatische Konsolidierung des britischen Journalismus. Die Aufhebung der sogenannten „Steuern auf Wissen” – der Anzeigensteuer 1853, der Stempelsteuer 1855 und der Papiersteuer 1861 – war von Liberalen als Schlag für die geistige Freiheit gepriesen worden, der die Presse neuen Stimmen und breiterer Beteiligung öffnen würde.[^25] Das tatsächliche Ergebnis war ambivalenter. Billigere Produktionskosten ermöglichten den Aufstieg von Zeitungen mit Massenauflage, doch die Kapitalanforderungen für die Gründung und den Erhalt einer Publikation auf nationaler Ebene konzentrierten gleichzeitig das Eigentum in weniger Händen. Der 1855 gegründete Daily Telegraph wurde die erste britische Penny-Tageszeitung und erreichte eine Auflage, die ihre Vorgänger in den Schatten stellte; in den 1860er Jahren übten eine kleine Zahl großer Zeitungen einen Einfluss auf die öffentliche Meinung aus, der eine Generation früher unvorstellbar gewesen wäre.[^26] Mill nennt diese Entwicklungen in „Über die Freiheit” nicht beim Namen, doch der Essay „Civilization” hatte bereits den Mechanismus mit unbehaglicher Klarheit identifiziert: dieselben Technologien, die Meinungen weiter verbreiten, neigen auch dazu, sie zu homogenisieren, weil die Ökonomie der Massenkommunikation Reichweite über Tiefe oder Vielfalt der Perspektiven belohnt. Das Paradox – mehr Leser, weniger wirklich unabhängige Urteilsquellen – ist genau die strukturelle Bedingung, die die Argumente von „Über die Freiheit” zu adressieren suchen.
Zusammen gelesen theoretisieren Tocqueville und Mill dasselbe Phänomen aus komplementären Richtungen. Tocqueville verfolgt, wie demokratische Gleichheit eine unwiderstehliche Gravitationskraft hin zu kognitiver Uniformität erzeugt – den „ungeheuren Druck des Geistes aller auf die Intelligenz jedes Einzelnen”. Mill verfolgt, was verloren geht, wenn diese Uniformität ungehindert bleibt: nicht nur die Rechte individueller Dissidenten, sondern die epistemische Infrastruktur, von der die kollektive Intelligenz der Gemeinschaft abhängt. Tocqueville beschreibt die Kraft; Mill beschreibt den Schaden. Beide verstanden – mit einer Klarheit, die nicht angemessen erkannt worden ist –, dass Selbstregierung nicht nur die formale Freiheit zu sprechen und zu wählen erfordert, sondern die Aufrechterhaltung epistemischer Hintergrundbedingungen, die keine Rechtstheorie, so großzügig sie auch sei, zu garantieren vermag. Keiner von beiden besaß jedoch das begriffliche Vokabular, um diese Form von Macht präzise zu benennen. Der Konstruktion dieses Vokabulars wende ich mich nun zu.
Epistemische Herrschaft
Tocqueville und Mill suchten nach einem Begriff, den keiner von beiden ganz besaß. Beide erkannten eine Form der Macht, die auf die Bedingungen des Denkens einwirkt und nicht auf das Denken selbst – die nicht beeinflusst, zu welchen Schlüssen die Bürger gelangen, sondern die epistemische Umgebung formt, in der sie ihre Überlegungen anstellen. Beide begriffen, dass diese Macht für die Selbstregierung gefährlicher ist als offener Zwang, gerade weil sie schwerer zu durchschauen ist: Sie unterdrückt nicht bestimmte Meinungen, sondern verengt das Spektrum der Meinungen, die eine Gemeinschaft überhaupt zu bilden imstande ist. Beide beobachteten, dass diese Macht durch die materielle Infrastruktur verstärkt wird, über die Meinungen produziert und verbreitet werden, und dass sie von dieser in wichtigen Aspekten untrennbar ist. Doch keiner entwickelte ein präzises begriffliches Vokabular, um sie zu benennen. Tocqueville näherte sich ihr durch Metaphern – den „respektgebietenden Kreis um das Denken”, den „ungeheuren Druck des Geistes aller auf die Intelligenz jedes Einzelnen”. Mill theoretisierte ihre Folgen – tote Dogmen, intellektuelle Verkümmerung, der Schlummer der feststehenden Meinung –, ohne sie als eigene Kategorie von Macht zu isolieren. Der Begriff, den ich hier vorschlage, ist ein Versuch zu vollenden, was sie begonnen haben.
Ich nenne es epistemische Herrschaft – einen Begriff, den ich aus neueren Arbeiten zur postkolonialen und feministischen Epistemologie übernehme, wo er verwendet wird, um die Aufzwingung dominanter Wissenssysteme auf marginalisierte Gemeinschaften zu beschreiben.[^27] In jener Literatur bezeichnet epistemische Herrschaft den Prozess, durch den koloniale oder hegemoniale epistemische Rahmenwerke alternative Formen des Wissens verdrängen – was Bethwell Ogot als die Verweigerung intellektueller Handlungsmacht an kolonisierte Völker beschrieben hat und was Kristie Dotson und andere als strukturelle Form epistemischer Unterdrückung theoretisiert haben, die über die zwischenmenschlichen Unrechtsformen hinausgeht, die Fricker identifiziert hat.[^28] Ich behalte den Begriff bei, weil er etwas erfasst, was diese Gelehrten klarer erkannt haben als der Mainstream der politischen Theorie: dass die Kontrolle über die Bedingungen des Wissens eine eigenständige und irreduzible Form von Macht darstellt. Doch ich setze ihn in einem anderen Register ein. Während der postkoloniale Gebrauch die Verdrängung einer epistemischen Tradition durch eine andere ins Zentrum stellt – westliche über indigene, dominante über subalterne –, verwende ich den Begriff zur Bezeichnung eines strukturellen Zustands, in dem ein einzelner Akteur die Infrastruktur kontrolliert, über die eine ganze politische Gemeinschaft Informationen begegnet, bewertet und interpretiert, unabhängig davon, welche epistemische Tradition auf dem Spiel steht. Die Herrschaft, die ich beschreibe, ist nicht der Triumph einer Erkenntnisweise über eine andere. Sie ist die Konzentration der Kontrolle über die Bedingungen, unter denen alles Erkennen stattfindet.
Genauer: Epistemische Herrschaft, wie ich den Begriff hier verwende, bezeichnet die Fähigkeit eines Akteurs, willkürlich die epistemischen Bedingungen zu formen – die verfügbaren Informationen, die geltenden Rahmungen, das Spektrum der Interpretationen, die plausibel erscheinen, die Fragen, die als bedenkenswert behandelt werden –, unter denen eine politische Gemeinschaft ihre Überzeugungen, Präferenzen und Urteile bildet. Die Betonung der Fähigkeit ist bewusst gewählt. Wie Pettits republikanische Herrschaft ist epistemische Herrschaft ein struktureller Zustand, kein Ereignis. Sie liegt vor, wenn ein Akteur die Möglichkeit besitzt, die epistemische Umgebung nach Belieben umzugestalten, gleichgültig, ob diese Möglichkeit zu irgendeinem gegebenen Zeitpunkt ausgeübt wird oder nicht. Eine Gemeinschaft, die epistemischer Herrschaft unterworfen ist, mag in jedem besonderen Moment eine reiche und vielfältige Informationsumgebung genießen. Die Herrschaft besteht darin, dass dieser Zustand vom Willen eines anderen abhängt – dass der Akteur, der die epistemische Infrastruktur kontrolliert, wenn er wollte, den Informations-, Interpretations- und Rahmungsfluss verengen, verzerren oder umlenken könnte, von dem das Urteil der Gemeinschaft abhängt.
Die Betonung von willkürlich ist ebenso wichtig. Nicht jede Formung epistemischer Bedingungen stellt Herrschaft dar. Redakteure urteilen darüber, was sie veröffentlichen; Lehrer wählen Lehrpläne aus; Regierungen finanzieren manche Forschungsprogramme und andere nicht. Diese Aktivitäten formen die epistemische Umgebung, doch sie tun es unter Zwängen – professionelle Normen, institutionelle Rechenschaftspflicht, demokratische Autorisierung, Wettbewerbsdruck –, die die Willkür der Formung begrenzen. Epistemische Herrschaft liegt vor, wenn die Formung nicht angemessenen Zwängen dieser Art unterworfen ist: wenn der Akteur, der die epistemische Infrastruktur kontrolliert, der Gemeinschaft, deren epistemische Bedingungen er formt, nicht in bedeutungsvoller Weise rechenschaftspflichtig ist, und wenn kein institutioneller Mechanismus existiert, durch den jene Gemeinschaft die Formung bestreiten, kontrollieren oder umlenken kann.
Vier bestehende Forschungsfelder nähern sich dem Phänomen, das ich beschreibe. Jedes beleuchtet einen Aspekt davon, doch keines erfasst das Ganze.
Die postkoloniale und feministische Epistemologie-Literatur, der ich den Begriff entnehme, kommt der Erkenntnis epistemischer Herrschaft als struktureller Bedingung und nicht als zwischenmenschliches Unrecht am nächsten.[^29] Irfan Ahmad hat zu Recht die zeitliche Dimension epistemischer Herrschaft betont – die Art, wie herrschende Wissenssysteme bestimmte Vorstellungen von historischer Zeit und Fortschritt naturalisieren und alternative Zeitvorstellungen unverständlich machen.[^30] Diese strukturelle Ausrichtung ist für das Konzept, wie ich es hier entwickle, entscheidend. Aber der postkoloniale Sprachgebrauch beschäftigt sich primär mit Asymmetrien zwischen epistemischen Gemeinschaften – mit der Herrschaft einer Wissenstradition über eine andere. Die Form epistemischer Herrschaft, die ich identifiziere, wirkt innerhalb einer einzigen politischen Gemeinschaft und betrifft alle ihre Mitglieder, einschließlich derer, deren epistemische Traditionen dominant sind. Wenn eine Handvoll Konzerne die Infrastruktur kontrolliert, über die Informationen wahrgenommen und interpretiert werden, ist die resultierende Herrschaft keine Frage davon, welche kulturelle Tradition sich durchsetzt. Sie ist eine Frage davon, wer die Rahmenbedingungen kontrolliert, vor deren Hintergrund alle Traditionen – dominante wie marginalisierte gleichermaßen – operieren müssen.
Das zweite verwandte Konzept ist Philip Pettits republikanisches Konzept von Herrschaft als willkürliche Einmischung.[^31] Pettits Ansatz hat die richtige strukturelle Form: Herrschaft ist ein Zustand der Verwundbarkeit gegenüber willkürlicher Macht, kein einzelner Akt der Unterdrückung, und sie kann auch dann bestehen, wenn die herrschende Partei wohlwollend ist. Doch Pettits Rahmenwerk ist auf Einmischung ausgerichtet – auf Handlungen, die die verfügbaren Wahlmöglichkeiten des beherrschten Akteurs beschränken. Epistemische Herrschaft schränkt nicht primär Wahlmöglichkeiten ein. Sie formt die Bedingungen, unter denen Wahlmöglichkeiten überhaupt konzipiert werden. Ein Bürger, der epistemischer Herrschaft unterliegt, mag keinerlei Einmischung im Pettitschen Sinne erfahren: Niemand beschränkt seine Optionen, bestraft seine Entscheidungen oder nötigt sein Verhalten. Was geformt wird, ist vielmehr die informationelle und interpretative Umgebung, innerhalb derer er seine Optionen identifiziert, ihre Bedeutung versteht und seine Präferenzen zwischen ihnen entwickelt. Das ist eine Form von Macht, die vor dem Bereich wirkt, in dem Pettits Herrschaft ihre Arbeit verrichtet – nicht am Punkt der Entscheidung, sondern an dem Punkt, wo die Materialien für die Entscheidung zusammengetragen werden.[^32]
Das dritte verwandte Konzept ist Miranda Frickers epistemic injustice (Epistemische Ungerechtigkeit), die zwei Formen des Unrechts identifiziert, das Individuen in ihrer Eigenschaft als Erkennende widerfährt: testimoniale Ungerechtigkeit, bei der die Glaubwürdigkeit eines Sprechers aufgrund von Vorurteilen unfair herabgesetzt wird, und hermeneutische Ungerechtigkeit, bei der eine Lücke in den kollektiven interpretativen Ressourcen jemanden daran hindert, die eigene Erfahrung zu verstehen.[^33] Frickers Rahmenwerk ist aufschlussreich, insbesondere ihre Erkenntnis, dass epistemische Ungerechtigkeiten strukturell und nicht nur zwischenmenschlich sein können. Doch ihr Ansatz ist auf Ungerechtigkeiten ausgerichtet, die bestimmte Erkennende erleiden – Individuen oder Gruppen, die in spezifischen epistemischen Transaktionen benachteiligt sind. Epistemische Herrschaft hingegen ist ein Zustand, der die gesamte Gemeinschaft betrifft, einschließlich derer, die kurzfristig davon profitieren. Die Herrschaft ist keine Frage dessen, wem geglaubt wird oder wessen Erfahrung artikuliert werden kann. Sie ist eine Frage dessen, wer die Hintergrundbedingungen kontrolliert, vor denen alles Glauben und Artikulieren stattfindet.
Das vierte verwandte Konzept ist die marxistische und gramscianische Tradition ideologischer Herrschaft – die Behauptung, dass herrschende Klassen ihre Macht teilweise dadurch aufrechterhalten, dass sie die Überzeugungen, Werte und interpretativen Rahmenwerke untergeordneter Klassen formen.[^34] Diese Tradition erfasst etwas Wesentliches: dass Macht durch die Konstituierung des Selbstverständlichen wirken kann, nicht nur durch Gewalt oder institutionelle Autorität. Doch ideologische Herrschaft setzt in ihren klassischen wie gramscianischen Ausprägungen einen relativ kohärenten ideologischen Gehalt voraus – eine Reihe von Überzeugungen oder Werten, die den Interessen der herrschenden Klasse dienen und bewusst oder durch strukturelle Mechanismen an die Beherrschten weitergegeben werden. Epistemische Herrschaft muss nicht durch die Auferlegung einer bestimmten Ideologie wirken. Sie kann durch Fragmentierung ebenso leicht wirken wie durch falsches Bewusstsein – durch die Produktion von Verwirrung, die Erosion geteilter epistemischer Standards, die Überflutung der Informationsumgebung mit Lärm oder die algorithmische Verstärkung von Engagement über Genauigkeit hinweg. Ein Akteur, der die epistemischen Bedingungen einer Gemeinschaft beherrscht, muss diese Gemeinschaft nicht von etwas Bestimmtem überzeugen. Es genügt, die Infrastruktur zu kontrollieren, durch die Überzeugung, Untersuchung und Interpretation stattfinden.
Das Konzept epistemischer Herrschaft nimmt somit eine charakteristische Position in der theoretischen Landschaft ein. Was Tocqueville als Verengung des „denkbaren Denkens” beschrieb und Mill als Atrophie der gesellschaftlichen Fähigkeit zu unabhängigem Urteil theoretisierte, ist, so schlage ich vor, am besten als Problem der Herrschaft zu verstehen – als willkürliche, rechenschaftslose Kontrolle über die epistemischen Bedingungen, von denen Selbstregierung abhängt.
Ein Merkmal dieses Konzepts verdient besondere Betonung. Epistemische Herrschaft stellt eine Bedrohung demokratischer Selbstregierung dar, die in einem entscheidenden Sinne den Sorgen vorgelagert ist, die den größten Teil der Demokratietheorie beschäftigen. Theorien deliberativer Demokratie setzen Bürger voraus, die zur Deliberation mit Überzeugungen, Präferenzen und Deutungsrahmen gelangen, die in einem sinnvollen Sinne ihre eigenen sind.[^35] Theorien aggregativer Demokratie setzen voraus, dass die durch Wahlen zum Ausdruck gebrachten Präferenzen die authentischen Urteile der Wähler widerspiegeln.[^36] Repräsentationstheorien setzen voraus, dass Bürger imstande sind, die Leistung ihrer Repräsentanten an einem selbst entwickelten Maßstab zu messen.[^37] Epistemische Herrschaft bedroht jede dieser Voraussetzungen an ihrer Wurzel. Wenn die Bedingungen, unter denen Bürger ihre Überzeugungen, Präferenzen und Deutungsrahmen bilden, selbst der willkürlichen Kontrolle eines nicht rechenschaftspflichtigen Akteurs unterworfen sind, dann sind die Ergebnisse von Deliberation, Aggregation und Repräsentation an ihrer Quelle kompromittiert – nicht weil irgendein bestimmtes Stadium des demokratischen Prozesses korrumpiert worden wäre, sondern weil die epistemischen Inputs, von denen jedes Stadium abhängt, von einer Macht geformt wurden, die weder demokratisch autorisiert noch demokratisch rechenschaftspflichtig ist. In diesem Sinne hat die Demokratietheorie mit einer unvollständigen Darstellung dessen operiert, was Selbstregierung erfordert: Sie hat den Verfahren, durch die kollektive Entscheidungen getroffen werden, sorgfältige Aufmerksamkeit geschenkt, während sie die epistemischen Bedingungen, die diese Verfahren bedeutsam machen, weitgehend als gegeben hingenommen hat.
Die gegenwärtige Verwirklichung
Jede Kommunikationsrevolution erzeugt neue Möglichkeiten epistemischer Herrschaft – und neues theoretisches Vokabular zu ihrem Verständnis. Tocqueville schrieb im Schatten der Massenpresse; Mill beobachtete, wie die Konsolidierung des viktorianischen Journalismus die Meinungsbildung in weniger Händen konzentrierte. Jeder identifizierte eine strukturelle Bedrohung der epistemischen Bedingungen von Selbstregierung, die das theoretische Vokabular der vorherigen Generation nicht zu benennen vermochte. Wir leben durch einen analogen Moment, obgleich sich die im Gang befindliche Transformation von ihren Vorgängern nicht bloß im Ausmaß, sondern in der Art unterscheidet.
Der Unterschied lässt sich präzise formulieren. Die Massenpresse, der sich Tocqueville und Mill gegenübersahen, war eine Technologie der Verbreitung. Sie bestimmte, welche Meinungen, Deutungen und Framings ein breites Publikum erreichten, und sie konzentrierte diese Bestimmung in einer relativ kleinen Anzahl von Redakteuren und Verlegern. Aber sie operierte mit fertigen epistemischen Produkten – Artikeln, Leitartikeln, Argumenten –, die von identifizierbaren Autoren verfasst, professionellen Normen unterworfen und öffentlicher Prüfung zugänglich waren. Die epistemische Umgebung wurde geformt, aber die Mechanismen der Formung waren lesbar.
Die von gegenwärtigen Technologieunternehmen kontrollierte Infrastruktur operiert auf einer anderen Ebene. Unternehmen wie Google und Meta verbreiten nicht bloß fertige epistemische Produkte an ein Massenpublikum. Durch das Design von Suchalgorithmen, Empfehlungssystemen und Mechanismen der Inhaltskuration formen sie die Bedingungen epistemischer Begegnung selbst: den Prozess, durch den Individuen dazu kommen, mit Informationen konfrontiert zu werden, die Kriterien, durch die manche Behauptungen als wichtig und andere als unsichtbar dargestellt werden, und die Framings, innerhalb derer neue Ereignisse gedeutet werden. Die Unterscheidung ist wichtig, weil sie den Unterschied zwischen der Kontrolle eines Kanals und der Kontrolle einer Umgebung markiert. Ein Zeitungsredakteur entscheidet, was gedruckt wird. Ein Suchalgorithmus bestimmt, was zu finden möglich ist. Ein Empfehlungssystem formt nicht bloß, welchen Meinungen ein Bürger begegnet, sondern die Sequenz, den Kontext und die affektive Rahmung, in der er ihnen begegnet – Bedingungen, die, wie die Kognitionswissenschaft gezeigt hat, für das Urteil mindestens ebenso folgenreich sind wie der propositionale Gehalt der Meinungen selbst.[^38]
Shoshana Zuboffs einflussreiche Darstellung des »Überwachungskapitalismus« erfasst wichtige Dimensionen dieser Transformation, insbesondere die Extraktion von Verhaltensdaten und ihren Einsatz für Zwecke der Vorhersage und Modifikation.[^39] Aber Zuboffs Rahmenwerk ist auf die ökonomische Logik der Datenextraktion und die Bedrohungen ausgerichtet, die sie für die individuelle Autonomie darstellt. Es theoretisiert nicht die spezifisch politische Dimension des Problems – die Art, wie Unternehmenskontrolle über epistemische Infrastruktur die Bedingungen demokratischer Selbstregierung als solche untergräbt. Das Konzept epistemischer Herrschaft benennt eine politische Bedingung, nicht bloß eine ökonomische Praxis.
Drei Merkmale dieser Infrastruktur machen sie zu einem qualitativ neuen Ort epistemischer Herrschaft, anstatt einfach das jüngste Kapitel in der vertrauten Geschichte von Medienkonzentration zu sein.
Das erste ist die Intransparenz. Die redaktionellen Entscheidungen eines Zeitungsverlegers lassen sich, zumindest im Prinzip, nachvollziehen. Man kann die Zeitung lesen, sie mit Konkurrenzblättern vergleichen und sich ein recht genaues Bild davon machen, wie der Verleger die epistemische Umgebung prägt. Die algorithmischen Systeme, die Suchergebnisse kuratieren und Nachrichtenfeeds bestücken, lassen sich nicht auf diese Weise nachvollziehen. Sie sind proprietär, komplex über die Interpretationskapazität einzelner Nutzer hinaus und oft sogar jenseits des vollständigen Verständnisses der Ingenieure, die sie entworfen haben.[^40] Bürger, die dieser Form epistemischer Prägung unterworfen sind, können selbst im Prinzip nicht die Mechanismen identifizieren, durch die ihre Informationsumgebung konstituiert wurde. Der um das Denken gezogene Kreis bleibt denen unsichtbar, die sich in seinem Inneren befinden. Diese Intransparenz macht epistemische Herrschaft nicht nur schwerer abzuwehren; sie macht sie schwerer wahrzunehmen. Unter den Bedingungen, die Tocqueville beschrieb, konnten Bürger wenigstens den gesellschaftlichen Konformitätsdruck erkennen, auch wenn ihnen die Mittel fehlten, ihm zu widerstehen. Unter den Bedingungen algorithmischer Intransparenz präsentiert sich die Prägung der epistemischen Umgebung nicht als Druck, sondern als natürliche Ordnung verfügbarer Information – als schlicht das, was es zu wissen gibt.
Das zweite ist die Personalisierung. Massenmedien haben trotz ihrer konzentrierenden Wirkung wenigstens eine gemeinsame epistemische Umgebung geschaffen. Bürger, die dieselbe Zeitung lasen, bewohnten eine geteilte Informationswelt, auch wenn diese Welt partiell und kuratiert war. Diese Gemeinsamkeit hatte einen paradoxen Nutzen: Gerade weil die Verzerrung geteilt war, ließ sie sich im Prinzip erkennen. Algorithmische Systeme beseitigen diese Möglichkeit, indem sie individualisierte epistemische Umgebungen schaffen – Nachrichtenfeeds, Suchergebnisse und Empfehlungsströme, zugeschnitten auf die vermuteten Präferenzen und Verhaltensprofile jedes einzelnen Nutzers. Das Ergebnis ist nicht ein einzelner »respektgebietender Kreis um das Denken«, sondern Millionen individuell gezogener Kreise, jeder von derselben Infrastruktur geprägt, doch unterschiedliche Informationswelten umschließend.[^41] Mills Befürchtung, das Verschwinden intellektueller Reibung würde lebendige Wahrheit zu totem Dogma reduzieren, findet ihre effizienteste Verwirklichung in Empfehlungssystemen, die Engagement maximieren, indem sie Nutzern zunehmend verfeinerte Variationen dessen präsentieren, was sie bereits glauben – Präzisionsinstrumente zur Erzeugung des »tiefen Schlummers einer entschiedenen Meinung«.
Das dritte ist die Generativität, und sie markiert die schärfste Diskontinuität – nicht nur mit der Presse, der Tocqueville und Mill gegenüberstanden, sondern auch mit den Social-Media-Plattformen und Suchmaschinen, die die Diskussion über Technologie und Demokratie im vergangenen Jahrzehnt beherrscht haben. Frühere Konzentrationen kommunikativer Macht, einschließlich der plattformbasierten Konzentrationen, die derzeit Wissenschaftler und Regulierer beschäftigen, operieren mit von Menschen produzierten Inhalten. Sie kuratieren, verstärken oder unterdrücken, aber das zugrundeliegende epistemische Material wird von identifizierbaren menschlichen Akteuren mit eigenen Absichten und Bindungen verfasst. Große Sprachmodelle und generative KI-Systeme führen ein genuines Novum ein: die Kapazität, plausible Texte, Argumente und Interpretationen im großen Stil zu produzieren, ohne identifizierbaren Autor und ohne die Beschränkungen – Verantwortlichkeit, Reputation, professionelle Normen –, die historisch als Kontrollen für die Produktion öffentlicher Rede gewirkt haben.[^42]
Dieser letzte Punkt verdient besondere Betonung, weil er die entstehende Form epistemischer Herrschaft von derjenigen unterscheidet, die bisher die meiste kritische Aufmerksamkeit auf sich gezogen hat. Die epistemische Herrschaft, die über Suchmaschinen und Social-Media-Plattformen ausgeübt wird, ist primär eine Herrschaft der Auswahl: Sie bestimmt, welche von Menschen produzierten Behauptungen, Argumente und Rahmungen welchen Publikums sichtbar oder unsichtbar gemacht werden. Das ist eine ernsthafte Form von Macht, und die Analyse von Intransparenz und Personalisierung trifft voll auf sie zu. Aber sie bleibt parasitär von einem Substrat menschlicher epistemischer Produktion abhängig. Die Form epistemischer Herrschaft, die generative KI ermöglicht, ist qualitativ anders. Es ist eine Herrschaft nicht nur der Auswahl, sondern der Produktion – die Kapazität, plausibles epistemisches Material in einem Umfang und mit einer Geschwindigkeit zu erzeugen, die den öffentlichen Diskurs überfluten, die Textur genuiner Argumentation simulieren und die Unterscheidung zwischen Untersuchung und Fabrikation erodieren kann. Ein Unternehmen, das sowohl die Generierung als auch die Kuration des epistemischen Materials kontrolliert, auf das eine politische Gemeinschaft angewiesen ist, prägt nicht nur, welchen existierenden Meinungen Bürger begegnen. Es prägt, was es zu begegnen gibt.
Die bestehenden regulatorischen und theoretischen Rahmen werden diesem Phänomen nicht gerecht. Das Kartellrecht befasst sich mit Marktkonzentration, und jüngste Vorschläge, es auf Technologieunternehmen anzuwenden, haben erheblich an Zugkraft gewonnen.[^43] Doch das Kartellrecht hat kein Vokabular für epistemische Konzentration. Seine Instrumente – die Zerschlagung marktbeherrschender Unternehmen, die Verhinderung wettbewerbsschädigender Fusionen, die Auferlegung von Interoperabilitätsanforderungen – zielen auf die Marktstruktur ab. Ein Technologiekonzern kann in kleinere Einheiten aufgeteilt werden, die kollektiv dieselbe epistemische Herrschaft ausüben, weil diese Herrschaft nicht aus dem Marktanteil als solchem resultiert, sondern aus der Kontrolle über die epistemische Infrastruktur, durch die sich die Bürger ihre Urteile bilden.
Rechtsbasierte Ansätze schneiden nicht besser ab. Die liberale Rechtstradition bietet mächtigen Schutz gegen identifizierbare Akte der Einmischung in die individuelle Meinungsäußerung – Zensur, Vorzensur, Strafen für Meinungsäußerungen. Doch epistemische Herrschaft greift nicht in die Meinungsäußerung ein. Sie formt die Hintergrundbedingungen, vor denen Meinungsäußerung stattfindet. Ein Bürger, dessen epistemische Umgebung durch algorithmische Kuration und generative KI konstituiert wurde, hat keine Verletzung seiner Rechte im herkömmlichen Sinne erlitten. Er wurde nicht zum Schweigen gebracht, zensiert oder unter Zwang gesetzt. Er wurde Bedingungen unterworfen, die seine Fähigkeit zu unabhängigem Urteil beeinträchtigen, ohne dass irgendeines seiner formal anerkannten Rechte berührt wurde.[^44]
Plattformregulierung – der sich am schnellsten entwickelnde Bereich politischer Antworten – behandelt Technologiekonzerne als Medienunternehmen: als Verleger oder Verbreiter von Inhalten, die Verpflichtungen bezüglich Genauigkeit, Fairness oder Transparenz unterliegen.[^45] Diese Sichtweise erfasst etwas Reales. Doch die Macht von KI-Konzernen der vertrauten Kategorie der Medienmacht zu assimilieren, verkennt die tiefere strukturelle Transformation. Ein Medienunternehmen operiert innerhalb einer epistemischen Umgebung, die es nicht geschaffen hat und nicht vollständig kontrolliert. Ein Konzern, der die Suchalgorithmen entwirft, die Informationsströme kuratiert und die generativen Modelle einsetzt, durch die die Bürger der Welt begegnen, operiert nicht innerhalb der epistemischen Umgebung. Er konstituiert diese Umgebung.
Was Tocqueville als emergente Folge demokratischer Gleichheit beschrieb und Mill als strukturellen Verfall des geistigen Lebens unter Bedingungen der Homogenität theoretisierte, ist im Raum von zwei Jahrzehnten zum geplanten Produkt privat kontrollierter Infrastruktur geworden. Die epistemischen Bedingungen der Selbstregierung – die Vielfalt verfügbarer Interpretationen, die Reibung zwischen konkurrierenden Perspektiven, die Fähigkeit der Bürger, sich Urteile auf der Grundlage einer Informationsumgebung zu bilden, die sie prüfen und bestreiten können – hängen nun von den Entscheidungen einer bemerkenswert kleinen Zahl korporativer Akteure ab, die weder demokratisch autorisiert noch demokratisch rechenschaftspflichtig sind. Das ist epistemische Herrschaft in ihrer vollständigsten zeitgenössischen Form. Die Frage, die sie an die Demokratietheorie stellt, ist nicht, wie man eine neue Art von Medienunternehmen reguliert, sondern wie man sicherstellt, dass die epistemischen Bedingungen, von denen Selbstregierung abhängt, nicht der willkürlichen Entscheidung irgendeines Akteurs – öffentlich oder privat – unterworfen sind.
Fazit
Ich habe argumentiert, dass die Demokratietheorie mit einer unvollständigen Darstellung dessen operiert, was Selbstregierung erfordert. Die Tradition hat sorgfältig auf die Verfahren geachtet, durch die kollektive Entscheidungen getroffen werden – auf die Gestaltung deliberativer Institutionen, die Aggregation von Präferenzen, die Autorisierung von Repräsentanten –, während sie die epistemischen Bedingungen, die diese Verfahren bedeutsam machen, weitgehend als selbstverständlich hingenommen hat. Tocqueville und Mill verstanden klarer, als wir allgemein erkannt haben, dass diese Bedingungen weder natürlich noch selbsterhaltend sind. Beide theoretisierten eine Form von Macht, die nicht darauf wirkt, was Bürgern zu denken gestattet ist, sondern darauf, was sie zu denken imstande sind – eine Macht, die das Spektrum verfügbarer Interpretationen verengt, die Reibung untergräbt, von der solides kollektives Urteil abhängt, und dies tut, ohne die Kategorien von Zwang, Zensur oder Rechtsverletzung zu berühren, durch die politische Theorie traditionell Bedrohungen der Freiheit identifiziert hat.
Das Konzept der epistemischen Herrschaft ist ein Versuch, dieser Form von Macht einen präzisen Namen und einen präzisen Ort in unserem theoretischen Vokabular zu geben. Es ist nicht reduzierbar auf republikanische Herrschaft, epistemische Ungerechtigkeit, ideologische Hegemonie oder die postkoloniale Kritik dominanter Wissenssysteme, obwohl es aus jedem schöpft und von jedem lernt. Es identifiziert eine strukturelle Bedingung – die willkürliche, nicht rechenschaftspflichtige Kontrolle der epistemischen Infrastruktur, von der eine politische Gemeinschaft abhängt –, die den prozeduralen Fragen, die die meiste Demokratietheorie beschäftigt haben, vorausgeht und fundamentaler ist als diese. Wenn die epistemischen Inputs des demokratischen Lebens selbst der Herrschaft unterworfen sind, dann kann keine prozedurale Reform, wie gut durchdacht auch immer, ausreichen, um Selbstregierung zu sichern.
Dieser Aufsatz war bewusst eher diagnostisch als präskriptiv angelegt. Die Entwicklung institutioneller Antworten auf epistemische Herrschaft – Antworten, die das sichern könnten, was man epistemische Nicht-Herrschaft als Bedingung demokratischen Lebens nennen könnte – ist eine Aufgabe, die den Rahmen eines einzelnen Artikels übersteigt.[^46] Doch die Grundzüge solcher Antworten lassen sich zumindest andeuten. Sie müssten sich nicht bloß mit den Inhalten befassen, die innerhalb der epistemischen Umgebung zirkulieren, sondern mit der Kontrolle der Infrastruktur selbst. Sie müssten sicherstellen, dass kein einzelner Akteur – öffentlich oder privat – die willkürliche Macht besitzt, die Bedingungen umzuformen, unter denen Bürger ihre Urteile bilden. Sie müssten, kurz gesagt, die demokratische Forderung nach Nicht-Herrschaft vom Bereich politischer Entscheidungsfindung, wo sie längst anerkannt ist, auf den Bereich epistemischer Bedingungen ausdehnen, wo sie es nicht ist. Was Tocqueville und Mill verstanden und woran wir uns nur langsam wieder erinnern: Die größten Bedrohungen der Selbstregierung bleiben oft unsichtbar, gerade weil sie auf die Bedingungen des Denkens selbst einwirken.
[^1]: Für einen Überblick über diese Wende siehe [PT corporations piece, Vol. 53, Issue 4 — Zitation wird vervollständigt].
[^2]: Elizabeth Anderson, Private Government: How Employers Rule Our Lives (and Why We Don’t Talk about It) (Princeton: Princeton University Press, 2017).
[^3]: Isabelle Ferreras, Firms as Political Entities: Saving Democracy through Economic Bicameralism (Cambridge: Cambridge University Press, 2017).
[^4]: David Ciepley, „Beyond Public and Private: Toward a Political Theory of the Corporation,” American Political Science Review 107, no. 1 (2013): 139–58.
[^5]: Diese Lesart ist prominent in der Verfassungstheorie und im föderalistischen politischen Denken. Siehe etwa die Bezugnahmen auf Tocqueville in Diskussionen über kontramajoritäre Institutionen in Alexander M. Bickel, The Least Dangerous Branch: The Supreme Court at the Bar of Politics (New Haven: Yale University Press, 1962).
[^6]: Für repräsentative Versionen dieser Lesart siehe Jon Elster, Alexis de Tocqueville: The First Social Scientist (Cambridge: Cambridge University Press, 2009), 149–55; Larry Siedentop, Tocqueville (Oxford: Oxford University Press, 1994), 67–73.
[^7]: Alexis de Tocqueville, Über die Demokratie in Amerika, trans. Harvey C. Mansfield und Delba Winthrop (Chicago: University of Chicago Press, 2000), Band II, Teil 1. Alle nachfolgenden Zitate beziehen sich auf diese Ausgabe.
[^8]: Tocqueville, Über die Demokratie in Amerika, II.1.2, 409.
[^9]: Tocqueville, Über die Demokratie in Amerika, II.1.2, 409.
[^10]: Tocqueville, Über die Demokratie in Amerika, II.1.2, 409.
[^11]: Tocqueville, Über die Demokratie in Amerika, II.1.2, 410.
[^12]: Tocqueville, Über die Demokratie in Amerika, I.2.7, 244.
[^13]: Sheldon S. Wolin, Tocqueville Between Two Worlds: The Making of a Political and Theoretical Life (Princeton: Princeton University Press, 2001), besonders Kapitel 9–12.
[^14]: Tocqueville, Über die Demokratie in Amerika, II.1.2, 410.
[^15]: Tocqueville, Über die Demokratie in Amerika, II.1.2, 411.
[^16]: Tocqueville, Über die Demokratie in Amerika, II.4.6, 663.
[^17]: Zur Transformation der amerikanischen Presse in dieser Zeit siehe Paul Starr, The Creation of the Media: Political Origins of Modern Communications (New York: Basic Books, 2004), 125–52.
[^18]: Für eine repräsentative Behandlung siehe Frederick Schauer, Free Speech: A Philosophical Enquiry (Cambridge: Cambridge University Press, 1982), 15–34.
[^19]: John Stuart Mill, „Civilization,” in Essays on Politics and Culture, hg. von Gertrude Himmelfarb (Garden City, NY: Doubleday, 1962), 51. Der Essay wurde erstmals in der London and Westminster Review im April 1836 veröffentlicht.
[^20]: Mill an Tocqueville, 1840. Die Korrespondenz zwischen Mill und Tocqueville wird nützlich diskutiert in H. O. Pappé, „Mill and Tocqueville,” Journal of the History of Ideas 25, no. 2 (1964): 217–34. Die genaue Formulierung sollte gegen The Collected Works of John Stuart Mill, Vol. XIII, hg. von Francis E. Mineka und Dwight N. Lindley (Toronto: University of Toronto Press, 1963) überprüft werden.
[^21]: Das ist die übliche didaktische Zusammenfassung. Siehe etwa Jonathan Riley, Mill on Liberty (London: Routledge, 1998), Kapitel 3.
[^22]: John Stuart Mill, Über die Freiheit, hg. von Elizabeth Rapaport (Indianapolis: Hackett, 1978), 34. Alle nachfolgenden Zitate beziehen sich auf diese Ausgabe.
[^23]: Mill, Über die Freiheit, 38.
[^24]: Mill, Über die Freiheit, 39.
[^25]: Zu den „taxes on knowledge” und ihrer Aufhebung siehe Martin Hewitt, The Dawn of the Cheap Press in Victorian Britain: The End of the ‘Taxes on Knowledge,’ 1849–1869 (London: Bloomsbury, 2014).
[^26]: Aled Jones, Powers of the Press: Newspapers, Power and the Public in Nineteenth-Century England (Aldershot: Scolar Press, 1996), Kapitel 4–5; siehe auch Stefan Collini, Public Moralists: Political Thought and Intellectual Life in Britain, 1850–1930 (Oxford: Clarendon Press, 1991), Kapitel 1–2.
[^27]: Der Begriff taucht mit zunehmender Häufigkeit in der postkolonialen und feministischen Erkenntnistheorie auf. Siehe besonders Kristie Dotson, „Conceptualizing Epistemic Oppression,” Social Epistemology 28, no. 2 (2014): 115–38; Bethwell A. Ogot, „Rereading the History and Historiography of Epistemic Domination and Resistance in Africa,” African Studies Review 52, no. 1 (2009): 1–22; und Vrinda Vaditya, „Social Domination and Epistemic Marginalisation: Towards Methodology of the Oppressed,” Social Epistemology 32, no. 4 (2018): 272–85.
[^28]: Dotson, „Conceptualizing Epistemic Oppression,” 115–20; siehe auch Gaile Pohlhaus Jr., „Epistemic Oppression,” in The Oxford Handbook of Feminist Philosophy, hg. von Kim Q. Hall und Ásta (Oxford: Oxford University Press, 2021), der „epistemic domination” als den umfassenderen Begriff empfiehlt.
[^29]: Kiefer Roberts Harris, „Epistemic Domination,” Thought: A Journal of Philosophy 11, no. 1 (2022): 42–52, entwickelt das Konzept in einem breit feministischen erkenntnistheoretischen Rahmen, mit Aufmerksamkeit für die strukturellen Bedingungen, unter denen epistemische Handlungsfähigkeit beeinträchtigt wird.
[^30]: Irfan Ahmad, „The Time of Epistemic Domination,” ReOrient 6, no. 2 (2021): 171–97.
[^31]: Philip Pettit, Republicanism: A Theory of Freedom and Government (Oxford: Oxford University Press, 1997), besonders Kapitel 2–3; siehe auch Pettit, On the People’s Terms: A Republican Theory and Model of Democracy (Cambridge: Cambridge University Press, 2012).
[^32]: Die Begriffe „upstream” und „downstream” in Bezug auf Präferenzbildung lehnen sich an Cass Sunsteins Diskussion adaptiver Präferenzen in Free Markets and Social Justice (Oxford: Oxford University Press, 1997), 13–31 an, sind aber nicht mit dieser identisch.
[^33]: Miranda Fricker, Epistemic Injustice: Power and the Ethics of Knowing (Oxford: Oxford University Press, 2007).
[^34]: Antonio Gramsci, Selections from the Prison Notebooks, hg. und übers. von Quintin Hoare und Geoffrey Nowell Smith (New York: International Publishers, 1971), besonders 12–13, 52–55, 195–96. Für eine nützliche Übersicht über die Entwicklung des Hegemonie-Konzepts siehe Perry Anderson, „The Antinomies of Antonio Gramsci,” New Left Review 100 (1976): 5–78.
[^35]: Siehe etwa Jürgen Habermas, Faktizität und Geltung: Beiträge zur Diskurstheorie des Rechts und des demokratischen Rechtsstaats (Frankfurt am Main: Suhrkamp, 1992), 304–8.
[^36]: Siehe etwa William H. Riker, Liberalism Against Populism: A Confrontation Between the Theory of Democracy and the Theory of Social Choice (San Francisco: W. H. Freeman, 1982).
[^37]: Siehe etwa Hanna Pitkin, The Concept of Representation (Berkeley: University of California Press, 1967), besonders Kapitel 7–8.
[^38]: Zu den Auswirkungen von Framing, Sequenzierung und Kontext auf die Urteilsbildung bleibt die grundlegende Arbeit von Amos Tversky und Daniel Kahneman, „The Framing of Decisions and the Psychology of Choice,” Science 211, no. 4481 (1981): 453–58. Für eine neuere Behandlung algorithmischer Framing-Effekte siehe Cass R. Sunstein, „Algorithms, Correcting Biases,” Social Research 86, no. 2 (2019): 499–511.
[^39]: Shoshana Zuboff, Das Zeitalter des Überwachungskapitalismus (Frankfurt am Main: Campus, 2018). Zuboffs Analyse ist von unschätzbarem Wert für das Verständnis der ökonomischen Logik der Datenextraktion, doch ihre zentralen Kategorien – „Verhaltenssurplus”, „Vorhersageprodukte”, „instrumentäre Macht” – zielen eher auf die Kommodifizierung von Erfahrung ab als auf die politischen Bedingungen der Selbstregierung. Das Konzept der epistemischen Dominanz unterscheidet sich dadurch, dass es die Bedrohung nicht in dem verortet, was Unternehmen den Bürgern entziehen, sondern in dem, was sie den epistemischen Bedingungen aufzwingen, unter denen Bürger überhaupt urteilen und denken.
[^40]: Zur Undurchsichtigkeit algorithmischer Systeme als eigenständigem politischen Problem siehe Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (Cambridge, MA: Harvard University Press, 2015); und Jenna Burrell, „How the Machine ‚Thinks’: Understanding Opacity in Machine Learning Algorithms,” Big Data & Society 3, no. 1 (2016): 1–12.
[^41]: Die Fragmentierung geteilter epistemischer Umgebungen wird diskutiert in Eli Pariser, The Filter Bubble: What the Internet Is Hiding from You (New York: Penguin, 2011); für eine empirisch rigorosere Behandlung siehe Eytan Bakshy, Solomon Messing und Lila A. Adamic, „Exposure to Ideologically Diverse News and Opinion on Facebook,” Science 348, no. 6239 (2015): 1130–32.
[^42]: Zu den epistemischen Implikationen generativer KI siehe Regina Rini, „Deepfakes and the Epistemic Backstop,” Philosopher’s Imprint 20, no. 24 (2020): 1–16, zur Erosion testimonaler Normen durch synthetische Medien.
[^43]: Siehe Lina Khan, „Amazon’s Antitrust Paradox,” Yale Law Journal 126, no. 3 (2017): 710–805; und Tim Wu, The Curse of Bigness: Antitrust in the New Gilded Age (New York: Columbia Global Reports, 2018).
[^44]: Zu den Grenzen rechtsorientierter Rahmenwerke bei der Bewältigung struktureller epistemischer Bedingungen siehe K. Sabeel Rahman, „The New Utilities: Private Power, Social Infrastructure, and the Revival of the Public Utility Concept,” Cardozo Law Review 39, no. 5 (2018): 1621–89.
[^45]: Zur Plattformregulierung als Medienregulierung siehe Philip Napoli, „Social Media and the Public Interest: Governance of News Platforms in the Realm of Market Failures,” Telecommunications Policy 39, no. 9 (2015): 751–60. Der Digital Services Act der Europäischen Union (2022) stellt den ambitioniertesten Vorstoß in diese Richtung dar; siehe Verordnung (EU) 2022/2065.
[^46]: Das Konzept der epistemischen Nicht-Dominanz und seine institutionellen Implikationen entwickle ich in einem Begleittext, der sich derzeit in Vorbereitung befindet.
Die Dissertation meines Persuasion-Kollegen Francis Fukuyama befasste sich zwar mit internationalen Beziehungen. Doch er hat sich intensiv mit politischer Theorie auseinandergesetzt, seine Arbeit wurde von einem Politiktheoretiker mitbetreut – und seine einflussreichsten Bücher sind mindestens ebenso sehr Beiträge zur politischen Theorie wie zur vergleichenden Politikwissenschaft.
Der Grundgedanke der ursprünglichen Idee war sehr ähnlich: „Politische Theoretiker haben kürzlich begonnen, Konzerne als politiktheoretische Objekte ernst zu nehmen (dazu gibt es einen Artikel in Political Theory 53:4). Aber die KI-Unternehmen stellen etwas Beispielloses dar: Akteure, deren Produkte die epistemische Umwelt unmittelbar prägen, deren interne Führungsstrukturen die Grenzen des öffentlichen Diskurses bestimmen und deren Größenordnung ihnen quasi-souveräne Macht verleiht – die aber, wenn überhaupt, durch Rahmenkonzepte theoretisch erfasst werden (Kartellrecht, Regulierung, Rechte), die für einen grundlegend anderen Typ von Konzern entwickelt wurden. Der Aufsatz würde rekonstruieren, was Tocqueville, Mill und die Anti-Monopol-Tradition tatsächlich an konzentrierter Macht fürchteten, und argumentieren, dass diese Befürchtungen von KI-Konzernen präziser verwirklicht werden als von den Trusts und Monopolen, mit denen sich jene Denker tatsächlich konfrontierten. Der entscheidende Punkt: Das Besondere ist nicht die Marktkonzentration als solche, sondern die epistemische Dimension der Konzentration – diese Unternehmen prägen nicht nur, was Menschen kaufen können, sondern was sie wissen und denken können.”
Dieser Text wurde mit Hilfe von KI übersetzt und von Niya Krasteva redigiert.