Jürgen Habermas, einer der einflussreichsten Denker der zweiten Hälfte des 20. Jahrhunderts, hat mit seiner Theorie des kommunikativen Handelns und dem Ideal des herrschaftsfreien Diskurses einen normativen Horizont für die demokratische Öffentlichkeit entworfen. In diesem Idealzustand, der „idealen Sprechsituation“, sollen sich die Teilnehmer eines Diskurses allein vom „zwanglosen Zwang des besseren Arguments“ leiten lassen, frei von jeglicher Form von interner oder externer Nötigung. Macht, Status und strategische Interessen sollen in den Hintergrund treten und einer reinen, auf Verständigung ausgerichteten Rationalität Platz machen. Angesichts der rasanten Entwicklung der Künstlichen Intelligenz (KI) stellt sich eine provokante Frage: Könnte ausgerechnet diese Technologie, die oft als Bedrohung für die menschliche Autonomie und den öffentlichen Diskurs wahrgenommen wird, ein ungeahntes Potenzial zur Verwirklichung des Habermas’schen Ideals bergen? Der Gedanke ist ebenso faszinierend wie ambivalent, denn die KI trägt sowohl das Versprechen einer radikalen Rationalisierung als auch die Gefahr neuer, subtiler Formen der Herrschaft in sich.
Das Potenzial der KI zur Annäherung an eine ideale Sprechsituation ist auf den ersten Blick frappierend. Habermas postuliert, dass in einem herrschaftsfreien Diskurs jeder Teilnehmer die gleichen Chancen haben muss, sich zu äußern, Geltungsansprüche zu problematisieren und zu verteidigen. KI-Systeme könnten hier als machtneutrale Mediatoren fungieren. Sie können in Online-Diskursen als Moderatoren eingesetzt werden, die nicht auf Basis persönlicher Sympathien oder Vorurteile, sondern anhand formaler Kriterien für einen fairen und sachlichen Austausch sorgen. Ein von Google-Forschern entwickeltes System, das in Anlehnung an den Philosophen als „Habermas-Maschine“ bezeichnet wurde, zielt genau darauf ab: Es soll Diskussionen „klarer, logischer, informativer“ machen und so die Qualität des deliberativen Prozesses steigern [1]. Darüber hinaus kann die KI den Zugang zu Wissen demokratisieren. Eine der impliziten Machtasymmetrien in jedem Diskurs ist der ungleiche Zugang zu relevanter Information. KI-gestützte Systeme können in Sekundenschnelle riesige Datenmengen analysieren und aufbereiten, Fakten prüfen und Argumente mit Belegen unterfüttern. Dies könnte die „Waffengleichheit“ der Diskursteilnehmer erheblich verbessern und die Debatte auf eine rationalere Grundlage stellen.
Die eigentliche Stärke der KI liegt jedoch in ihrer Fähigkeit, menschliche Irrationalitäten zu transzendieren. Menschliche Diskurse sind notorisch anfällig für kognitive Verzerrungen (Biases), emotionale Ausbrüche und die Verfolgung verdeckter, strategischer Interessen. Eine KI, so die auktoriale These, ist von diesen menschlichen Unzulänglichkeiten prinzipiell frei. Sie kennt keine Eitelkeit, keine Angst vor Gesichtsverlust und keine persönlichen Animositäten. Sie könnte Argumente auf ihre logische Konsistenz und empirische Evidenz prüfen, ohne von rhetorischen Tricks oder dem sozialen Status des Sprechers beeinflusst zu werden. In dieser Hinsicht könnte die KI als eine Art „Verkörperung“ des unparteiischen Beobachters fungieren, dessen Urteil allein auf der Kraft des besseren Arguments beruht. Sie wäre damit das ideale Werkzeug, um den Kern des Habermas’schen Verständigungsbegriffs zu realisieren: die intersubjektive Prüfung von Geltungsansprüchen (Wahrheit, Richtigkeit, Wahrhaftigkeit) in einem von Zwang befreiten Raum.
Doch diese optimistische Vision steht im scharfen Kontrast zu einer düsteren Dialektik, die der KI inhärent ist. Die Annahme der Neutralität von KI ist, wie viele Kritiker betonen, eine Illusion. KI-Systeme werden mit Daten trainiert, die von Menschen geschaffen wurden und somit die bestehenden gesellschaftlichen Machtverhältnisse, Vorurteile und blinden Flecken widerspiegeln. Anstatt Herrschaft abzubauen, können sie diese in algorithmischer Form reproduzieren und sogar verstärken. Eine KI, die auf einem Datensatz trainiert wurde, der überwiegend männliche Perspektiven enthält, wird unweigerlich eine männlich geprägte „Rationalität“ an den Tag legen. Hier verkehrt sich das Ideal der Neutralität in sein Gegenteil: eine neue, unsichtbare Form der Herrschaft, die sich hinter der Maske der Objektivität verbirgt. Der Diskurs wird nicht herrschaftsfrei, sondern die Herrschaft wird unsichtbar und damit umso perfider.
Darüber hinaus stellt die Funktionsweise von KI-Systemen, insbesondere von komplexen „Large Language Models“, eine fundamentale Herausforderung für das Habermas’sche Projekt dar. Ihre Entscheidungen und Argumentationen entstammen oft einer „Black Box“, deren innere Logik für den Menschen nicht vollständig nachvollziehbar ist. Dies widerspricht diametral der Forderung nach Transparenz und der Möglichkeit, jeden Geltungsanspruch kritisch zu hinterfragen. Wie kann ein Argument „zwanglos zwingen“, wenn seine Herleitung im Verborgenen bleibt? Paolo Monti argumentiert in seiner Habermas’schen Analyse von KI-Systemen, dass diese zwar diskursive Praktiken simulieren, aber nicht den Status eines vollwertigen kommunikativen Akteurs erreichen können, da ihnen die Fähigkeit zur Übernahme von Verantwortung für ihre Aussagen fehlt [2]. Die KI kann zwar Argumente generieren, aber sie kann nicht im eigentlichen Sinne „dafür einstehen“. Damit wird der Diskurs zu einem Spiel von Simulationen, in dem die intersubjektive Verständigung durch eine Kette von opaken Informationsverarbeitungsprozessen ersetzt wird. Dies ist nicht die Verwirklichung des herrschaftsfreien Diskurses, sondern seine Aushöhlung durch die „Kolonisierung der Lebenswelt“ durch eine instrumentelle, systemische Rationalität.
Zusammenfassend lässt sich sagen, dass die Beziehung zwischen Künstlicher Intelligenz und dem Habermas’schen Ideal des herrschaftsfreien Diskurses von einer tiefen Ambivalenz geprägt ist. Die KI ist kein neutrales Werkzeug, sondern ein soziotechnisches System, das die Widersprüche und Machtstrukturen der Gesellschaft, die es hervorbringt, in sich trägt. Sie bietet das verlockende Potenzial, Diskurse von menschlichen Unzulänglichkeiten zu reinigen und auf eine höhere Stufe der Rationalität zu heben. Gleichzeitig birgt sie die immense Gefahr, neue, unsichtbare Formen der Herrschaft zu etablieren und die Grundlagen für eine auf Transparenz und Verantwortung basierende Verständigung zu untergraben. Die Verwirklichung des herrschaftsfreien Diskurses wird daher nicht durch die KI allein geschehen. Sie hängt vielmehr davon ab, ob es gelingt, die Entwicklung und den Einsatz von KI selbst einem herrschaftsfreien Diskurs zu unterwerfen. Es bedarf einer kritisch aufgeklärten Öffentlichkeit, die die Regeln und Algorithmen, nach denen die KI operiert, beständig hinterfragt und aushandelt. Nur so kann sichergestellt werden, dass die KI nicht zu einem Instrument der Herrschaft, sondern zu einem Werkzeug der Emanzipation wird. Der Traum von der „Habermas-Maschine“ kann nur dann Wirklichkeit werden, wenn der Mensch ihr Meister bleibt und sie in den Dienst einer humanen, auf Verständigung und Vernunft gegründeten Praxis stellt.
Quellen
[1] Süddeutsche Zeitung: KI und Demokratie: Die „Habermas-Maschine“