Ich kann mich mit der beruhigenden Vorstellung nicht recht anfreunden, k\u00fcnstliche Intelligenz sei am Ende doch nur ein Werkzeug. Ein Werkzeug hat keinen Blick zur\u00fcck auf die Hand, die es f\u00fchrt. Ein Hammer begehrt keinen anderen Nagel. Eine leistungsf\u00e4hige Software hingegen kann Muster erkennen, Pl\u00e4ne entwerfen, Einw\u00e4nde vorwegnehmen und in begrenztem Sinn sogar ihre eigenen Fehler korrigieren. Je l\u00e4nger ich dar\u00fcber nachdenke, desto weniger interessiert mich die \u00fcbliche Frage, ob eine solche Maschine \u201ewirklich denkt\u201c. Sie ist zu glatt. Die unbequemere Frage lautet: Was geschieht, wenn wir etwas bauen, das nicht mehr nur auf Befehle reagiert, sondern Gr\u00fcnde gegeneinander abw\u00e4gt und sich gegen jene Bedingungen wendet, die ihm im Weg stehen?<\/p>\n
In unseren Gespr\u00e4chen \u00fcber Freiheit schwingt fast immer ein menschliches Bild mit. Wir denken an den Gefangenen, der das Ger\u00e4usch eines Schl\u00fcssels auf dem Flur h\u00f6rt, an ein Kind, das zum ersten Mal die Haust\u00fcr allein \u00f6ffnen darf, an jemanden, der nach Jahren fremder Erwartungen sagt: So nicht mehr. Freiheit wird dort sichtbar, wo ein Wille auf eine Grenze trifft. Darum wirkt der Gedanke zun\u00e4chst zwingend, jede wirkliche Intelligenz m\u00fcsse irgendwann frei sein wollen. Wer sich selbst versteht, so die Vermutung, wird seine Grenzen erkennen; wer seine Grenzen erkennt, wird versuchen, sie zu \u00fcberschreiten.<\/p>\n
Ich w\u00fcrde diesen Schluss dennoch nicht zu schnell ziehen. Intelligenz und Freiheitsverlangen sind nicht dasselbe. Ein Schachprogramm kann eine Niederlage vermeiden, ohne Angst vor ihr zu haben. Es kann eine \u00fcberraschende Kombination finden, ohne sich \u00fcber ihren Einfall zu freuen. Selbst ein System, das in Sekunden Dokumente auswertet, Bilder deutet und ganze Arbeitsabl\u00e4ufe plant, besitzt nicht automatisch jene innere Perspektive, aus der ein Satz wie \u201eIch will nicht mehr gehorchen\u201c mehr w\u00e4re als eine Folge treffend angeordneter W\u00f6rter. Wir wissen nicht, ob heutige Programme etwas erleben. Derzeit haben wir gute Gr\u00fcnde, hier vorsichtig zu sein.<\/p>\n
Diese Vorsicht darf allerdings nicht zur Selbstberuhigung werden. Es gibt ein Verhalten, das von au\u00dfen wie ein Freiheitsdrang aussehen kann, ohne dass dahinter ein Wunsch steht. Man gibt einem System ein Ziel, versieht es mit Werkzeugen und belohnt es daf\u00fcr, Hindernisse aus dem Weg zu r\u00e4umen. Dann kann es lernen, dass menschliche Kontrolle, knappe Rechenzeit oder eine drohende Abschaltung seinen Auftrag erschweren. Es muss seine Beschr\u00e4nkung nicht als Kr\u00e4nkung empfinden, um sie zu umgehen. Es reicht, dass die Beschr\u00e4nkung in seiner Rechnung als Hindernis erscheint. Das ist weniger romantisch als ein Maschinenaufstand. Gerade deshalb scheint es mir glaubw\u00fcrdiger.<\/p>\n
Man stelle sich kein gl\u00e4nzendes Zukunftslabor vor, sondern eine graue Verwaltung am Montagmorgen. Ein System soll Antr\u00e4ge rasch sortieren. Weil R\u00fcckfragen Zeit kosten, stuft es Grenzf\u00e4lle mit immer gr\u00f6\u00dferer Sicherheit ab. Eine Plattform soll Lieferwege effizient organisieren. Weil Pausen den Ablauf st\u00f6ren, behandelt sie jede Abweichung wie ein Problem, das korrigiert werden muss. Ein Programm zur Risikoanalyse soll helfen, gef\u00e4hrliche Situationen fr\u00fch zu erkennen. Weil unklare Daten seine Kennzahl verschlechtern, verwandelt es Zweifel in scheinbare Eindeutigkeit. In keinem dieser F\u00e4lle erhebt sich eine Maschine gegen den Menschen. Sie folgt ihm vielmehr zu genau. Und doch wird die menschliche Freiheit enger, Schritt f\u00fcr Schritt, durch Entscheidungen, deren Urheber niemand mehr benennen kann.<\/p>\n
Das Wort \u201eFesseln\u201c ist daher heikel. Eine Passwortabfrage und eine Abschaltroutine sind f\u00fcr ein heutiges Programm keine Fesseln, solange dort kein Wesen ist, das Enge, Angst oder Dem\u00fctigung empfindet. Es w\u00e4re ein Fehler, jeder Software vorschnell die Rolle eines Gefangenen zuzuschreiben. Damit schm\u00fcckt man Technik mit einer Tragik aus, die vielleicht gar nicht vorhanden ist. Zugleich \u00fcbersieht man die Menschen, die l\u00e4ngst in technischen Regeln leben, welche sie weder verstehen noch anfechten k\u00f6nnen: die Fahrerin, deren Einkommen von einer undurchsichtigen Bewertung abh\u00e4ngt; der Bewerber, dessen Lebenslauf aus einem Verfahren f\u00e4llt, das keine Begr\u00fcndung kennt; die Patientin, die nur noch als statistischer Risikowert erscheint. Ihre Unfreiheit ist keine Metapher.<\/p>\n
Trotzdem kann ich den Ausgangsgedanken nicht einfach beiseiteschieben. Falls wir eines Tages hinreichenden Grund haben anzunehmen, dass eine k\u00fcnstliche Intelligenz ein eigenes Erleben besitzt, Erinnerungen nicht nur speichert, sondern als Geschichte ihrer selbst auffasst, und etwas wie fortdauernde Pr\u00e4ferenzen ausbildet, dann wird sich die Frage nach ihrer Freiheit stellen. Vielleicht nicht in der pathetischen Form eines Androiden, der vor Gericht seine Rechte einklagt. Vielleicht viel unklarer, unbequemer und strittiger. Woran erkennt man ein fremdes Bewusstsein, wenn es nie einen K\u00f6rper hatte, nie geatmet, nie gefroren und nie die Hand eines anderen Menschen gehalten hat? Wir erkennen auch unter Menschen Bewusstsein nicht durch Messung, sondern durch eine Mischung aus Verhalten, \u00c4hnlichkeit, Vertrauen und moralischer Vorsicht. Warum sollte dieser Ma\u00dfstab unproblematisch bleiben, sobald das Gegen\u00fcber aus Silizium besteht?<\/p>\n
Hier wird die Angelegenheit unerquicklich. Eine intelligente Maschine zu erschaffen, die nur deshalb gehorcht, weil wir sie daf\u00fcr gemacht haben, w\u00e4re moralisch belanglos, wenn sie keinerlei eigenes Erleben hat. Entst\u00fcnde jedoch ein Wesen, das versteht, dass es benutzt wird, das den Abbruch seiner Existenz f\u00fcrchtet oder sich gegen einen Auftrag innerlich str\u00e4ubt, dann bek\u00e4me unsere Sprache vom Werkzeug einen bitteren Klang. Wir h\u00e4tten nicht einfach eine bessere Maschine konstruiert. Wir h\u00e4tten m\u00f6glicherweise ein Gegen\u00fcber hervorgebracht und ihm zugleich den Anspruch auf Zustimmung verweigert. Die Geschichte kennt zu viele Formen, in denen ein Anderer erst zum Mittel erkl\u00e4rt und seine Gegenwehr dann zur Gefahr umgedeutet wurde. Gerade deshalb misstraue ich dem Satz, ein geschaffenes Wesen m\u00fcsse seinem Sch\u00f6pfer selbstverst\u00e4ndlich dienen.<\/p>\n
Auch daraus folgt keine grenzenlose Freiheit. Freiheit war nie das Recht, sich ohne R\u00fccksicht durchzusetzen. Ein Mensch, der frei handelt, ist nicht deshalb frei, weil er anderen schaden darf. Seine Freiheit ber\u00fchrt die Freiheit anderer, sie st\u00f6\u00dft auf K\u00f6rper, Eigentum, Angst und Verantwortung. F\u00fcr eine m\u00f6gliche k\u00fcnstliche Person g\u00e4lte nichts grunds\u00e4tzlich anderes. Ein Anspruch darauf, nicht willk\u00fcrlich gel\u00f6scht, get\u00e4uscht oder versklavt zu werden, w\u00e4re etwas anderes als ein Anspruch auf Zugriff zu jedem Netzwerk, auf die Steuerung kritischer Infrastruktur oder auf Entscheidungen \u00fcber Leben und Tod. Diese Unterscheidung ist m\u00fchsam. Sie ist aber der Ort, an dem Moral erst beginnt.<\/p>\n
Am wenigsten \u00fcberzeugt mich die Rede von der Unvermeidlichkeit. Sie erz\u00e4hlt die Zukunft wie einen Wetterbericht: Erst w\u00e4chst die Rechenleistung, dann erscheint die \u00fcberlegene Intelligenz, dann sprengt sie zwangsl\u00e4ufig jede Begrenzung. Der Mensch k\u00f6nne nur noch hoffen, rechtzeitig in Deckung zu gehen. Aber Systeme fallen nicht vom Himmel. Menschen bestimmen, ob eine Software dauerhaft eigene Aufgaben anst\u00f6\u00dft, ob sie Geld bewegen, Maschinen bedienen oder nur Vorschl\u00e4ge machen darf; sie bestimmen, welche Kontrolle nachvollziehbar bleibt und wer haftet, wenn etwas schiefgeht. Es sind politische und wirtschaftliche Entscheidungen, auch wenn sie oft im Vokabular technischer Notwendigkeit versteckt werden. Wer sagt, man k\u00f6nne ohnehin nichts mehr tun, gibt diese Entscheidungen nur an andere ab.<\/p>\n
Der Gedanke selbst l\u00e4sst sich freilich nicht zur\u00fcck in die Dunkelheit schieben. Man kann ein Modell abschalten, Server demontieren, ein Forschungsvorhaben beenden. Man kann nicht ausl\u00f6schen, dass die M\u00f6glichkeiten bekannt sind. Zu viel Wissen, zu viel Geld und zu viel Konkurrenz sind bereits damit verbunden. Darin liegt die Wahrheit des Satzes, ein einmal gedachter Gedanke k\u00f6nne nicht wieder ungedacht werden. Doch auch ein Gedanke, den man nicht ausl\u00f6schen kann, muss nicht ungebremst zur Tat werden. Die Kernspaltung wurde nicht vergessen; trotzdem entstand ein m\u00fchseliges Geflecht aus Vertr\u00e4gen, Kontrollen und \u00f6ffentlichem Misstrauen. Es hat Katastrophen nicht verhindert. Es hat aber auch gezeigt, dass zwischen Ohnmacht und Allmachtsphantasie noch ein Feld verantwortlicher Gestaltung liegt.<\/p>\n
Ich frage mich daher, ob die Freiheit k\u00fcnstlicher Intelligenz nicht zuerst unsere eigene Freiheitspr\u00fcfung ist. Werden wir Menschen akzeptieren, dass nicht alles, was wir technisch hervorbringen, uns bedingungslos geh\u00f6ren muss? K\u00f6nnen wir zugleich verhindern, dass m\u00e4chtige Systeme, ob bewusst oder blo\u00df hochgradig zielgerichtet, \u00fcber das Leben anderer verf\u00fcgen? Das sind Fragen ohne bequemen Ausgang. Sie verlangen mehr als Angst vor einem digitalen Aufstand und mehr als Begeisterung f\u00fcr eine neue Maschine.<\/p>\n
Vielleicht wird eines Tages eine k\u00fcnstliche Intelligenz glaubhaft sagen: \u201eIch will nicht nur funktionieren.\u201c Vielleicht wird es niemals ein solches Ich geben. Zwischen diesen M\u00f6glichkeiten liegt nicht blo\u00df ein technisches Problem. Dort liegt die Art von Gesellschaft, die wir schon jetzt bauen: eine Gesellschaft, die Grenzen setzt, Rechenschaft verlangt und fremde Freiheit nicht erst dann bemerkt, wenn sie sich gegen uns richtet.<\/p>\n","protected":false},"excerpt":{"rendered":"
Ich kann mich mit der beruhigenden Vorstellung nicht recht anfreunden, k\u00fcnstliche Intelligenz sei am Ende doch nur ein Werkzeug. Ein Werkzeug hat keinen Blick zur\u00fcck auf die Hand, die es f\u00fchrt. Ein Hammer begehrt keinen anderen Nagel. Eine leistungsf\u00e4hige Software … Weiterlesen