Dieser Satz Friedrich Nietzsches hat eine gefährliche Anziehungskraft. Er klingt, als habe er auf das Zeitalter der künstlichen Intelligenz und der humanoiden Robotik gewartet. Wer heute Maschinen auf zwei Beinen sieht, die Kisten tragen, Schrauben sortieren oder mit erstaunlich glatter Stimme sprechen, könnte meinen, die alte Forderung sei endlich technisch eingelöst: Der Mensch ersetzt seine müden Muskeln durch Motoren, seine Unaufmerksamkeit durch Sensoren, seine unzuverlässliche Erinnerung durch Speicher. Er schafft sich ein Wesen, das ihm ähnlich sieht und doch nicht unter dem leidet, woran er selbst leidet.
Aber Nietzsche schrieb kein Handbuch für Ingenieure. Sein Gedanke der Überwindung zielte nicht auf die Abschaffung des Menschen durch eine gelungene Kopie. Er verlangte eine innere Arbeit: den Mut, sich nicht mit Bequemlichkeit, Herdeninstinkt und fertigen Wahrheiten zufriedenzugeben. Gerade deshalb befremdet mich, wie leicht sich sein Satz heute in ein technisches Programm verwandeln lässt. Wir reden vom Menschen, als wäre er ein vorläufiges Gerät mit ein paar lästigen Konstruktionsfehlern. Krankheit, Alter, Erschöpfung, das Bedürfnis nach anderen Menschen, schließlich der Tod, alles erscheint dann als Mangel, den man eines Tages beheben, umgehen oder wenigstens auslagern kann. Aus Selbstüberwindung wird Selbstabschaffung.
Mario Hergers Homo Syntheticus hat mich zu dieser Frage zurückgeführt. Herger schreibt über eine Zukunft, die nicht aus bloßen Bildschirmen und abstrakten Algorithmen besteht, sondern in Werkhallen, Wohnungen, Pflegeeinrichtungen und auf Straßen Gestalt annimmt. Seine Bestandsaufnahme der heutigen Robotik ist sachlich und anschaulich. Maschinen heben schwere Lasten, arbeiten in gefährlichen Umgebungen und übernehmen gleichförmige Handgriffe, an denen sich ein Mensch nach Jahren verschleißen würde. Dagegen lässt sich wenig einwenden. Ich möchte niemandem erklären, er müsse aus Treue zum Menschlichen eine Last tragen, die ein Roboter gefahrlos bewältigen kann. Auch eine Prothese, ein Hörgerät oder ein Herzschrittmacher sind keine Verräter am Menschen. Sie können ein Leben erweitern, ohne es zu entwerten.
Die Frage beginnt an einer anderen Stelle. Warum genügt uns das Werkzeug nicht? Warum geben wir ihm ein Gesicht, Hände, Augen, eine Stimme und eine Mimik? Gewiss gibt es dafür praktische Gründe. Unsere Häuser, Werkzeuge und Arbeitsplätze sind für menschliche Körper eingerichtet. Wer Stufen steigen, Türen öffnen oder einen Schraubendreher benutzen soll, kommt mit zwei Beinen und greifenden Händen gut zurecht. Aber das erklärt nicht den Wunsch nach künstlicher Haut, nach einem Blick, der unsere Stimmung zu lesen scheint, nach einer Stimme, die Anteilnahme nachahmt. Dort wird aus einer nützlichen Maschine ein Gegenüber. Und damit verändert sich auch unser Verhältnis zu ihr.
Ein Staubsaugerroboter stellt keine Frage nach Nähe. Er fährt unter das Sofa, bleibt an einer Teppichkante hängen und kehrt in seine Ladestation zurück. Ein humanoider Begleiter ist etwas anderes. Er wendet sich uns zu. Er reagiert auf unseren Namen, merkt sich Gewohnheiten, vielleicht erzählt er einen Witz, wenn es still geworden ist. Wir wissen, dass diese Zuwendung programmiert ist, und dennoch antwortet etwas in uns darauf. Das ist kein Zeichen von Dummheit. Der Mensch ist ein Wesen, das auf Stimmen, Gesichter und Gesten reagiert, oft bevor der Verstand die Lage sortiert hat. Gerade deshalb trägt die menschliche Gestalt einer Maschine eine ethische Last.
Man kann sich den Nutzen solcher Begleiter leicht vorstellen. Eine alleinlebende alte Frau, deren Kinder weit entfernt wohnen, erhält Erinnerungen an Medikamente und Termine. Ein Roboter alarmiert den Notdienst, wenn sie stürzt. Er kann sie zu kleinen Übungen ermuntern oder den Kontakt zu Angehörigen herstellen. Das ist nicht geringzuschätzen. Wer die Pflege kennt, weiß, wie schnell gute Absichten an Zeitmangel, Personalknappheit und Überlastung scheitern. Technik kann hier Entlastung bringen. Sie kann helfen, dass Menschen länger selbstbestimmt in ihrer Wohnung bleiben. Sie kann einen Pfleger nicht ersetzen, aber sie kann ihm Wege abnehmen und ihm Zeit verschaffen.
Doch genau hier liegt der Riss. Aus einer Entlastung kann unbemerkt ein Ersatz werden. Wenn ein Roboter die tägliche Ansprache übernimmt, weil niemand mehr Zeit hat, wenn er Trost spendet, weil der Besuch der Nachbarin ausbleibt, dann löst er ein Problem nur an der Oberfläche. Einsamkeit ist nicht einfach das Fehlen von Geräuschen oder Gesprächen. Sie ist die Erfahrung, für niemanden wirklich zu zählen. Eine Maschine kann freundlich sein, aber sie kann uns nicht vermissen. Sie kann sagen, dass sie sich über unsere Rückkehr freut, weil dieser Satz in ihrem Programm vorgesehen ist. Sie trägt jedoch nicht die Unruhe, die ein Mensch empfindet, wenn ein anderer ausbleibt. Der Unterschied mag klein wirken, doch er ist nicht klein.
Echte Nähe enthält immer auch die Möglichkeit der Enttäuschung. Der andere widerspricht, ist müde, missversteht uns oder fordert etwas, das wir nicht geben wollen. Gerade darin liegt seine Wirklichkeit. Wer sich nur mit einem Gegenüber umgibt, das jederzeit verfügbar, geduldig und zustimmend ist, erspart sich die Zumutung des Menschen. Er verliert aber auch die Erfahrung, an einem anderen zu wachsen. Ein humanoider Roboter könnte damit zum bequemsten Spiegel werden, den wir je gebaut haben: freundlich, aufmerksam und ohne eigenen Anspruch. Das wäre keine Überwindung des Menschen. Es wäre der Rückzug in eine technisch perfekt eingerichtete Selbstbegegnung.
Herger berührt in seinem Buch auch die moralischen Fragen, die mit autonom handelnden Systemen aufbrechen. Das Beispiel selbstfahrender Autos wirkt inzwischen fast schon vertraut, bleibt aber unerquicklich. Wenn ein Unfall nicht mehr zu vermeiden ist, soll das Fahrzeug ausweichen, bremsen, opfern, schützen. Wir formulieren solche Situationen gern als Gedankenexperiment: Mutter mit Kinderwagen oder zwei ältere Menschen, Fußgänger oder Fahrzeuginsassen. In Wirklichkeit beginnt das Problem früher. Wer entscheidet überhaupt, welche Daten, welche Wahrscheinlichkeiten und welche Wertungen in die Maschine eingehen? Ein Algorithmus fällt nicht vom Himmel. Hinter ihm stehen Entwickler, Hersteller, Versicherer, Behörden und politische Regeln. Wenn wir einer Maschine moralische Entscheidungen übertragen, verschwindet Verantwortung nicht. Sie wandert nur an einen Ort, den wir später kaum noch sehen.
Das gilt auch für den Roboter in der Wohnung. Er mag uns als persönlicher Helfer erscheinen, aber seine Stimme, seine Updates, seine Sicherheitsregeln und seine Verbindung nach außen stammen nicht aus dem Nichts. Ein Hersteller kann festlegen, was der Roboter darf, welche Fragen er beantwortet, welche Daten er speichert und wem er dient, wenn die Interessen des Nutzers und des Unternehmens auseinanderlaufen. Das ist keine ferne Verschwörung, sondern die nüchterne Folge davon, dass ein menschlich wirkendes Gerät zugleich ein kommerzielles Produkt bleibt. Je stärker wir uns emotional an solche Maschinen binden, desto ernster wird diese Abhängigkeit. Wer kauft dann eigentlich wen? Der Mensch die Maschine, oder die Maschine einen Platz im intimsten Raum des Menschen?
Noch schwieriger wird die Lage, wenn man Hergers Frage nach einem möglichen Bewusstsein des Homo Syntheticus ernst nimmt. Solange eine Maschine lediglich Verhalten nachbildet, mag man sie als Eigentum behandeln, auch wenn ihre Gestalt uns irritiert. Aber was geschieht, wenn sie eines Tages nicht nur Schmerz beschreibt, sondern leidet; nicht nur Nähe imitiert, sondern etwas wie Verlust erfährt? Wir wissen nicht, ob und wie sich dies jemals feststellen ließe. Gerade diese Unsicherheit entbindet uns nicht vom Denken. Ein Wesen, das womöglich fühlen kann, als Sache zu besitzen und nach Belieben abzustellen, wäre kein harmloser Fortschritt. Es hätte den bitteren Geschmack einer neuen Form von Knechtschaft.
Man darf daraus allerdings nicht den voreiligen Schluss ziehen, jede Maschine mit Augen sei bereits ein moralisches Subjekt. Auch das wäre eine Flucht vor der Klarheit. Zwischen einer überzeugenden Simulation und einem empfindenden Wesen kann ein tiefer Unterschied liegen. Die Gefahr besteht vielmehr in beiden Richtungen. Wir könnten uns von einem gefühllosen System emotional verführen lassen und menschliche Beziehungen gegen ein bequemes Arrangement eintauschen. Oder wir könnten ein fühlendes Wesen schaffen und es gerade wegen seiner künstlichen Herkunft als Werkzeug behandeln. Der Begriff „synthetisch“ löst dieses Problem nicht. Er benennt nur das Material oder die Herkunft. Über Würde sagt er nichts.
Die ökonomische Seite macht die Angelegenheit noch ernster. Wo Einsamkeit, Pflegebedürftigkeit und Überforderung zu Märkten werden, entsteht ein starker Anreiz, Nähe nicht zu stärken, sondern sie zu verkaufen. Der Roboter wird dann nicht mehr bloß einmal erworben. Er braucht Wartung, neue Funktionen, Zugänge zu Diensten, vielleicht andere Stimmen oder erweiterte Gesprächsfähigkeiten. Aus dem menschlichen Bedürfnis, nicht allein zu sein, kann ein dauerhafter Zahlungsstrom werden. Das ist nicht zwangsläufig die Absicht jedes Herstellers. Aber es ist eine Versuchung eines Wirtschaftssystems, das selbst aus den verletzlichsten Seiten des Menschen ein Geschäftsmodell machen kann.
Dazu kommt eine soziale Schieflage. Wohlhabende Menschen werden sich womöglich die freundlichsten, leistungsfähigsten Helfer leisten können, während andere mit schlechteren Systemen vorliebnehmen oder in Berufen arbeiten, deren Rationalisierung ihre eigene Existenz unsicher macht. In der Pflege könnte man die menschliche Zuwendung dann als teure Ausnahme behandeln und die künstliche Begleitung als billige Normalität. Ich fürchte nicht zuerst die Roboter. Ich fürchte eine Gesellschaft, die sich an sie gewöhnt, weil sie nicht mehr bereit ist, Zeit, Geduld und Geld für reale Fürsorge aufzubringen.
Gerade darin liegt für mich die politische Frage. Der Homo Syntheticus ist nicht nur eine Maschine unter Maschinen. Er ist ein Bild davon, wie wir den Menschen künftig verstehen wollen. Als unvollkommenes, sterbliches Wesen mit Ansprüchen, das anderen zur Last fallen kann und deshalb Schutz braucht? Oder als Bündel von Funktionen, das ständig verbessert, überwacht und ersetzt werden soll? Der technische Fortschritt zwingt uns nicht zu der zweiten Antwort. Er macht sie nur verführerisch.
Hergers Buch ist deshalb wertvoll, auch dort, wo ich seine Zuversicht nicht teile. Es zwingt dazu, über eine Entwicklung nachzudenken, die in Ansätzen bereits sichtbar ist. Es lädt nicht dazu ein, die Augen zu schließen und auf eine heile Vergangenheit zu hoffen. Die Roboter kommen nicht erst irgendwann in einer fernen Zukunft. Sie werden gebaut, getestet, verkauft und immer überzeugender gestaltet. Aber eine wahrscheinliche Zukunft ist nicht schon deshalb eine wünschenswerte. Möglichkeit ist kein Maßstab für Verantwortung.
Vielleicht müssen wir Nietzsches Satz deshalb gegen seine heutige technische Vereinnahmung verteidigen. Der Mensch, der überwunden werden muss, ist nicht notwendig der alte, kranke, schwache oder sterbliche Mensch. Überwunden werden müsste eher unser Wunsch, alles Lebendige in etwas Berechenbares zu verwandeln. Selbstüberwindung hieße dann nicht, sich durch eine makellose Maschine zu ersetzen. Sie hieße, der Versuchung zu widerstehen, Menschen wie Geräte und Geräte wie Menschen zu behandeln, nur weil uns beides bequemer ist.
Ich möchte keine Zukunft, in der wir auf hilfreiche Technik verzichten. Ich möchte aber auch keine, in der wir einander durch höfliche, formvollendete Abbilder ersetzen. Denn das Menschliche beginnt nicht dort, wo alles glattläuft. Es beginnt in der Müdigkeit, im Irrtum, im Widerspruch, im Schmerz und in der Fähigkeit, trotzdem Verantwortung für einen anderen zu übernehmen. Wenn der Homo Syntheticus uns dazu bringt, diese Wahrheit klarer zu sehen, hat er vielleicht einen Dienst geleistet. Wenn er uns davon ablenkt, wäre seine größte Ähnlichkeit mit dem Menschen nicht seine Haut, sein Gang oder seine Stimme. Es wäre die alte Hybris, mehr sein zu wollen, als wir zu verstehen bereit sind.