Dieser Satz Friedrich Nietzsches hat eine gef\u00e4hrliche Anziehungskraft. Er klingt, als habe er auf das Zeitalter der k\u00fcnstlichen Intelligenz und der humanoiden Robotik gewartet. Wer heute Maschinen auf zwei Beinen sieht, die Kisten tragen, Schrauben sortieren oder mit erstaunlich glatter Stimme sprechen, k\u00f6nnte meinen, die alte Forderung sei endlich technisch eingel\u00f6st: Der Mensch ersetzt seine m\u00fcden Muskeln durch Motoren, seine Unaufmerksamkeit durch Sensoren, seine unzuverl\u00e4ssliche Erinnerung durch Speicher. Er schafft sich ein Wesen, das ihm \u00e4hnlich sieht und doch nicht unter dem leidet, woran er selbst leidet.<\/p>\n
Aber Nietzsche schrieb kein Handbuch f\u00fcr Ingenieure. Sein Gedanke der \u00dcberwindung zielte nicht auf die Abschaffung des Menschen durch eine gelungene Kopie. Er verlangte eine innere Arbeit: den Mut, sich nicht mit Bequemlichkeit, Herdeninstinkt und fertigen Wahrheiten zufriedenzugeben. Gerade deshalb befremdet mich, wie leicht sich sein Satz heute in ein technisches Programm verwandeln l\u00e4sst. Wir reden vom Menschen, als w\u00e4re er ein vorl\u00e4ufiges Ger\u00e4t mit ein paar l\u00e4stigen Konstruktionsfehlern. Krankheit, Alter, Ersch\u00f6pfung, das Bed\u00fcrfnis nach anderen Menschen, schlie\u00dflich der Tod, alles erscheint dann als Mangel, den man eines Tages beheben, umgehen oder wenigstens auslagern kann. Aus Selbst\u00fcberwindung wird Selbstabschaffung.<\/p>\n
Mario Hergers Homo Syntheticus<\/i><\/a> hat mich zu dieser Frage zur\u00fcckgef\u00fchrt. Herger schreibt \u00fcber eine Zukunft, die nicht aus blo\u00dfen Bildschirmen und abstrakten Algorithmen besteht, sondern in Werkhallen, Wohnungen, Pflegeeinrichtungen und auf Stra\u00dfen Gestalt annimmt. Seine Bestandsaufnahme der heutigen Robotik ist sachlich und anschaulich. Maschinen heben schwere Lasten, arbeiten in gef\u00e4hrlichen Umgebungen und \u00fcbernehmen gleichf\u00f6rmige Handgriffe, an denen sich ein Mensch nach Jahren verschlei\u00dfen w\u00fcrde. Dagegen l\u00e4sst sich wenig einwenden. Ich m\u00f6chte niemandem erkl\u00e4ren, er m\u00fcsse aus Treue zum Menschlichen eine Last tragen, die ein Roboter gefahrlos bew\u00e4ltigen kann. Auch eine Prothese, ein H\u00f6rger\u00e4t oder ein Herzschrittmacher sind keine Verr\u00e4ter am Menschen. Sie k\u00f6nnen ein Leben erweitern, ohne es zu entwerten.<\/p>\n Die Frage beginnt an einer anderen Stelle. Warum gen\u00fcgt uns das Werkzeug nicht? Warum geben wir ihm ein Gesicht, H\u00e4nde, Augen, eine Stimme und eine Mimik? Gewiss gibt es daf\u00fcr praktische Gr\u00fcnde. Unsere H\u00e4user, Werkzeuge und Arbeitspl\u00e4tze sind f\u00fcr menschliche K\u00f6rper eingerichtet. Wer Stufen steigen, T\u00fcren \u00f6ffnen oder einen Schraubendreher benutzen soll, kommt mit zwei Beinen und greifenden H\u00e4nden gut zurecht. Aber das erkl\u00e4rt nicht den Wunsch nach k\u00fcnstlicher Haut, nach einem Blick, der unsere Stimmung zu lesen scheint, nach einer Stimme, die Anteilnahme nachahmt. Dort wird aus einer n\u00fctzlichen Maschine ein Gegen\u00fcber. Und damit ver\u00e4ndert sich auch unser Verh\u00e4ltnis zu ihr.<\/p>\n Ein Staubsaugerroboter stellt keine Frage nach N\u00e4he. Er f\u00e4hrt unter das Sofa, bleibt an einer Teppichkante h\u00e4ngen und kehrt in seine Ladestation zur\u00fcck. Ein humanoider Begleiter ist etwas anderes. Er wendet sich uns zu. Er reagiert auf unseren Namen, merkt sich Gewohnheiten, vielleicht erz\u00e4hlt er einen Witz, wenn es still geworden ist. Wir wissen, dass diese Zuwendung programmiert ist, und dennoch antwortet etwas in uns darauf. Das ist kein Zeichen von Dummheit. Der Mensch ist ein Wesen, das auf Stimmen, Gesichter und Gesten reagiert, oft bevor der Verstand die Lage sortiert hat. Gerade deshalb tr\u00e4gt die menschliche Gestalt einer Maschine eine ethische Last.<\/p>\n Man kann sich den Nutzen solcher Begleiter leicht vorstellen. Eine alleinlebende alte Frau, deren Kinder weit entfernt wohnen, erh\u00e4lt Erinnerungen an Medikamente und Termine. Ein Roboter alarmiert den Notdienst, wenn sie st\u00fcrzt. Er kann sie zu kleinen \u00dcbungen ermuntern oder den Kontakt zu Angeh\u00f6rigen herstellen. Das ist nicht geringzusch\u00e4tzen. Wer die Pflege kennt, wei\u00df, wie schnell gute Absichten an Zeitmangel, Personalknappheit und \u00dcberlastung scheitern. Technik kann hier Entlastung bringen. Sie kann helfen, dass Menschen l\u00e4nger selbstbestimmt in ihrer Wohnung bleiben. Sie kann einen Pfleger nicht ersetzen, aber sie kann ihm Wege abnehmen und ihm Zeit verschaffen.<\/p>\n Doch genau hier liegt der Riss. Aus einer Entlastung kann unbemerkt ein Ersatz werden. Wenn ein Roboter die t\u00e4gliche Ansprache \u00fcbernimmt, weil niemand mehr Zeit hat, wenn er Trost spendet, weil der Besuch der Nachbarin ausbleibt, dann l\u00f6st er ein Problem nur an der Oberfl\u00e4che. Einsamkeit ist nicht einfach das Fehlen von Ger\u00e4uschen oder Gespr\u00e4chen. Sie ist die Erfahrung, f\u00fcr niemanden wirklich zu z\u00e4hlen. Eine Maschine kann freundlich sein, aber sie kann uns nicht vermissen. Sie kann sagen, dass sie sich \u00fcber unsere R\u00fcckkehr freut, weil dieser Satz in ihrem Programm vorgesehen ist. Sie tr\u00e4gt jedoch nicht die Unruhe, die ein Mensch empfindet, wenn ein anderer ausbleibt. Der Unterschied mag klein wirken, doch er ist nicht klein.<\/p>\n Echte N\u00e4he enth\u00e4lt immer auch die M\u00f6glichkeit der Entt\u00e4uschung. Der andere widerspricht, ist m\u00fcde, missversteht uns oder fordert etwas, das wir nicht geben wollen. Gerade darin liegt seine Wirklichkeit. Wer sich nur mit einem Gegen\u00fcber umgibt, das jederzeit verf\u00fcgbar, geduldig und zustimmend ist, erspart sich die Zumutung des Menschen. Er verliert aber auch die Erfahrung, an einem anderen zu wachsen. Ein humanoider Roboter k\u00f6nnte damit zum bequemsten Spiegel werden, den wir je gebaut haben: freundlich, aufmerksam und ohne eigenen Anspruch. Das w\u00e4re keine \u00dcberwindung des Menschen. Es w\u00e4re der R\u00fcckzug in eine technisch perfekt eingerichtete Selbstbegegnung.<\/p>\n Herger ber\u00fchrt in seinem Buch auch die moralischen Fragen, die mit autonom handelnden Systemen aufbrechen. Das Beispiel selbstfahrender Autos wirkt inzwischen fast schon vertraut, bleibt aber unerquicklich. Wenn ein Unfall nicht mehr zu vermeiden ist, soll das Fahrzeug ausweichen, bremsen, opfern, sch\u00fctzen. Wir formulieren solche Situationen gern als Gedankenexperiment: Mutter mit Kinderwagen oder zwei \u00e4ltere Menschen, Fu\u00dfg\u00e4nger oder Fahrzeuginsassen. In Wirklichkeit beginnt das Problem fr\u00fcher. Wer entscheidet \u00fcberhaupt, welche Daten, welche Wahrscheinlichkeiten und welche Wertungen in die Maschine eingehen? Ein Algorithmus f\u00e4llt nicht vom Himmel. Hinter ihm stehen Entwickler, Hersteller, Versicherer, Beh\u00f6rden und politische Regeln. Wenn wir einer Maschine moralische Entscheidungen \u00fcbertragen, verschwindet Verantwortung nicht. Sie wandert nur an einen Ort, den wir sp\u00e4ter kaum noch sehen.<\/p>\n Das gilt auch f\u00fcr den Roboter in der Wohnung. Er mag uns als pers\u00f6nlicher Helfer erscheinen, aber seine Stimme, seine Updates, seine Sicherheitsregeln und seine Verbindung nach au\u00dfen stammen nicht aus dem Nichts. Ein Hersteller kann festlegen, was der Roboter darf, welche Fragen er beantwortet, welche Daten er speichert und wem er dient, wenn die Interessen des Nutzers und des Unternehmens auseinanderlaufen. Das ist keine ferne Verschw\u00f6rung, sondern die n\u00fcchterne Folge davon, dass ein menschlich wirkendes Ger\u00e4t zugleich ein kommerzielles Produkt bleibt. Je st\u00e4rker wir uns emotional an solche Maschinen binden, desto ernster wird diese Abh\u00e4ngigkeit. Wer kauft dann eigentlich wen? Der Mensch die Maschine, oder die Maschine einen Platz im intimsten Raum des Menschen?<\/p>\n Noch schwieriger wird die Lage, wenn man Hergers Frage nach einem m\u00f6glichen Bewusstsein des Homo Syntheticus<\/i> ernst nimmt. Solange eine Maschine lediglich Verhalten nachbildet, mag man sie als Eigentum behandeln, auch wenn ihre Gestalt uns irritiert. Aber was geschieht, wenn sie eines Tages nicht nur Schmerz beschreibt, sondern leidet; nicht nur N\u00e4he imitiert, sondern etwas wie Verlust erf\u00e4hrt? Wir wissen nicht, ob und wie sich dies jemals feststellen lie\u00dfe. Gerade diese Unsicherheit entbindet uns nicht vom Denken. Ein Wesen, das wom\u00f6glich f\u00fchlen kann, als Sache zu besitzen und nach Belieben abzustellen, w\u00e4re kein harmloser Fortschritt. Es h\u00e4tte den bitteren Geschmack einer neuen Form von Knechtschaft.<\/p>\n Man darf daraus allerdings nicht den voreiligen Schluss ziehen, jede Maschine mit Augen sei bereits ein moralisches Subjekt. Auch das w\u00e4re eine Flucht vor der Klarheit. Zwischen einer \u00fcberzeugenden Simulation und einem empfindenden Wesen kann ein tiefer Unterschied liegen. Die Gefahr besteht vielmehr in beiden Richtungen. Wir k\u00f6nnten uns von einem gef\u00fchllosen System emotional verf\u00fchren lassen und menschliche Beziehungen gegen ein bequemes Arrangement eintauschen. Oder wir k\u00f6nnten ein f\u00fchlendes Wesen schaffen und es gerade wegen seiner k\u00fcnstlichen Herkunft als Werkzeug behandeln. Der Begriff \u201esynthetisch\u201c l\u00f6st dieses Problem nicht. Er benennt nur das Material oder die Herkunft. \u00dcber W\u00fcrde sagt er nichts.<\/p>\n Die \u00f6konomische Seite macht die Angelegenheit noch ernster. Wo Einsamkeit, Pflegebed\u00fcrftigkeit und \u00dcberforderung zu M\u00e4rkten werden, entsteht ein starker Anreiz, N\u00e4he nicht zu st\u00e4rken, sondern sie zu verkaufen. Der Roboter wird dann nicht mehr blo\u00df einmal erworben. Er braucht Wartung, neue Funktionen, Zug\u00e4nge zu Diensten, vielleicht andere Stimmen oder erweiterte Gespr\u00e4chsf\u00e4higkeiten. Aus dem menschlichen Bed\u00fcrfnis, nicht allein zu sein, kann ein dauerhafter Zahlungsstrom werden. Das ist nicht zwangsl\u00e4ufig die Absicht jedes Herstellers. Aber es ist eine Versuchung eines Wirtschaftssystems, das selbst aus den verletzlichsten Seiten des Menschen ein Gesch\u00e4ftsmodell machen kann.<\/p>\n Dazu kommt eine soziale Schieflage. Wohlhabende Menschen werden sich wom\u00f6glich die freundlichsten, leistungsf\u00e4higsten Helfer leisten k\u00f6nnen, w\u00e4hrend andere mit schlechteren Systemen vorliebnehmen oder in Berufen arbeiten, deren Rationalisierung ihre eigene Existenz unsicher macht. In der Pflege k\u00f6nnte man die menschliche Zuwendung dann als teure Ausnahme behandeln und die k\u00fcnstliche Begleitung als billige Normalit\u00e4t. Ich f\u00fcrchte nicht zuerst die Roboter. Ich f\u00fcrchte eine Gesellschaft, die sich an sie gew\u00f6hnt, weil sie nicht mehr bereit ist, Zeit, Geduld und Geld f\u00fcr reale F\u00fcrsorge aufzubringen.<\/p>\n Gerade darin liegt f\u00fcr mich die politische Frage. Der Homo Syntheticus<\/i> ist nicht nur eine Maschine unter Maschinen. Er ist ein Bild davon, wie wir den Menschen k\u00fcnftig verstehen wollen. Als unvollkommenes, sterbliches Wesen mit Anspr\u00fcchen, das anderen zur Last fallen kann und deshalb Schutz braucht? Oder als B\u00fcndel von Funktionen, das st\u00e4ndig verbessert, \u00fcberwacht und ersetzt werden soll? Der technische Fortschritt zwingt uns nicht zu der zweiten Antwort. Er macht sie nur verf\u00fchrerisch.<\/p>\n Hergers Buch ist deshalb wertvoll, auch dort, wo ich seine Zuversicht nicht teile. Es zwingt dazu, \u00fcber eine Entwicklung nachzudenken, die in Ans\u00e4tzen bereits sichtbar ist. Es l\u00e4dt nicht dazu ein, die Augen zu schlie\u00dfen und auf eine heile Vergangenheit zu hoffen. Die Roboter kommen nicht erst irgendwann in einer fernen Zukunft. Sie werden gebaut, getestet, verkauft und immer \u00fcberzeugender gestaltet. Aber eine wahrscheinliche Zukunft ist nicht schon deshalb eine w\u00fcnschenswerte. M\u00f6glichkeit ist kein Ma\u00dfstab f\u00fcr Verantwortung.<\/p>\n Vielleicht m\u00fcssen wir Nietzsches Satz deshalb gegen seine heutige technische Vereinnahmung verteidigen. Der Mensch, der \u00fcberwunden werden muss, ist nicht notwendig der alte, kranke, schwache oder sterbliche Mensch. \u00dcberwunden werden m\u00fcsste eher unser Wunsch, alles Lebendige in etwas Berechenbares zu verwandeln. Selbst\u00fcberwindung hie\u00dfe dann nicht, sich durch eine makellose Maschine zu ersetzen. Sie hie\u00dfe, der Versuchung zu widerstehen, Menschen wie Ger\u00e4te und Ger\u00e4te wie Menschen zu behandeln, nur weil uns beides bequemer ist.<\/p>\n Ich m\u00f6chte keine Zukunft, in der wir auf hilfreiche Technik verzichten. Ich m\u00f6chte aber auch keine, in der wir einander durch h\u00f6fliche, formvollendete Abbilder ersetzen. Denn das Menschliche beginnt nicht dort, wo alles glattl\u00e4uft. Es beginnt in der M\u00fcdigkeit, im Irrtum, im Widerspruch, im Schmerz und in der F\u00e4higkeit, trotzdem Verantwortung f\u00fcr einen anderen zu \u00fcbernehmen. Wenn der Homo Syntheticus<\/i> uns dazu bringt, diese Wahrheit klarer zu sehen, hat er vielleicht einen Dienst geleistet. Wenn er uns davon ablenkt, w\u00e4re seine gr\u00f6\u00dfte \u00c4hnlichkeit mit dem Menschen nicht seine Haut, sein Gang oder seine Stimme. Es w\u00e4re die alte Hybris, mehr sein zu wollen, als wir zu verstehen bereit sind.<\/p>\n","protected":false},"excerpt":{"rendered":" Dieser Satz Friedrich Nietzsches hat eine gef\u00e4hrliche Anziehungskraft. Er klingt, als habe er auf das Zeitalter der k\u00fcnstlichen Intelligenz und der humanoiden Robotik gewartet. Wer heute Maschinen auf zwei Beinen sieht, die Kisten tragen, Schrauben sortieren oder mit erstaunlich glatter … Weiterlesen