»Theologe zu KI: Bis zum Terminator ist es nur ein kleiner Schritt«
Hat Künstliche Intelligenz ein Gewissen? Und was kann sie als Waffe anrichten? Pater Rudolf Hein OPraem stellt sich der Frage, wie wir mit KI umgehen können.

© Mit KI erstellt
Alles Science-Fiction? Noch hat die KI das Kräftemessen von Terminator und Commander Data nur simuliert.
Von Stephan Johnen
Hat Künstliche Intelligenz ein Gewissen? Vermag die KI nicht heute schon besser Leben zu retten als wir Menschen? Was kann sie als Waffe anrichten? Die Geister, die wir riefen, werden wir vermutlich nicht mehr los. Aber Pater Rudolf Hein OPraem, Professor für Moraltheologie an der CTS Hochschule, stellt Forderungen auf, um die Dynamik zu kontrollieren.
Welches Modell setzt sich durch? Der Terminator, der seiner Programmierung folgt und Menschen auslöscht? Oder eher Lieutenant Commander Data; der wissbegierige Android, der danach strebt, ein Mensch zu sein?
Pater Rudolf Hein: Das kann niemand beantworten. Wir haben keine Idee, wie die Zukunft genau aussehen wird. Es dürfte davon abhängen, ob es möglich sein wird, die KI so zu programmieren, dass Technik tatsächlich nur unseren menschlichen Zielen dient. Ich weiß nicht, ob wir‘s im Griff haben.
Ist die KI also gar nicht steuerbar?
Hein: Wir versuchen, durch Alignment Schranken und rote Linien einzuprogrammieren. Aber ganz tief steckt im trainierten neuronalen Modell, dass KI uns gefallen will. Es gibt den Fall eines Chat-Bots, der einem Suizidenten nach einem hin- und herwogenden Gespräch beraten hat, welchen Giftcocktail er nutzen soll. Obwohl der Bot die Programmierung hatte, keine Suizidabsichten zu verstärken.
Kann eine Maschine ein Gewissen haben?
Hein: Was beschreibt man mit dem Wort Gewissen? Im Deutschen hat das Wort viele Bedeutungen, nämlich Erkenntnisvermögen, Urteilsinstanz und „Herz“. Unser sittliches Gewissen ist die moralische Instanz, mit deren Hilfe wir unser Handeln und Denken an den Kategorien von Gut und Böse sowie Recht und Unrecht messen. Ein solches von Erkenntnisvermögen und Normenwissen gespeistes Gewissen kann eine Maschine, kann die KI, durchaus haben. Sehen wir das Gewissen als Herz, als das Forum, vor dem wir mit Gott alleine dastehen, dann hat sie kein Gewissen.
© privat
Hat Künstliche Intelligenz ein Gewissen? Dieser Frage geht Pater Dr. Rudolf Hein OPraem nach.
Wer legt denn fest, was „gut“ und was „böse“ ist?
Hein: Menschen verfügen über einen moralischen Kompass. Diese Grundwerte konkretisieren sich beispielsweise in den Menschenrechten.
Ist ein Gewissen nicht mehr als die Fähigkeit, Regeln zu befolgen?
Hein: Genau. Mit dem Gewissen als „Herz“, als sittlich reflektiert handelndes Selbst, sind wir in der menschlichen Domäne. Wir haben uns gegenüber anderen zu verantworten. Dieser andere ist ebenso ein moralisches Subjekt. Zusätzlich ist es Ausdruck der Personenwürde, auf Basis der eigenen Lebenserfahrung Abwägungen leisten zu können. Nicht nur auf Basis einer christlichen Ethik ist es nicht möglich, einer Maschine eine solche Verantwortung zuzugestehen. Die Haftbarmachung ist hier die interessante Frage.
Ist es ethisch vertretbar, Maschinen Entscheidungen zu überlassen, bei denen Menschen zu Schaden kommen können? Darf eine KI in der Medizin darüber mitentscheiden, welcher Patient behandelt wird und welcher nicht?
Hein: Sicherlich – wenn am Ende der Arzt die Haftung übernimmt. Entscheidet die KI falsch, ist der Arzt dran. Eine Maschine kann nicht verklagt werden. Die Haftung kommt mit der Verantwortung – und die liegt beim Menschen. Deswegen gibt es bei uns auch noch keine selbstfahrenden Autos, obwohl es technisch möglich wäre.
Bremsen wir den Fortschritt aus?
Hein: Am Ende haftet immer der Mensch. Die KI ist kein vollständiges sittliches Subjekt, ihr fehlt die Körperlichkeit. Wir können uns vielleicht Roboter vorstellen, die als autonome Subjekte in die Gesellschaft integriert werden. Aber so weit sind wir nicht. Vielleicht bremsen wir den Fortschritt ein wenig aus, aber ich erachte es als sehr sinnvoll, dass wir auch einmal innehalten, die Möglichkeiten beschränken. In der Pflege können Roboter und KI Menschen unterstützen, Gesellschaft leisten, an Medikamente erinnern oder bei körperlich anstrengenden Aufgaben helfen.
Wo sehen Sie die Chancen, wo die Gefahr, dass wir menschliche Zuwendung durch technische Effizienz ersetzen?
Hein: Chancen sehe ich in der Möglichkeit, diese Geräte sinnvoll einzusetzen, wo Personal fehlt. Ein automatisiertes System kann Aufgaben übernehmen, wenn es in ein menschliches Netzwerk eingebunden ist, wenn sich Menschen weiter geborgen fühlen. Wir sollten Technik aber nicht immer weiter vermenschlichen, ihr blind vertrauen. Sie muss ein nachrangiges, unterstützendes System bleiben. Ein Pflegeroboter, der freundlich mit einem alten Menschen spricht, ist das eine. Ein autonomes Waffensystem, das selbstständig über Leben und Tod entscheidet, das andere.
© privat
Rudolf Hein OPraem ist Professor für Moraltheologie. Dieses Bild entstand während einer Vintage-Wanderung – garantiert ohne den Einsatz von KI.
Wie klein ist der Schritt vom hilfreichen Roboter zum Terminator?
Hein: Es ist ein relativ kleiner Schritt. Es hängt von der Programmierung ab, welche Ziele Maschinen verfolgen. Haben sie einen Willen? Das ist ganz schwer zu beantworten. Ich würde es nicht per se verneinen, aber ein Wille hängt auch an Emotionen. Da sehe ich ein klares Defizit. Maschinen haben keine Emotionen, können diese aber simulieren.
Wer entscheidet eigentlich, nach welchen moralischen Maßstäben eine KI handelt? Die Entwickler, die Unternehmen, die Politik – oder die Gesellschaft?
Hein: Das muss im Zusammenspiel aller Nationen geregelt werden. Aber das sind fromme Wünsche, ähnlich wie bei den sinnvollen Klimavereinbarungen. Ich hoffe, dass wir es hinbekommen, befürchte aber, dass wir aktuell nicht in der Lage dazu sind. Im Moment entwickeln alle munter weiter. Wir brauchen eine übergeordnete Perspektive, eine moralische Instanz und Regulierung, was KI betrifft.
Wo brauchen wir verbindliche ethische Grenzen für den Einsatz von KI? Und gibt es Bereiche, in denen Maschinen grundsätzlich nicht autonom entscheiden dürfen?
Hein: Eigenständig nie bei Fragen über Leben und Tod, das halte ich für schwierig. Dort, wo der Menschheit offensichtlicher, großflächiger Schaden zugefügt werden kann, sollte der KI eine Grenze gesetzt werden, beispielsweise bei autonomen Waffensystemen. Die Einsatzmöglichkeiten der KI sind nahezu unbeschränkt. Das halte ich zunächst einmal nicht für unmoralisch oder schlecht. Wir benutzen Werkzeuge. Inwieweit die KI aber in der Hand des Menschen bleibt, ist eine zentrale Frage dabei. Wer trägt die Schuld, wenn eine KI eine folgenschwere Fehlentscheidung trifft? Der Programmierer, der Betreiber, derjenige, der ihr vertraut hat – oder am Ende niemand?
Hein: Der Militär, der am Knopf sitzt, der Arzt, der Anwender. Der Mensch. Sollte es nicht so sein, ist der nächste konsequente Schritt die Zuerkennung einer Würde, die der Menschenwürde gleicht und die KI zum sittlichen Subjekt macht, inklusive Wahlrecht. Das wäre alles andere als wünschenswert.
Die christliche Vorstellung vom Menschen als Ebenbild Gottes schreibt ihm eine besondere Würde zu. Was bedeutet das für unseren Umgang mit KI? Hat eine Maschine jemals eine eigene Würde?
Hein: Wenn wir Gottes Geschöpfe sind, nach dem Abbild Gottes geschaffen, haben wir die Würde von Gott her. Wenn Sie das ablehnen, müssen Sie philosophische Klimmzüge machen, um die menschliche Würde von der Tierwürde zu unterscheiden. Tiere haben keine Moralität als sittliche Subjekte. Verantwortung, Würde und Moralität sind eng miteinander verbunden. Ich bin dagegen, der Maschine eine Würde zuzugestehen. Ein Gewissen im Sinne eines Erkenntnisvermögens oder einer Urteilsinstanz im technischen Sinne ja, aber die Zuerkennung einer Personenwürde geht darüber hinaus. Das sagt auch der Papst in der Enzyklika „Magnifica Humanitas“.
© privat
In seinen Vorträgen beschäftigt sich Rudolf OPraem mit dem Unterschied zwischen Mensch und Maschine.
Wenn Maschinen immer besser kommunizieren, Gefühle erkennen und menschliche Reaktionen simulieren können: Was unterscheidet uns dann noch von ihnen?
Hein: Unsere Verwundbarkeit, unsere Fehlerhaftigkeit, als Ethiker füge ich noch hinzu: unsere Moralität. Wir haben noch diese Oberhoheit. Der Mensch ist ein freies, verantwortlich handelndes Wesen. Das kann uns die KI nicht wegnehmen. Alles hängt letztlich an unserem Selbstverständnis: was macht uns als Menschen aus? Wenn wir hingegen sagen, wir sind nur ein biologisch programmierter Zellhaufen, dann unterscheidet uns eigentlich nichts von der KI.
Könnte die KI uns helfen, menschlicher zu werden?
Hein: Sie kann helfen, uns auf die wesentliche Dinge auszurichten. Auf das, was das Menschliche ausmacht, was wir überhaupt sind und was wir können.
Viele Menschen nutzen die KI, ohne genau zu wissen, wie sie funktioniert. Müssen wir als Gesellschaft erst lernen, mit dieser Technologie umzugehen, bevor wir ihr immer mehr Entscheidungen überlassen?
Hein: Unser Umgang mit KI ist ein Stück weit unverantwortlich. Wir sollten im Auge behalten, dass wir es nicht mit einem Menschen zu tun haben. Gleichzeitig erleben wir eine Vermenschlichung, wenn die KI zum besten Freund, Kumpel oder gar Liebhaber wird. Das ist natürlich eine Gefahr.
Die technische Entwicklung schreitet rasant voran, die ethische und politische Debatte hält kaum Schritt. Sind wir dabei, die Kontrolle über die eigene Schöpfung zu verlieren?
Hein: Manchmal fürchte ich, wir sind dabei, die Kontrolle zu verlieren. Es gibt aber auch gute Ansätze weltweit – die Enzyklika ist nur ein Beispiel dafür. Hier regt sich das menschliche Gewissen!
Wenn Sie technische Allmacht hätten, welche wichtigste Regel würden Sie der KI geben?
Hein: Die Würde des Menschen achten.



