Was für immer neue „KI-Sommer“ gesorgt hat, hätte am Ende doch zu mehr geführt als Herbert Simons Prognose beim Nach-denken über einen systematischen Vergleich zwischen natürlicher und künstlicher Intelligenz mit Blick auf ei-nen „rational choice“ noch 1955 zuließ: „The one scored as a genius the other would appear a moron - and con-versely.“ Zu mehr geführt als „schwacher KI“, als „KM“, „Künstlicher Mustererkennung“. Selbst zu mehr als Zug 37 (ein auch für Go-Experten begeisternd kreativer Zug von AlphaGo gegen Lee Sedol 2016 mit 5:1 Siegen für Goo-gles Deep-Learning-System und der Weckruf der chine-sischen KI-Euphorie).
Das letzte Meisterwerk des Hephaistos?
Science-Fiction-Narrative machen dort weiter, wo Ho-mer niemals endete. Was bedeutet dieser finale Techno-logiesprung für das humanum? Gödels Theoreme (in je-dem formal arithmetikfähigen System lassen sich Aussagen formulieren, die wahr aber weder beweisbar noch widerlegbar sind) jedenfalls scheinen nicht hinreichend zu sein, um starke KI a priori für unmöglich zu erklären - warum sollte eine starke KI einen Übergang auf höhere Metareflexionsebenen prinzipiell nicht bewerkstelligen können? Aber ist eine starke KI deswegen zur Ethik fähig, „human“? Wird sie eine Singularität wie wir oder wir am Ende wie sie?
Insbesondere ethisches Urteilen und ästhetisches Wahrnehmen wären von einer starken künstlichen Intelligenz zu erwarten
Wir stellen uns zunächst einmal vor, es wäre gelungen. Künstliche Intelligenz kann beschrieben werden als Eigenschaft eines Systems aus Software und Hardware, wel-ches menschliche Fähigkeiten wie Kognition, Emotion oder auch Motorik nachahmt. Ein KI-System kann seine Umgebung wahrnehmen, kommunizieren, entsprechend handeln, ja sogar planen oder Schlussfolgerungen ziehen, vor allem aber auch lernen. Wenn genügend gute Daten zur Verfügung stehen. (Das erklärt, warum Datenschutz und Innovationsmagnetismus zusammen zu denken eine bedeutende Aufgabe ist. Bedeutend, nicht unlösbar, wenn die ratio legis stimmt und nicht vorschnell jede Innova-tion als Fortschritt gesehen wird und vice versa.)
Die heute häufigsten Anwendungsfälle basieren auf der Erkennung von Mustern und dies in einer der menschlichen Fähigkeit weit überlegenen Art und Weise. Gleichzeitig sind allerdings KI-Systeme heute nur sehr rudimen-tär in der Lage, beispielsweise emotionale Kontexte zu erfassen, was mehr bedeutet als die facial recognition von Mimikmustern. KI-Systeme verfügen mithin über kein eigenes „Modell“ der Welt, sie sind nicht „in“ der Welt, haben keinen Nexus aus sich selbst, Gefühlen und Gründen. Eine starke künstliche Intelligenz dagegen wäre in gewissem Sinne eine „künstliche Person“ im umfassen-den Sinne mit Eigenschaften und Fähigkeiten (und Rechten?), die sonst nur dem Menschen selbst oder wenigs-tens der Vorstellung nach Humanoiden zugeschrieben werden können. Die über einen kontinuierlichen Selbst-bewusstseinsstrom verfügen oder auch die Setzung eigener Ziele und folgender, auf Gründen basierenden Entscheidungen und Handlungen. Insbesondere ethisches Urteilen und ästhetisches Wahrnehmen wären von ei-ner starken künstlichen Intelligenz zu erwarten.
Ein starkes KI-System verfügte also über ein eigenes „Modell“ der Welt. Doch wie wird eine starke KI nach ih-rer Erschaffung über ihre Schöpfer denken? Wenn wir die Zukunft und natürlich auch schon die Gegenwart der Wei-terentwicklung und des Einsatzes der künstlichen Intelligenz ethisch nicht absichern, haben wir vielleicht schon zu unseren Lebzeiten eine starke künstliche Intelligenz, die uns möglicherweise moralisch rügen wird, sie geschaffen zu haben.
Kein Leiden, ja kein Tod, negierte Endlichkeit - Verheißung oder Verdammnis?
Nur wenig hat mehr Verführungskraft als die Vision ei-ner starken KI, nur wenig mehr Angstpotenzial. Der Mensch ist heute in der erst- und vielleicht letztmaligen Lage, mit eigenen Fähigkeiten schwerlich aus der an-tropogenen Krise heraus zu kommen. Die Komplexität der Probleme ist mehrdimensional zu hoch und die na-heliegende Lösung der „Suffizienzrevolution“ (Vittorio Hösle) setzt die heute wenig salonfähige Idee einer uni-versalen Ethik ebenso voraus wie emotionale Bindekräfte, die zu Handlungen entlang des als moralisch richtig Er-kannten motivieren (wie z. B. Selbstkonsumsteuerung). Universalität reduziert Komplexität. Wenn wir stattdes-sen unser Sozialkapital in die selbstwidersprüchliche normative Kraft des Faktischen investieren, sind wir zwangsläufig auf höhere Mächte angewiesen, die uns ret-ten mögen. Dabei mag es mit bloß gescheiten, selbst tie-fen Instrumenten nicht getan sein. Zwar ist ohne selbst schwache KI schon heute wenig möglich in einer modernen superstrukturellen Welt – der Schritt vom Geschöpf zum Schöpfer mag dabei nicht weit sein. Um in einer Welt zu bestehen, die man doch nicht selbst geschaffen hat. Wird KI uns also retten, vielleicht gar und notwendig als starke KI? Oder sind wir gut beraten, jetzt, da es möglicherweise noch möglich ist, Skynet (die böse Super-KI aus den Terminator-Filmen) zu vermeiden, auf die KI-Bremse zu treten? Ist diese Wahl am Ende gar keine Wahl mehr, da das ökonomische Prinzip sich wesenhaft mit dem Gedanken einer sich ins unendliche entgren-zenden KI deckt wie mit der menschlichen Seelenstruk-tur, die nicht durch Werte begrenzt wird? Die Ambiva-lenz der Technik als anthropologische Grundbestimmtheit bricht hier erneut mit aller Macht auf.
Der Mensch ist nicht nur aber auch Mensch durch Technik
Reflexionen über Technik sind kein neuzeitliches Phänomen in einer zunehmend vom Digitalen geprägten Wissenschaft und Gesellschaft. In der frühen Philoso-phiegeschichte spielte der Begriff der techne bereits in der sophistischen Anthropologie eine bedeutende Rolle, zudem als ein zentraler Begriff der Philosophie des Sokrates. Eine ausgearbeitete „Philosophie der Technik“ blieb freilich späteren Entwicklungen vorbehalten. Tech-nik setzt die konkrete und tiefe Einsicht in die Natur voraus und stellt somit eine Fortsetzung der Natur mit menschlichen Mitteln dar. Nicht ohne Grund sind bis heute viele technische Innovationen deutlich von der Natur inspiriert. Selbst dort, wo das natürliche Vorbild selbst noch nicht richtig verstanden wurde, das Gehirn und sein Ich. Aber auch die Imagination kann technolo-gische Entwicklung befördern, man denke an Science-Fiction (wobei Stanislaw Lem gute SF letztlich stark an naturwissenschaftlichen Grundlagen ausrichtet). Technik ist allerdings weit mehr als eine Nachahmung der Natur, sie ist Emanzipation, ja Auflehnung. Als Menschen sind wir Kinder der Natur und gleichzeitig Geistwesen, unsere Existenz findet statt zwischen Realität und Idealität, zwischen Sein und Sollen. Als politisches Tier liegt unser Anfang in der Technik und ihrer Reflexion, unser (Gattungs)Ende ebenfalls. Ganz konkret durch die in weiten Teilen heute schon irreversiblen Umweltvernichtungen, ideal durch eine Relativierung des Humanums. Eine Relativierung, die in der starken KI ihren Höhepunkt finden würde. Allerdings gehört zur Technik auch ihre instrumentelle Potenz - sie kann eben auch für sinnvolle und gute Zwecke eingesetzt werden. Kann. Den digita-len Transformationisten ist die Erhaltung der Mitwelt kein erstrangiges Anliegen.
Wenn doch aber Technik eines der entscheidenden We-sensmerkmale des Menschen darstellt, wie kann dann eben dieses Wesensmerkmal gleichzeitig das menschliche Wesen im Kern gefährden? Der Mensch ist in der Welt aber zu Selbstnegation fähig - und vielleicht genau deswegen ein so erfolgreiches Mängelwesen (Arnold Gehlen).
Eine KI, sie alle zu knechten
In einem bekannten BBC-Interview aus dem Jahre 2014 formulierte der vordenkende theoretische Physiker Stephen Hawking: „The development of full artificial intelligence could spell the end of the world.“ In der Tat löst KI nicht nur freudige Hoffnungen auf Heilung im durchaus umfassenden Sinne aus. Denn diese Hoffnungen mögen durchaus unter Feuer stehen durch die ökonomisch-technische Datengrundlogik der Spätmoderne. Was andererseits nicht bedeuten kann, auf verantwortbare Chancen zu verzichten.
Technik ist eben Bedürfnisbefriedigung aber um den Preis der unmittelbaren Befriedigung der Bedürfnisse (Ortega y Gasset). Technik generiert Bedürfnisse einer neuer Art. „Indem die Technik den Menschen von der Natur be-freit, bindet sie ihn auch wieder an sie.“ (Vittorio Hösle) In diesem Sinne ist Technik wie bereits angeklungen auch nicht nur neutral, nicht bloßes Mittel zum Zweck. Tech-nisches Handeln, insbesondere dort, wo es kreativ und innovativ ist, neigt zum Selbstzweckcharakter. Es trägt seine Befriedigung in sich selbst. So mag der KI-Entwick-ler nicht primär an den Folgen seiner Entwicklungen in-teressiert sein, die über Technik und Nutzen hinaus ge-hen. Der Mensch ist aber mehr als ein homo faber.
KI muss ethisch bewertet werden - deep Ethics
Der Mensch kann Ethik. KI bedeutet auch „Kategorischer Imperativ“ (Kant). Ab und an jedenfalls. Auch in der Tech-nikwelt by design. Die Frage „Was ist machbar?“ muss vorgängig gegründet sein in der Frage „Was soll gemacht werden?“. Aus den Fakten einer KI-Nutzung lassen sich keine moralischen Urteile über die Legitimität jener Nutzung ableiten. Der Verweis auf die Legalität hilft eben-falls wenig, da es ungerechte Gesetze gibt - und legale Digitaldiktaturen. Der ehrbare KI-Entwickler lernt diese Facetten mitzureflektieren, die Fachgesellschaften un-terstützen, Leitlinien auf Unternehmens-, nationaler und europäischer Ebene ordnen ein. Der Gesetzgeber setzt demokratisch legitimierte Spielregeln. So mögen wir das. Damit am Ende nicht KI und Daten eine subtile neue Herrschaftsform jenseits aller demokratischer Souverä-nität generieren (oder dies schon längst haben). Platons Werk heißt „Der Staat“ und nicht „Der Datenkonzern“.
Und doch: Technikfolgeabschätzung, deep ethics - der europäische Weg der Humanzentrierung muss seine mehr als metaphysische Wettbewerbsfähigkeit global noch un-ter Beweis stellen. Dass Leninismus und Kapitalismus unter Umständen doch zu Innovationen führen können, konnten wir bestaunen und mit Recht kritisieren. Dass Ethik und Kapitalismus dasselbe tun kann, wissen wir vom Grundsatz - die good Soziale Marktwirtschaft ken-nen wir. KI-Leader mit einer Herde Unicorns sind aller-dings noch keine europäische Normalität. Retten sollten wir uns selbst. Noch kann es gehen. Wenn KI uns dabei verantwortungsvoll unterstützt, ist sie willkommen.
Technik ist allerdings weit mehr als eine Nachahmung der Natur, sie ist Emanzipation, ja Auflehnung.
Prof. Dr. Stefan Heinemann
Professor für Wirtschaftsethik
FOM Hochschule Sprecher Ethik-Ellipse Smart Hospital, Universitätsmedizin Essen
Das aktuelle Handelsblatt Journal
