Mensch, Maschine und das Dazwischen
Die KI wird viele Entscheidungen abnehmen - es sollten nicht allzu viele sein, warnt der Deutsche Ethikrat in seiner jüngsten Stellungnahme zur Technikentwicklung.
Kameras und Mikrofone sind im Klassenzimmer montiert, einige Schülerinnen und Schüler tragen kleine Geräte am Körper, Wearables; die zeichnen ein genaues Bild jedes Individuums auf: Herzfrequenz, Körpertemperatur, emotionale und psychische Gesundheit, Mimik, Köperhaltung und Sprache, Sozialverhalten und natürlich die schulischen Leistungen – riesige Datenmengen. Mittels Künstlicher Intelligenz wird jede Unaufmerksamkeit erfasst, jeder Lernfortschritt dokumentiert.
So etwas wäre noch vor einigen Jahren Science Fiction gewesen, heute aber ist die Komplett-Durchleuchtung an einigen chinesischen Schulen Alltag. Denkbar wäre sie auch in Deutschland – eine Arbeitsgruppe des Deutschen Ethikrates hat jetzt über diesen Aspekt in ihrer Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ heiß diskutiert.
Die Menschheit befinde sich aktuell in einem „KI-Sommer“ heißt es darin; in einer Hochzeit der Entwicklungen dieser Technik. Die Veröffentlichung des Chatbots ChatGPT vor vier Monaten verdeutlicht das extrem: Es generiert vermeintlich gut durchdachte, aber tatsächlich auch herbeihalluzinierte Texte, die nach Wahrscheinlichkeiten von Sprache simuliert werden. Und es war noch relativ unausgereift, mittlerweile ist die nächste Generation auf dem Markt. Ein Vorgeschmack auf Kommendes: eine neue, immer noch mehr von Technik bestimmte Zeit.
Maschinell lernende KI und neuronale Netze, die Unmengen an Daten verarbeiten, sind kein kurzfristiger Trend, sondern ein wachsendes Business, das unseren Alltag durchdringt. Das wirft eine Menge Fragen auf: Wie geht man mit einer immer besser entwickelten künstlichen Intelligenz um, wo hilft sie, wo beschneidet sie Möglichkeiten? Welches Potenzial hat sie? Welche Aufgaben übernimmt sie, wen ersetzt sie, und ist das schlecht oder gut? Was muss getan werden, um KI nutzbar zu machen, ohne dass sie unkontrollierbar wird?
Ein Startpunkt ist gesetzt
In seiner Analyse nimmt der Ethikrat – aufbauend auf die Stellungnahmen „Big Data und Gesundheit“ (2017) und „Robotik und Pflege“ (2019) – die Wechselwirkungen zwischen Mensch und Technik in den Blick. Seit 2020 hat der Ethikrat auf Bitte des Präsidiums des Deutschen Bundestags nun fast 300 Seiten Stellungnahme erarbeitet: die Grundlage für politische und gesellschaftliche Debatten, ein fundierender Beginn einer Diskussion, ein Startpunkt. Sie eruiert technische, philosophische und methodische Grundlagen und betrachtet ethische Fragestellungen in vier Bereichen, in denen sich KI stark ausbreitet: Medizin, Schule, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung.
Bei ihrer Analyse betrachtet die Arbeitsgruppe eingehend die komplexen Konzepte von Intelligenz und Kreativität, die nicht einfach auf Künstliche Intelligenz übertragbar sind. Es geht auch um Verständnis und Vernunft. Der Ethikrat postuliert, dass „die menschliche Urteilspraxis technisch nicht substituierbar“ sei – zumindest nicht durch heutige KI-Programme. Diese „verfügen nicht über die dafür relevanten Fähigkeiten des Sinnverstehens, der Intentionalität und der Referenz auf eine außersprachliche Wirklichkeit“.
Trotzdem vertrauen Menschen algorithmisch erzeugten Ergebnissen und automatisierten Entscheidungen oft mehr als menschlichen. Damit werde Verantwortung delegiert. Das kann dazu führen, dass „ein KI-System allmählich in die Rolle des eigentlichen ,Entscheiders‘ gerät und menschliche Autorschaft und Verantwortung ausgehöhlt werden“, warnt der Ethikrat.
In der öffentlichen Meinungsbildung sieht der Ethikrat die Gefahr, dass am wettbewerblichen Geschäftsmodell ausgerichtete Algorithmen durch eine stark personalisierte Informationsauswahl und aufmerksamkeitsbasierte Faktoren Falschnachrichten, Hassrede, Hetze und strategische Desinformation begünstigen können. Durch die KI verändern sich „Informationsqualität und Diskursqualität“, so der Ethikrat; und damit eine wichtige Grundlage der öffentlichen Meinungsbildung – „mit potenziell weitreichenden Konsequenzen für Prozesse der politischen Willensbildung“.
Datenverzerrung und Diskriminierung durch Algorithmen könnten auch ein Problem beim Einsatz von KI in der Verwaltung werden. Der Rat sieht aber ebenso mögliche positive Aspekte: Wird die Datenlage richtig genutzt, könnten Ungleichheiten aufgedeckt und korrigiert werden.
Die KI kann, dessen ist sich der Rat sicher, hilfreich sein. Aber: „Ziel und Richtschnur ethischer Bewertung muss immer die Stärkung menschlicher Autorschaft sein.“ Am Anfang steht der Mensch. Und auch am Ende.