Künstliche Intelligenz und Ethik

Auf einer Fachtagung sorgten sich die Fachleute im Raum, die Wortvorhersage könne den Menschen die Kontrolle über das Gespräch nehmen: Nicht mehr die Person bestimme, was gesagt wird, sondern die Technik. Die anwesenden Nutzenden von Kommunikationshilfen sorgten sich um etwas anderes – nämlich darum, dass Fachleute zu Türstehern werden und ihnen den Zugang zu genau dieser Technik verwehren.

Beide Sorgen sind berechtigt. Beide beschreiben einen realen Schaden. Und beide zeigen in entgegengesetzte Richtungen.

Es gibt also zwei Irrtümer, nicht einen:

Die Heilpädagogik hat für diese Lage eine alte Regel: die am wenigsten gefährliche Annahme. Wenn man sich irren kann, soll man sich so irren, dass der Irrtum den geringsten Schaden anrichtet. Üblicherweise wird sie gegen die Vorenthaltung ins Feld geführt – im Zweifel Kompetenz unterstellen, im Zweifel das Werkzeug geben. Das bleibt richtig. Aber sie gilt symmetrisch: Wer im Zweifel eine fremde Äußerung als die der Person ausgibt, richtet ebenfalls Schaden an – und zwar einen, der sich nicht zurücknehmen lässt.

Bevor man Regeln für Hilfen aufstellt, muss ein verbreiteter Denkfehler weg: die Vorstellung, es gebe einen unbeeinflussten Normalzustand, von dem jede Hilfe abweicht. Den gibt es in der Unterstützten Kommunikation nicht – nicht einmal ansatzweise.

Wer eine Kommunikationshilfe benutzt, benutzt ein Vokabular. Jemand hat entschieden, welche Wörter darin vorkommen. Jemand hat entschieden, welche nicht. Jemand hat entschieden, wo sie liegen, wie groß sie sind, wie viele Schritte es bis zu ihnen braucht. Diese Entscheidungen sind keine Kleinigkeit: Sie bestimmen vor, was überhaupt gesagt werden kann und was mit vertretbarem Aufwand gesagt werden kann – und das ist im Alltag fast dasselbe. Ein Wort, das zwölf Schritte entfernt liegt, existiert praktisch nicht.

Wenn wir gewohnt sind, diese massive Vorstrukturierung als selbstverständlich hinzunehmen, dann sollten wir wenigstens ehrlich sein, wenn wir bei einer Wortvorhersage plötzlich die Autorschaftsfrage stellen. Die Frage ist richtig. Sie ist nur schon viel früher fällig.

Damit die Debatte präziser wird, hilft eine Ordnung. Sie leistet etwas, was die übliche Entgegensetzung „Mensch oder Maschine“ nicht leistet: Sie macht sichtbar, worüber wir eigentlich reden. An jeder Sprosse stehen drei Fragen: Wer hat die Absicht? Wer liefert den Inhalt? Wer entscheidet, dass es gesagt wird?

Drei Beobachtungen sind wichtiger als die Tabelle selbst.

Erstens: Der Bruch liegt zwischen Sprosse 7 und 8 – nicht zwischen Mensch und Maschine. Bis Sprosse 7 kommt die Absicht von der Person; sie will etwas sagen und weiß ungefähr was. Ab Sprosse 8 kommt sie von woanders: aus dem, was das Gegenüber gerade gesagt hat, aus Annahmen über die Person, aus dem statistischen Mittel eines Sprachmodells.

Zweitens: Jede Sprosse hat eine menschliche und eine maschinelle Variante. Sprosse 5 ist eine Assistenzkraft, die Sätze vorformuliert hat – oder ein Hersteller, der sie mitgeliefert hat. Sprosse 7 ist ein Assistent, der aus „Bus spät wütend“ einen Satz macht – oder ein Sprachmodell, das dasselbe tut. Ein Mensch auf Sprosse 9 ist genauso ein Problem wie eine Maschine auf Sprosse 9. Und das ist keine Zuspitzung: Die menschliche Variante ist ungleich häufiger, älter und weniger geregelt als die maschinelle.

Drittens: Höher ist nicht schlechter. Eine Person, die auf Sprosse 7 endlich in dem Ton reden kann, der ihr entspricht, ist besser dran als eine, die auf Sprosse 2 festgehalten wird, weil jemand ihre Autorschaft schützen wollte. Die Sprosse sagt nichts über Erlaubtsein – sie sagt nur, wie viel Absicherung diese Hilfe braucht, um noch die Äußerung der Person zu sein.

Beth Moulam, britische Nutzerin von Unterstützter Kommunikation und Selbstvertreterin, hat die Frage grundsätzlich verschoben. Ihr Ausgangspunkt ist eine Beobachtung aus dem eigenen Leben: Wenn eine Person, die Unterstützte Kommunikation nutzt, plötzlich mehr sagt, schneller antwortet oder neue Wörter benutzt, entsteht Misstrauen. Bei sprechenden Kindern entsteht in derselben Situation Freude.

Ihr Argument ist dreiteilig und sitzt.

Der Doppelstandard in der Sprachförderung. Bei sprechenden Kindern gilt es als vorbildliche Förderung, wenn Erwachsene Äußerungen aufgreifen, erweitern, umformulieren und zurückspiegeln. Genau das ist Modeling, genau dafür bilden wir Fachkräfte aus. Tut eine Maschine dasselbe für eine erwachsene Person, die Unterstützte Kommunikation nutzt, wird daraus ein Verdachtsmoment.

Das ist fachlich stark, weil es prüfbar ist. Die Autorschaftsfrage („Stammt dieses Wort von ihr?“) ist bei jeder gemeinsam entstandenen Äußerung unbeantwortbar und lädt zum Testen ein. Die Handlungsmachtfrage („Kann sie das Angebot ablehnen – und tut sie es auch?“) ist beobachtbar.

Und sie ist genau die Frage, an der das umstrittene Verfahren der Gestützten Kommunikation (Facilitated Communication) scheiterte – nicht zu verwechseln mit Unterstützter Kommunikation: Dort konnte die Person eben nicht widersprechen, nicht abbrechen, nicht das Thema wechseln; die Botschaften waren zu konsistent mit den Erwartungen der stützenden Person und zu wenig mit ihren eigenen.

Bemerkenswert ist auch, wie Beth Moulam selbst damit umgeht: Unter ihren Beitrag setzt sie einen Hinweis, welche Werkzeuge sie benutzt hat – und dass sie deren Verbesserungsvorschläge nicht übernommen hat. Sie fordert also keine Beweislastumkehr, sondern zeigt, wie freiwillige Offenheit aussieht: als Souveränität, nicht als Rechtfertigung.

Nicht neu ist die Vorhersage. Ein Modell, das das nächste Wort vorschlägt, macht dasselbe wie vor dreißig Jahren, nur besser. Sprosse 3 bleibt Sprosse 3.

Neu ist die Sprungweite. Zwischen „dem nächsten Wort“ und „der ganzen Antwort“ liegt kein gradueller, sondern ein qualitativer Unterschied. Wer zwei Stichwörter eingibt und einen von sechs vollständigen Sätzen wählt, hat die Absicht geliefert und die Auswahl getroffen – aber der Inhalt dazwischen stammt vom Modell.

Neu ist die Herkunft des Inhalts. Ein Sprachmodell ist auf Text trainiert, den fremde Menschen geschrieben haben – überwiegend nicht behinderte, überwiegend in Schriftsprache, überwiegend im normativen Mittel. Das Modell enthält keinerlei Inhalt der Person. Was es liefert, ist statistisch plausibel, nicht persönlich wahr. Die Folge ist eine Verschiebung, die schwer zu bemerken ist, weil sie das Ergebnis besser aussehen lässt: glatter, höflicher, gefälliger, mittiger.

Neu ist die Personalisierung – und ihr Preis. Die naheliegende Antwort lautet: Trainiere das Modell auf die eigene Sprache der Person. Genau das hat ein Forscher an sich selbst durchgeführt – sieben Monate eigene Kommunikationsdaten, ein darauf angepasstes Modell, drei Monate täglicher Gebrauch. Das Ergebnis ist ehrlicher als jede Werbebroschüre: Der Nachbearbeitungsaufwand sank. Aber das Mitschreiben des eigenen Alltags veränderte sein Erleben von Handlungsmacht, das Training hob manche Anteile seiner Identität hervor und dämpfte andere, und das System brachte gelegentlich private Details in Situationen zurück, in die sie nicht gehörten.

Neu ist auch die Chance bei der Stimme. Die Passung einer Stimme reicht tiefer als Akzent oder Sprache – es geht um Zugehörigkeit und Selbsterkennen. Menschen, die nicht binär oder transgeschlechtlich sind oder nicht im Land ihrer Gerätestimme geboren wurden, bewerten die Passung ihrer verfügbaren Stimmen durchgängig schlechter. Hier erweitert Künstliche Intelligenz Autorschaft ganz unstrittig – und die Sorge um Autorschaft darf nicht als Argument dagegen missbraucht werden.

Zwei Ergänzungen aus dem deutschsprachigen Raum gehören dazu. Die Verifikationspflicht bei eingeschränktem Sprachverständnis: Wer nicht prüfen kann, was das System für ihn formuliert hat, für den muss jemand anderes prüfen – sonst ist es keine Hilfe, sondern eine Behauptung. Und die Konsistenzfrage: ob Nutzende die Kommunikation als konsistent genug erleben, um überhaupt ein Symbolverständnis aufzubauen. Das ist ein pädagogischer Einwand, kein ethischer – und für Menschen, die noch lernen, wiegt er schwerer als alles andere.

Das Destillat. Die ersten sechs gelten für jede Hilfe – menschliche wie maschinelle. Die weiteren sechs kommen mit der Sprossenhöhe hinzu.

Für jede Hilfe

1. Die Absicht kommt von der Person. Die Hilfe darf den Weg abkürzen, nicht den Anlass liefern.
2. Die letzte Wahl ist real. Sichtbar, hörbar, ablehnbar, mit ausreichend Zeit. Eine Wahl unter Zeitdruck oder mit nur einer Option ist keine.
3. Es muss ein „Nein“ geben, das ankommt. Für die einzelne Äußerung und für die Funktion insgesamt. Wer nicht ablehnen kann, stimmt nicht zu.
4. Abschalten muss über den Zugangsweg der Person gehen. Eine Funktion, die nur mit Maus oder Menütiefe abzuschalten ist, ist für die Person nicht abschaltbar – sondern nur für ihr Umfeld.
5. Die Hilfe wird erprobt, nicht vorausgesetzt. Mit dieser Person, an ihrem Gerät, gegen den Zustand ohne. Was nicht hilft, wird abgeschaltet – auch wenn es nach Fortschritt aussieht.
6. Das Repertoire enthält die unbequemen Äußerungen. Nein, Stopp, Widerspruch, Beschwerde, Unterbrechung, Wut, Intimes – mit derselben Zugriffsgeschwindigkeit wie die höflichen.

Zusätzlich, je höher die Sprosse

7. Die Rohfassung bleibt sichtbar und sendbar. Wer geglättet hat, muss zeigen können, was vorher dastand. Die telegrafische Äußerung ist nicht das Defizit der Person, sondern in diesem Moment ihre Sprache.
8. Glätten ist eine Entscheidung, keine Voreinstellung. Ton, Direktheit und Dringlichkeit gehören der Person. Ein System, das jede Äußerung höflich macht, verändert, wie ihr Umfeld sie einschätzt.
9. Wer im Namen der Person spricht, sagt es. Nicht die Person kennzeichnet sich – die Assistenz kennzeichnet sich. „Ich formuliere, sie bestätigt“ ist ein Halbsatz und die Grundlage dafür, dass ihr geglaubt wird.
10. Niemand antwortet als die Person, wenn die Person nicht beteiligt ist. Kein Mensch, keine Maschine, keine Automatik – nicht im Chat, nicht im Gespräch, nicht im Bericht.
11. Personalisierung aus eigenen Daten schlägt allgemeine Glättung – ist aber keine unschuldige Lösung. Wer aufzeichnet, verändert das Aufgezeichnete. Wer festlegt, wer jemand war, erschwert ihm, jemand anderes zu werden. Aufzeichnung braucht Zweck, Frist, Einsicht und Löschung.
12. Bei Menschen im Spracherwerb sind die oberen Sprossen begründungspflichtig. Nicht verboten, aber nicht voreingestellt, zeitlich begrenzt und regelmäßig überprüft – mit einer Antwort auf die Frage, welche Lerngelegenheit gerade ersetzt wird.

• KI und Unterstützte Kommunikation – was Künstliche Intelligenz beitragen kann
• KI kennzeichnen – was das Gesetz verlangt und was darüber hinaus richtig ist
• Guter Gesprächspartner – acht Bausteine, von Zutrauen bis Dranbleiben
• Unser Standpunkt – die Haltung dahinter

Beratung anfragen

Ausführlich begründet – die Leiter im Einzelnen, die Evidenz zur Wortvorhersage, vorgefertigte Sätze, Ko-Konstruktion, Kinder als eigener Fall und was die Hersteller zusagen – steht das alles im Grundlagentext „Hilfe, die nicht übernimmt“ (PDF).