Ausgangspunkt
Sprache als Machtinstrument
Illusionen sind eine Sackgasse
Vielleicht kennen Sie folgende Situation: Sie interagieren mit einem digitalen System – einem Chatbot, einem Sprachassistenten oder einer automatisierten Service-Hotline – und spüren nach kurzer Zeit, wie sich ein merkwürdiges Gefühl einstellt. Es wirkt, als wäre da ein Gegenüber. Als würde „jemand“ verstehen, was Sie meinen. Mitunter entsteht sogar der Eindruck von Einfühlung – oder zumindest von Aufmerksamkeit. Genau diesen Eindruck erzeugte ein Computerprogramm, das heute als erster Chatbot gilt: ELIZA.
Entwickelt wurde ELIZA von Joseph Weizenbaum, einem der brillantesten Köpfe der frühen KI-Forschung. Der gebürtige Berliner, der nach seiner Emigration viele Jahre als Informatiker am Massachusetts Institute of Technology tätig war, erkannte früh die Notwendigkeit einer kritischen Auseinandersetzung mit der aufkommenden Künstlichen Intelligenz.
Weizenbaum interessierte sich für die Frage, wie Computer mit Sprache umgehen und ob sie einfache Gespräche mit Menschen führen können. Es ging ihm dabei weniger um die Weiterentwicklung der Technik als vielmehr um den Versuch, menschliches Denken und Verhalten besser zu verstehen – ein weiterer Impuls zur Humanität. So entstand eines der berühmtesten Experimente der KI-Geschichte.
Sprache als Machtinstrument –
Was ELIZA mit Pygmalion zu tun hat
Der Name des Experiments verweist auf ELIZA Doolittle, die Hauptfigur aus George Bernard Shaws Theaterstück Pygmalion. In Deutschland wurde das Bühnenstück vor allem durch die Musical- und Filmadaption My Fair Ladybekannt und prägte das Lebensgefühl einer ganzen Generation – darunter auch das meiner Eltern.
Die große Popularität von My Fair Lady war nicht zuletzt auf die charismatische Präsenz von Audrey Hepburn, musikalische Ohrwürmer wie „Es grünt so grün“ und eine scheinbar romantische Handlung zurückzuführen. Das ursprüngliche Theaterstück aus dem frühen 20. Jahrhundert war allerdings alles andere als romantisch. Shaw, ein überzeugter Sozialist und Feminist, ironisierte den Pygmalion-Mythos und erzählte Elizas Transformation als Geschichte ihrer Emanzipation. Zentrales Motiv der Sozialsatire über die feine englische Gesellschaft war dabei die Sprache als Machtinstrument.
Der egozentrische Sprachwissenschaftler Higgins will mithilfe der armen Blumenverkäuferin ELIZA Doolittle beweisen, dass allein durch verändertes Sprachverhalten der Zugang zur „besseren Gesellschaft“ möglich ist. Tatsächlich gelingt Eliza so der Eintritt in gesellschaftliche Kreise, die ihr zuvor verschlossen waren. Doch im Verlauf der Handlung erkennt sie, dass Higgins sie durch Sprache kontrollieren will. Schließlich nutzt sie dieselben sprachlichen Mittel, um sich zu emanzipieren und eigene Entscheidungen zu treffen. Am Ende wendet sie sich von ihm ab.
An die Kernbotschaft des Theaterstücks knüpfte Joseph Weizenbaum mit ELIZA an – nun jedoch in einem völlig neuen Kontext: Sprache als Mittel der Transformation, diesmal zwischen Mensch und Maschine. Weizenbaum ging es nicht darum zu zeigen, dass Maschinen denken können. Im Gegenteil: Er wollte demonstrieren, dass sprachliches Verhalten nicht mit Denken gleichzusetzen ist.
Weizenbaum programmierte ELIZA als Muster- und Schlüsselwortsystem. Die Software analysierte Texteingaben, suchte nach Schlüsselbegriffen und wählte passende Antwortschablonen aus. Das Programm arbeitete nicht mit Bedeutungen oder Kontextverständnis, sondern ausschließlich mit Regeln, Mustern und Textbausteinen.
Illusionen sind eine Sackgasse –
Wieso wir uns des ELIZA Effekts bewusst sein sollten
Besonders eindrucksvoll zeigte sich die Wirkung von ELIZA im sogenannten DOCTOR-Skript. Dieses Programm sollte einen Psychotherapeuten nach den Grundsätzen der klientenzentrierten Gesprächsführung von Carl Rogers simulieren: nicht bewerten, Aussagen spiegeln, offene Fragen stellen und zum Weitersprechen ermutigen.
Die Versuchsteilnehmenden wurden gebeten, sich so zu verhalten, als befänden sie sich in einer psychotherapeutischen Sitzung. Es entstand ein Dialog, in dem die Maschine scheinbar einfühlsam reagierte und an frühere Aussagen anzuknüpfen schien – obwohl im Hintergrund keinerlei inhaltliches Verstehen stattfand.
Das DOCTOR-Skript enthielt lediglich eine Liste psychologisch relevanter Schlüsselbegriffe. Wurde kein Schlüsselwort identifiziert, griff ELIZA auf allgemein formulierte Standardantworten zurück. So entstand der Eindruck eines sinnvollen Gesprächsverlaufs, obwohl das Programm lediglich Prioritäten in einer Schlüsselwortliste abarbeitete.
Faktisch „verstand“ ELIZA also nichts. Die Wirkung des Programms entstand nicht durch technische „Intelligenz“, sondern durch die Erwartungen der Versuchsteilnehmenden. Bereits wenige einfache Regeln genügten, um diese Erwartungen zu bedienen und die Illusion eines einfühlsamen, verstehenden Gegenübers zu erzeugen.
Weizenbaum war über dieses Ergebnis tief beunruhigt. Er hatte nicht erwartet, dass Menschen einem technischen System menschliche Einsichtsfähigkeit zuschreiben würden. Deshalb wandte er sich entschieden gegen die Vorstellung, Computer könnten menschliche Beziehungen ersetzen.
Unsere Neigung, Computern Einfühlungsvermögen und Verstehen zuzuschreiben, wurde später als ELIZA Effekt bekannt. Für unseren heutigen Umgang mit Künstlicher Intelligenz ist es entscheidend, sich dieses Effekts immer wieder bewusst zu werden.
Ganz im Sinne von Joseph Weizenbaum.