Am 30. Mai gastierten Kathinka und Andrea mit dem Turing-Bus-Chatbot-Workshop auf der youcoN 2019 – Wir.L(i)eben.Zukunft in Prora bei Binz. Ein Bericht.

Intelligent ist, wen oder was du dafür hältst. Das ist eine Erkenntnis, die der Turing-Test mit sich bringt. Dieser von Alan Turing 1950 beschriebene Test für die Denkfähigkeit von Computern spielt in der Geschichte der Künstlichen Intelligenz eine bedeutende Rolle. In unserem Workshop über Chatbots, den Urgesteinen der Sprachassistenzsysteme, haben wir ihn nachgespielt ([1]). Es wurde heiß diskutiert, was typische Antworten einer Maschine von denen eines Menschen auf bestimmte Fragen etwa nach Büchergeschmack, politischen Haltungen zu brisanten Themen, Rechenaufgaben, Essensvorlieben klar unterscheidet: Menschen hätten eine eigene Meinung, Einfühlungsvermögen und Emotionen, während Maschinenantworten anhand ihrer Geschwindigkeit, ihrer lexikongleichen Wissenswiedergabe und ihrer Emotionslosigkeit davon abzugrenzen wären. Klar könne man Verzögerungen, (Un-)Höflichkeiten, Unschärfen oder Fehler in der Wissensbasis und eine gewisse Emotionalität auch simulieren, doch eigentlich erkenne man eine Maschine immer. Nun, im Spiel jedenfalls hielt die Gruppe den programmierten Konversationspartner für einen Menschen und den wirklichen Menschen für eine Maschine. Denn das mit der Unterscheidung von Mensch und Maschine anhand der Intelligenz ist nun wirklich so eine Sache, die viel mit Projektion zu tun hat. Eine Teilnehmerin erzählte, dass sie sich bei Alexa entschuldigt habe, als sie einmal zu Hause über das Gerät gestolpert sei. Dabei ist bei Alexa doch sonnenklar, wie dumm sie ist und dass der technische Gegenstand, in dem die Sprachausgabe und -eingabe erfolgt, nicht lebt.

Was passiert nun aber hinter den Kulissen solcher Chatsysteme, wie wird ihre Denkfähigkeit simuliert?
Zum einen schauten wir uns hierfür das Regelwerk des ersten wirklich berühmten Chatbots, ELIZA, genauer an ([2]). Mit ELIZA können sich viele Menschen recht angeregt eine ganze Weile unterhalten. Das nicht mal 700 Zeilen umfassende Skript der „Therapeutin“ ELIZA gibt Aufschluss darüber, wie sich eine Unterhaltung in gewisser Weise automatisieren lässt – ob sie dann noch eine wirkliche Unterhaltung, ja, gar ein Therapiegespräch ist, ist bis heute umstritten. Während der heutige weltweit anerkannte KI-Entwickler Andrew Ng und die Psychologin Alison Darcy das ELIZA-Konzept ernsthaft kommerziell vermarkten, wurde ELIZAs Erfinder Joseph Weizenbaum zu einem großen Kritiker seiner eigenen Profession. Gerade die Auseinandersetzung mit den historischen Schlüsselfiguren Weizenbaum oder dem Informatikpionier Alan Turing ist bis heute wichtig, um die Wunschmaschine KI zu verstehen – daher hatten wir im Workshop ein Chatbot-Rechercheteam, das uns über wichtige historische Hintergründe informierte. Die anderen Teilnehmer*innen des Workshops knackten ELIZAs Geheimnisse, veränderten ihre Skripte ein wenig, so dass sie in der Unterhaltung anders reagierte. Wieder andere erkundeten außerdem, wie sie mit Hilfe der Maschinenlern-Techniken von IBM Watson einen modernen, auf statistischen Lernmodellen beruhenden Chatbot bauen können ([3]). So wurden Experten-Dialogsysteme entwickelt, die Auskunft zur youcoN, zu München, Programmiersprachen, Harry Potter oder der Feuerwehr geben konnten. Diese stießen aber auch schnell an Grenzen, da in der kurzen Workshopzeit nur jeweils fünf Teilthemenfelder intensiver abgedeckt werden konnten. Die ersten Prototypen boten einen guten Einblick, was „künstliche Intelligenz“ in Chatbots auf Webseiten, Messengern oder in Sprachassistenten wie Alexa, Siri und Cortana eigentlich bedeutet. Die Erwartungshaltungen, die an die Problemlösefähigkeiten von KI geknüpft werden, werden realistischer, wenn wir ein wenig mehr davon verstehen, wie müßig und genau das Trainieren und Testen solcher Systeme ablaufen muss, damit sie in einem speziellen Gebiet sinnvolle Lösungen liefern und dabei sogar noch wie menschliche Gesprächspartner*innen erscheinen.

Bei den Demonstrationen der verschiedenen Recherche- und Programmierergebnisse eröffneten sich viele Diskussionsstränge, die wir noch weit über die Workshopzeit hinaus hätten fortführen können: Einige Teilnehmer*innen hielten es für wenig sinnvoll, die Maschinenhaftigkeit von Chatbots zu verschleiern – was sei ihr Sinn, wenn man nicht mehr erkenne, dass sie Maschinen sind? Erstaunt zeigten sich ebenfalls einige, dass Chatbots und Sprachassistenzsysteme oft Frauennamen tragen. Eine zentrale Frage war auch, inwiefern die Simulation menschlicher Denk- und Sprechfähigkeit durch Computerprogrammen in Zusammenhang mit Wissenssystemen für eine nachhaltige Entwicklung wirklich nutzbar gemacht werden kann und ob dies überhaupt nötig ist, wenn KI so viele neue Probleme aufwirft und allein durch ihre Bezeichnung für viel Verwirrung und Verblendung sorgt. Auch wenn Maschinen noch nicht denken, haben wir uns zumindest eine Menge zu denken gegeben ;-)

Unser Workshop ist ein Remix aus folgenden Bildungsmaterialien:

• [1] Turing-Test von Annabel Lindner und Stefan Seegerer: AI Unplugged – Wir ziehen künstlicher Intelligenz den Stecker, Didaktik der Informatik, FAU Nürnberg 2019, URL: https://ddi.cs.fau.de/schule/ai-unplugged
• [2] Teile zu ELIZA, Weizenbaum, Turing von Malte Hornung und Helmut Witten: Künstliche Intelligenz im Informatikunterricht -Unterrichtseinheit Chatbots, Berlin 2008, URL: https://medienwissenschaft.uni-bayreuth.de/inik/entwuerfe/chatbots/
• [3]​​​​​​​ Chatbots mit IBM Watson von Dale Lane (Machine Learning for Kids): Chatbots, ²⁰¹⁸⁄₂₀₁₉, URL: https://machinelearningforkids.co.uk

Einen Bericht von Kathinka Richter im youthmag gibt es hier: * http://youthmag.de/youcon-2019/wann-wird-ki-menschlich_3569/