KURZFASSUNG
Bericht zum VORTRAG „Künstliche Intelligenz sogar in der Psychotherapie — Wohin soll das noch führen?“ von Prof. Dr. Bernhard Humm (FB Informatik, Hochschule Darmstadt), Moderation: Prof. Doeben-Henisch, im Institut für Neue Medien (INM), Frankfurt, Schmickstraße 18, Donnerstag 28. September 2017, 19:30 Uhr (Fotos: Zeynep Tuncer)
KONTEXT
Bernhard Humm hatte am 5.Mai 2017 im eJournal Philosophie Jetzt- Menschenbild (ISSN 2365-5062) einen Beitrag veröffentlicht mit dem Titel „Technische Superintelligenzen werden die Menschheit bedrohen“ – Wie kann man eine so absurde Behauptung aufstellen?, der viele positive Reaktionen ausgelöst hatte. Wir hatten daraufhin einen öffentlichen Vortrag im Institut für Neue Medien (INM, Frankfurt) im Rahmen einer neuen Reihe ‚Philosophie Jetzt im Gespräch‘ vereinbart. Sein Vortrag fand dann am 28.September 2017 im INM statt. Und, wie sich zeigte, fand sich ein sehr interessantes Publikum zusammen, was das Gespräch sehr bereicherte.
BERICHT
KI ein Hype
Einleitend machte er deutlich, dass das Thema Künstliche Intelligenz (KI) seit einigen Jahren einen Hype-Charakter hat, was allerdings nicht neu ist. Zitate von Marvin Minsky (1967, 1970) und Ray Kurzweil (2005) illustrierten dies. Der Verweis auf das Märchen von des Kaiser’s neuen Kleider mag auf den ersten Blick krass erscheinen, aber wenn man sich die Marketingverlautbarungen vieler Firmen anschaut, ist dies nicht allzu weit weg davon.
KI im Alltag
Offensichtlich ist, dass Anwendungen mit KI-ähnlichen Eigenschaften mittlerweile im Alltag angekommen sind und wie selbstverständlich benutzt werden (z.B. Gesichtserkennung, Sprachschnittstellen für die Steuerung, selbst fahrende Autos).
Bernhard Humm verdeutlichte diese Breite heutiger Anwendungen mit anderen Projekten, bei denen er beteiligt war, so z.B. die Unterstützung der Entwickler bei einer bekannten Roboterfirma, die Unterstützung bei der Findung eines geeigneten Hotels für die Wünsche von Kunden bei einem bekannten Internetportal für die Hotelreservierung, die Unterstützung der Besucher des Städelmuseums im Auffinden ähnlicher Kunstobjekte, die Unterstützung von Bibliotheksbenutzern bei der Suche nach passender Literatur, oder die Unterstützung von Ärzten beim Identifizieren von Krebsrisiken.
KI und Therapie
Bernhard Humm berichtete dann von einem neuen Projekt mit dem Zentralinstitut für Seelische Gesundheit (ZI) in Mannheim, bei dem es um den Therapiekontext im Fall von Borderline-Patienten geht. Solche Patienten sind extrem sensibel für Belastungen, was bedeutet, dass in der Interaktion mit Ihnen Stressmomente soweit wie möglich minimiert werden müssen.
Die Aufgabenstellung für die Informatik in diesem Fall ist nicht, den Therapeuten zu ersetzen, sondern die Therapie des Therapeuten zu unterstützen.
Ein Anknüpfungspunkt sind die routinemäßigen schriftlichen Befragungen, die die Patienten mit normalem Schreibgerät ausfüllen müssen. Für die Therapeuten ist dies eine wichtige Rückmeldung. Für die Patienten ist es ein Baustein ihrer aktiven Bewältigung der Borderline-Phänomene.
Eine Maßnahme war die Möglichkeit anzubieten, dass die Patienten diese Fragebogen über ihr Smartphone oder den Computer ausfüllen können. Was auf den ersten Blick banal erscheinen mag, stellte sich als eine große Hilfe für die Patienten heraus. Sie empfanden dies deutlich als Erleichterung.
Ein anderer Ansatzpunkt war motiviert durch die allgegenwärtige Gefahr, dass Patienten (aufgrund ihres geringen Stresspegels) sehr leicht zu einem Abbruch tendieren. Für die Therapeuten ist es daher von hoher Bedeutung, zu erkennen, ob sich ein Abbruch andeutet. Es wurde daher versuchsweise begonnen, mit Methoden der statistischen Datenanalyse (heute oft verbunden mit dem Schlagwort von ‚Big Data‘), über eine Vielzahl von (anonymisierten) Fragebogendaten, Anhaltspunkte zu finden, die auf einen wahrscheinlichen Abbruch hindeuten. Die ersten Experimente mit verschiedenen Auswertungstechniken waren sehr positiv. Damit deutet sich an, dass die Therapeuten auf diese Weise eine zusätzliche Unterstützung bekommen könnten, in ihrer Therapie darauf zu achten.
KI und Zukunft der Arbeit
Bernhard Humm betonte einerseits die Normalität und die aktuelle Einfachheit der tatsächlichen KI-Anwendungen, er verwies aber auch auf mögliche weitreichende Herausforderungen, die sich durch die zunehmende Ersetzung von klassischen Arbeitsplätzen durch intelligente Technologien manifestieren.
Im Rahmen der industriellen Revolution hat die Menschheit schon einige Umbrüche erlebt und letztlich überstanden, aber der neue Technologiewandel durch umfassende Digitalisierung greift viel weiter, viel tiefer in das gesellschaftliche Leben ein als alles, was wir bislang kennen.
Die bisherigen Prognosen zur Zukunft der Arbeit sind zudem sehr widersprüchlich; dies deutet an, dass die Materie unübersichtlich ist. Sollte der Wegfall von Arbeitsplätzen deutlich größer sein als das Entstehen neuer Arbeit, dann würde dies große Herausforderung an das bisherige Gesellschaftsmodell stellen: wie an der wirtschaftlichen Produktion beteiligt sein ohne durch Arbeit Geld zu verdienen?
Auch stellen sich viele Fragen, wenn immer mehr Entscheidungsprozesse an Algorithmen ausgelagert werden. Wenn automatisierte Waffen ‚von sich aus‘ angreifen und töten? Wenn im Hochfrequenzhandel an den Börsen die Algorithmen global wirtschaftliche Prozesse ohne Rückkopplung an Menschen steuern? Wenn Verwaltungsabläufe automatisiert werden? Wenn … viele Fragen, auf die wir bislang noch keine Antworten haben.
DISKUSSION
Schon während des Vortrags gab es Ansätze zur Diskussion, die dann nach einer kurzen Pause lebhaft weiter geführt wurde.
Man kann die Beiträge grob in zwei Gruppen einteilen: (i) Der Kontext von Therapie für den Einsatz von KI und (ii) Grundsatzfragen zur Zukunft von Menschen und intelligenten Maschinen.
Therapiekontext
Aufgrund der Einfachheit der Informatikanwendungen am Beispiel der Therapie von Borderline-Patienten und ihrer deutlichen Beschränkung als begrenztes Werkzeug für die Therapeuten gab es hier noch nicht viel Diskussionsbedarf. Jürgen Hardt, erfahrender Psychoanalytiker und Psychotherapeut(*) lies allerdings in seinen Gesprächsbeiträgen aufblitzen, wie komplex die Sachlage im Fall von psychoanalytischen Therapien ist und welche grundsätzlichen Beschränkungen computergestützte Anwendungen bislang aufweisen, erst Recht, wenn sie als online-Dienst daher kommen.
Andererseits zeigt das Projektbeispiel mit den Borderline-Patienten auch ein wenig, dass ein übergreifender theoretischer Rahmen für diese Art von interdisziplinärem Vorgehen noch fehlt. Es wäre interessant zu sehen, ob und wie solch ein Rahmen die Diskussion beeinflussen könnte.
KI als mögliche Bedrohung
Die Tatsache, dass die überwiegende Zahl der Beiträge sich auf die möglichen Bedrohungen der KI bezog, deutet an, wie stark dies doch offensichtlich alle beschäftigt.
Ein Thema war die offensichtliche Faszination, die das Thema KI bei den Menschen auslöst; einmal in dem Sinne, dass man mit der KI eine Fülle von Verheißungen verknüpft, die Lösung aller Probleme, die wir Menschen bislang noch nicht gelöst haben, und dann unendliche Bedrohungsszenarien. Woher kommt dies? Warum reagieren wir Menschen so? Und in der Tat lässt sich dieses Motiv in der Kulturgeschichte viele Jahrhunderte, wenn nicht Jahrtausende zurück verfolgen (Jürgen Hardt).
Einen großen Raum nahm das Thema ‚Digitalisierung der Gesellschaft ein, was von einigen als Teil eines Kulturwandels gedeutet wurde, der grundlegende Muster verändert. Worauf dies alles hinauslaufen wird erschließt sich noch nicht so richtig. Michael Klein machte darauf aufmerksam, dass die großen Internetkonzerne mit Sitz in Silicon Valley schon seit den 90iger Jahren eindeutige Manifest verfasst haben, in denen sie beschreiben, wie sie die Welt verändern wollen. Ein Kern dieser Überzeugungen ist der Glaube an die globale Allheilkraft der Daten mit Daten lassen sich alle Probleme lösen.
Dies erinnert an die Schriften der Aufklärung(Humm), in denen ebenfalls die Verfügbarkeit von Wissen als ein Schlüssel für die Veränderung der Welt (dort vom Absolutismus zu mehr Gleichheit und Brüderlichkeit in allem, zum Abbau von Dogmatismus und Ideologie) angesehen wurde. Wie die Geschichte uns zeigen kann, hat das Wissen alleine bislang offensichtlich nicht diese erhoffte Heilkraft für alle Probleme: Diktaturen, Kriege, Ausbeutung, Hunger, Unterdrückung und vieles mehr sind bis heute de weltumfassenden Begleiter der Menschheit.
Es gab auch verschiedene Stimmen, die jene Position von Bernhard Humm in Frage stellten, in der er den Unterschied zwischen Menschen und intelligenten Maschinen so grundsätzlich darstellte, dass ein Ersatz der Menschen durch solche Maschinen kaum vorstellbar erscheine. Das Ergebnis dieser Argumente war nicht eindeutig. Dass intelligente Maschinen sich in der Zukunft zumindest selbst ‚fortpflanzen‘ könnten, schien den Diskussionsteilnehmern prinzipiell nicht ausgeschlossen.
Doeben-Henisch wies gegen Ende noch auf ein grundlegendes Problem der modernen KI hin, das, sollte es zutreffen, sehr viele Fragezeichen hinter die Zukunft der KI setzen würde, selbst wenn diese Maschinen tausende Male schneller als Menschen würden (was sie ja schon sind) und tausende Male mehr Daten verarbeiten können (was ja auch schon stattfindet). Das Problem findet sich im Bereich des autonomen Lernens. In dem sehr fortschrittlichen Bereich ‚developmental robotics‘, wo es um die Entwicklung von Robotern mit mehr Autonomie geht, die sich ähnlich wie Kindern entwickeln können sollen, ist man seit einigen Jahren auf das Problem gestoßen, mit welchen Präferenzen (= Werte) Roboter lernen sollen, wenn diese nicht nur von den Ingenieuren ‚eingeflüstert‘ werden sollen. Außerdem reicht es nicht, dass ein einzelner Roboter ‚Präferenzen‘ besitzt, sondern eine ganze Population von Robotern muss sich ‚einigen‘, welche Werte sie gemeinsam verfolgen wollen. Aktuell führt die Menschheit vor, wie unfähig sie selbst ist, dieses Problem zu lösen. Es gibt nicht die leiseste Idee, wie Roboter dieses Problem lösen sollen. Wissen als solches ist neutral, es gibt keine Richtung vor. Die chinesische Regierung demonstriert gerade, wie man das aktuelle Werte-Vakuum und die ‚willenlose KI‘ aufgrund von Machtkonstellationen beliebig instrumentalisieren kann (Bericht FAZ vom 25.September 2017).
ANMERKUNGEN
(*) Jürgen Hardt ist Psychologischer Psychotherapeut, Lehr- und Kontrollanalytiker (DPV/IPA), Gruppenlehranalytiker (GAS, London), Supervisor und Organisationsberater (DAG) und Gründungspräsident der Psychotherapeutenkammer Hessen. Er hat gemeinsam mit anderen erfolgreich Verfassungsbeschwerde gegen das BKA Gesetz eingelegt, und dabei mit der besonderen Schutzbedürftigkeit des psychotherapeutischen Gespräches argumentiert.
KONTEXT BLOG
Einen Überblick über alle Blogeinträge von Autor cagent nach Titeln findet sich HIER.
Einen Überblick über alle Themenbereiche des Blogs findet sich HIER.
Das aktuelle Publikationsinteresse des Blogs findet sich HIER.
