Orientierung an einer aktuellen Einordnung der American Psychological Association (APA)
Dieser Blogpost befasst sich genauer mit dem bereits im letzten psychologisch orientierten Blogpost aufgegriffenen Thema potenzieller Einflüsse von KI auf menschliches kritisches Denken, das dort anhand einer ausgewählten Studie genauer beleuchtet wurde.
Ähnlich wie in einem unserer vorherigen Blogposts, in dem das Thema „KI-Empathie“ ausführlicher aus psychologischer Sicht eingeordnet wurde, soll in diesem Blogpost eine breiter gefasste Einordnung bisheriger relevanter Befunde erfolgen.
Diese Einordnung orientiert sich dabei an einem kürzlich erschienenen Podcast der American Psychological Association (APA), einem der weltweit größten psychologischen Fachverbände, aus der Reihe „Speaking of Psychology“ mit dem Titel „AI ‘de-skilling’: What happens when we offload our work to AI?“.
Darin wurde Brooke Macnamara interviewt, die sich auf breiter Basis mit Themen wie dem grundlegenden Erwerb menschlicher Fähigkeiten, menschlichem Fachwissen sowie menschlicher Leistungsfähigkeit unter anderem in Arbeitskontexten beschäftigt.
KI als weiterer Teil eines „Sisyphos-Kreislaufs der Technologiepanik“?
Teil der breiteren psychologischen Einordnung des zuvor erwähnten Blogposts zur „KI-Empathie“ war etwa ein Verweis auf die Diskussion von Risiken möglicher empathischer Übervalidierung in einem grundlegend KI-unabhängigen offenen Briefwechsel in der wissenschaftlichen Fachzeitschrift Journal of Humanistic Psychology. Dieser wurde Anfang der 1980er-Jahre von den humanistisch-psychotherapeutischen Pionieren Rollo May (1909–1994) und Carl Rogers (1902–1987) geführt (May, 1982; Rogers, 1982).
Auch der bereits erwähnte APA-Podcast nimmt eine solche historisch erweiterte Einordnung vor, insbesondere mit Bezug zu einer Arbeit von Amy Orben, die 2020 unter dem Titel „The Sisyphean Cycle of Technology Panics“ in der wissenschaftlichen Fachzeitschrift Perspectives on Psychological Science veröffentlicht wurde.
Darin verweist Orben beispielsweise auf die in der ersten Hälfte des 20. Jahrhunderts diskutierten Gefahren einer möglichen Abhängigkeit von dem sich damals vergleichsweise rasant verbreitenden Radio und stellt dabei auch Bezüge zur heutigen Diskussion über die Gefahren einer Abhängigkeit von Social Media her.
Mit ihren Beispielen geht Orben darüber hinaus bis ins antike Griechenland zurück, wo etwa mögliche Gefahren des Schreibens im allgemeineren Sinne für die Gesellschaft diskutiert wurden.
Befunde und Empfehlungen der APA
Für eine komplexere Einordnung sei direkt auf den Artikel von Amy Orben verwiesen, in dem sie kurz zusammengefasst argumentiert, „wie der sisyphosartige Kreislauf der Technologiepanik die positive Rolle der Psychologie bei der Steuerung des technologischen Wandels behindert und wie dringend verbesserte Forschungs- und Politikansätze im Umgang mit neuen Technologien benötigt werden“ („how the Sisyphean cycle of technology panics stymies psychology‘s positive role in steering technological change and the pervasive need for improved research and policy approaches to new technologies“; Orben, 2020, S. 1143).
In diesem Geiste seien ebenso die nachfolgend auf Basis des APA-Podcasts eingeordneten Befunde und Empfehlungen zu verstehen. Sie wurden stichpunktartig zusammengefasst – auch mit KI-Assistenz –, wie sie in vergleichbarer Form im Rahmen der Hochschullehre an der Universität Würzburg thematisiert wurden:
- Mögliches Risiko der Auslagerung von Denkprozessen und des Verlusts der Qualität eigenständigen kritischen Denkens: Wer Denkprozesse zu sehr an die KI-Assistenz auslagert, lernt vermutlich weniger tiefgehend. Zum Beispiel produzierten KI-Nutzende kürzere, weniger individuelle und weniger hilfreiche Ratschläge als Google-Nutzende ohne KI-Assistenz.
- Mögliches Risiko der Kompetenzillusion: Gute Ergebnisse, die zu sehr durch KI-Assistenz beeinflusst wurden, können zur Überschätzung der eigenen Kompetenz und zu damit verbundenen ungünstigen Folgen führen.
- Mögliches Risiko der Überautomatisierung: Schon bei mäßig zuverlässigen KI-Systemen neigen Menschen zur unkritischen Übernahme der durch die KI bereitgestellten Informationen.
- Mögliches Risiko des Verlusts von kognitiver Ausdauer und Frustrationstoleranz: Nach vorheriger KI-Unterstützung bei bestimmten Aufgaben gaben Menschen bei späteren vergleichbaren Aufgaben ohne KI-Unterstützung tendenziell schneller auf.
- Empfehlung zur unterschiedlichen Nutzungsweise bei Personen mit unterschiedlich ausgeprägter Expertise: Entscheidend ist, ob eine Person bereits über relevante Expertise verfügt oder nicht. Lernende sollten grundlegende Fähigkeiten zunächst selbst aufbauen, um beispielsweise nicht von den zuvor aufgelisteten Risiken betroffen zu werden. Personen mit stärker ausgeprägter Expertise können durch Unterstützung tendenziell eher profitieren, da sie sich möglicher Risiken besser bewusst sind und so von positiven Effekten profitieren sowie mögliche negative Effekte korrigieren können.
- Empfehlung hinsichtlich relevanter Lernziele: Grundlegende Kompetenzen sollten regelmäßig ohne KI-Assistenz in Eigenbearbeitung geübt werden. Anschließend sollte Feedback eingeholt und gegebenenfalls die KI-Assistenz eingebaut werden, die auf diese Art auch zunehmend angemessen kritisch beurteilt werden kann.
- Empfehlung hinsichtlich der Nutzungsreihenfolge: Erst selbst analysieren, dann die KI konsultieren und schließlich beide Perspektiven verbinden.
- Empfehlung hinsichtlich des Umgangs mit der allgemeinen Evidenzlage: Es gibt viele Einzelbefunde, aber noch keine breite, robuste Wissensbasis. Entsprechend sollte mit Aussagen wie einer „allgemeinen Verdummung“ differenziert umgegangen werden, da hier je nach den in Studien genutzten Aufgaben beispielsweise eher konkrete spezialisierte Fähigkeiten als grundlegende kognitive Fähigkeiten beeinträchtigt erscheinen.
Zusammengenommen decken sich diese Befunde und Empfehlungen mit vergleichbaren Einordnungen in unseren bisherigen diesbezüglichen Blogposts:
So hatten wir hinsichtlich einer spezifischen Studie etwa angeregt, „die Auswirkungen der KI sorgfältig zu untersuchen und zu antizipieren um genau die Unterhöhlung von tatsächlicher Prosozialität und die Verstärkung von Abhängigkeit zu vermeiden, die der Originaltitel der Studie zusammenfasst („Sycophantic AI decreases prosocial intentions and promotes dependence“)“, oder auf eine weitere „Anregung“ verwiesen: „to use AI to pressure-test your thinking rather than replace it“.
Weitere Beispiele umfassten unter anderem die Feststellungen, dass „Hyperautomation [helfen] kann (…) Prozesse effizienter zu gestalten (…) [aber ob] diese Prozesse gut sind, müssen Menschen entscheiden“ oder dass als Grundvoraussetzungen für „Hyperautomation (…) wissenschaftliche Kompetenz im Entwicklungsteam, Transparenz über Modellentscheidungen, regelmäßige Validierung gegen echte Erfolgsmetriken, und eine kritische Haltung gegenüber den eigenen Annahmen“ erforderlich sind.
Diskutieren sie mit uns: Wie sehr darf man den Kopf abschalten, wenn man KI benutzt?
Literatur
May, R. (1982). The problem of evil: An open letter to Carl Rogers. Journal of Humanistic Psychology, 22(3), 10–21. https://doi.org/10.1177/0022167882223003
Orben, A. (2020). The Sisyphean cycle of technology panics. Perspectives on Psychological Science, 15(5), 1143–1157. https://doi.org/10.1177/1745691620919372
Rogers, C. R. (1982). Reply to Rollo May’s letter to Carl Rogers. Journal of Humanistic Psychology, 22(4), 85–89. https://doi.org/10.1177/002216788202200407
