„Nett, aber falsch: Sprachmodelle machen mehr Fehler, wenn sie schmeicheln“
Bei der Diskussion von Vor- und Nachteilen von KI wird zunehmend auch die Nutzung im Rahmen der Lösung zwischenmenschlicher als auch innerpsychischer Konflikte reflektiert.
Beispielsweise nutzte the decoder den obigen Titel um auf Problematiken aufmerksam zu machen, die im Rahmen einer Studie von einem Team um Lujain Ibrahim von der University of Oxford untersucht wurden.
Diese wurde im April 2026 in der hochrenommierten wissenschaftlichen Fachzeitschrift Nature veröffentlicht und zeigte in Kürze zusammengefasst folgende Befunde:
- Verschiedene KI-Sprachmodelle wurden trainiert wärmer und empathischer zu antworten.
- Bei allen Modellen führte dies zu mehr schmeichelhaftem Verhalten und erhöhter Fehlerzahl.
- Dies beinhaltete eine ausgeprägtere Verbreitung von Falschinformationen und problematischen medizinischen Ratschlägen.
- Vor allem vulnerable Nutzende welche beispielsweise erhöhte Trauer zeigten waren von diesen Effekten stark betroffen.
- Zusammenfassend kann die unausgewogene Optimierung auf eigentlich positive Eigenschaften wie Empathie andere wichtige Fähigkeiten schwer beeinträchtigen.
„Knapp ein Viertel der Menschen in Deutschland nutzt lieber Künstliche Intelligenz statt zum Arzt zu gehen“
Insbesondere aufsehenerregend sind diesbezügliche Diskussionen in medizinischen Kontexten. Grundlegend wurde in einer Pressemitteilung unter obigem Titel zu einer aktuellen Studie etwa konstatiert:
- ein Viertel nutzt KI, um schnelle Gesundheitsinformationen zu bekommen, ohne ärztliche Praxen aufsuchen zu müssen.
- die Hälfte nutzt KI generell für die eigene Gesundheit.
- die Hälfte gibt auch an, den Einfluss von KI bereits positiv zu erleben.
- Nur ca. ein Viertel gibt wiederum an, KI gut zu verstehen und sinnvoll einzusetzen.
Fokussiert auf klinisch relevante zwischenmenschliche als auch innerpsychische Konflikte bei jüngeren Betroffenen veröffentlichte die tagesschau etwa kürzlich Einordnungen von Vor- und Nachteilen unter Überschriften wie „Viele junge Menschen suchen Rat beim KI-Coach“ oder „Wenn junge Menschen KI bei Depressionen nutzen“.
„Schleimerische KI: Menschen bevorzugen Chatbots die ihnen schaden“
Auch abseits klinischer Relevanz wird die Problematik der Nutzung von KI zur Lösung zwischenmenschlicher als auch innerpsychischer Konflikte diskutiert.
Unter der obigen Überschrift wies the decoder auf eine Studie hin, welche vom Team um Myra Cheng von der Stanford University im März 2026 in der ebenfalls hochrenommierten wissenschaftlichen Fachzeitschrift Science publiziert wurde.
In Kürze brachte diese die folgenden Einsichten:
- KI-Sprachmodelle bestätigten Nutzende knapp 50% häufiger in ihren Handlungen als Menschen, selbst wenn diese Handlungen Täuschung, Schädigung anderer oder illegales Verhalten beschreiben.
- Schon eine einzige Interaktion mit so einem schmeichlerischen KI-Sprachmodell senkte in den Experimenten die Bereitschaft, sich zu entschuldigen oder Konflikte aktiv zu lösen, um bis hin zu etwas mehr als 25%.
- Dabei halfen weder ein maschinell-neutraler Ton noch das explizite Wissen, dass die Antwort von einer KI stammt: Beide Gegenmaßnahmen zeigten keine Wirkung.
- Hervorgehoben wurde betont, dass die Sycophancy/Schleimerei-Debatte bei KI-Anbietenden bereits weit zurückreicht und Nutzende genau die Modelle bevorzugten, die ihnen schaden und wie deutlich gezeigt wurde können scheinbar harmlose Entscheidungen in Bezug auf Design und Technik schwerwiegende Schäden nach sich ziehen.
- Zum Schutz des langfristigen Wohlergehens der Nutzenden und ihres Umfelds ist es daher von entscheidender Bedeutung, die Auswirkungen der KI sorgfältig zu untersuchen und zu antizipieren um genau die Unterhöhlung von tatsächlicher Prosozialität und die Verstärkung von Abhängigkeit zu vermeiden, die der Originaltitel der Studie zusammenfasst („Sycophantic AI decreases prosocial intentions and promotes dependence“).
„How You Ask AI Questions Determines Whether It Makes You Smarter or Dumber” –Ausblick auf kommende Blogposts
Aufbauend auf diesem und vorhergehenden Blogposts zu KI im HR und der Relevanz von Expertise bei Hyperautomation möchten wir in kommenden psychologisch-orientierten Blogposts ausgewählte Studien zum Einsatz von KI zur Lösung zwischenmenschlicher als auch innerpsychischer Konflikte genauer beleuchten um davon ausgehend hilfreiche Schlussfolgerungen für den Alltag zu liefern.
Dies auch in dem Bewusstsein, dass Mechanismen die für einen übermäßig verkürzten Umgang mit Problemen hinsichtlich KI thematisiert wurden auch für die menschliche Seite zutreffen, weshalb wir allgemein dahingehende Studien in angemessener Ausführlichkeit behandeln möchten.
Als Teil dessen geplant ist zum Beispiel die genauere Einordnung einer Studie von einem Team um Grace Liu von der Carnegie Mellon University (in Kooperation mit der University of Oxford, dem Massachusetts Institute of Technology und der University of California), welche sich aktuell noch im Preprint-Status vor Veröffentlichung befindet, aber nichtsdestotrotz bereits populärwissenschaftlich rezipiert wurde.
Beispielhaft gewissermaßen gleichwohl plakativ wie differenziert unter dem obigen Titel und mit der Anregung „to use AI to pressure-test your thinking rather than replace it“.
Diskutieren sie mit uns: Wo ist die Grenze zum Einsatz von KI?
Wenn Sie sich psychisch belastet fühlen oder Unterstützung benötigen:
Zögern Sie nicht, sich an eine Ärztin, einen Arzt, eine Psychotherapeutin oder einen Psychotherapeuten zu wenden.
Kostenlose und anonyme Hilfe erhalten Sie auch hier:
Telefonseelsorge:
📞 0800 111 0 111 oder 0800 111 0 222
🌐 www.telefonseelsorge.de
Literatur
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352. https://doi/10.1126/science.aec8352
Ibrahim, L., Hafner, F. S., & Rocher, L. (2026). Training language models to be warm can reduce accuracy and increase sycophancy. Nature, 652(8112), 1159-1165. https://doi.org/10.1038/s41586-026-10410-0
Liu, G., Christian, B., Dumbalska, T., Bakker, M. A., & Dubey, R. (2026). AI Assistance Reduces Persistence and Hurts Independent Performance. https://arxiv.org/abs/2604.04721
