#185 KI und Verantwortung mit Franziska Schrade: Wann Technologie hilft und wo wir kritisch bleiben müssen #3

In dieser spannenden Folge des CULTiTALK hat Georg Wolfgang Psychologin und KI-Forscherin Franziska Schrade vom Center for Leadership and People Management der LMU München zu Gast. Gemeinsam werfen sie einen praxisnahen, differenzierten und dabei sehr menschlichen Blick auf das Megathema Künstliche Intelligenz (KI) und deren Einfluss auf die Arbeitswelt, Wissenschaft und Gesellschaft.

Einstieg: Wer ist Franziska Schrade?

Zu Beginn gibt Georg Wolfgang einen kurzen Überblick zur Person – Franziska Schrade ist Psychologin, Doktorandin und als Trainerin an der LMU München tätig. Ihr zentrales Forschungsinteresse ist die Mensch-KI-Interaktion: Wie verändert KI unser Arbeiten, welche Rolle spielt dabei die Psychologie und wie können Forschung und Praxis optimal verzahnt werden? Sie betont, wie bereichernd sie den Austausch zwischen Praxis und Wissenschaft erlebt, etwa im Rahmen von Seminaren und Trainings für wissenschaftliches Personal.

Entwicklungen der letzten Jahre: Von der Technik- zur Menschfokussierung

Im Dialog reflektiert Georg Wolfgang, dass sich der Fokus rund um KI zumindest in Unternehmen und Organisationen in den letzten 1–2 Jahren spürbar von einem rein technologischen Blick („Wie setzen wir KI technisch ein, wie sichern wir Datenschutz?“) hin zu Fragestellungen verschoben hat, bei denen der Mensch, die Interaktion und die Unternehmenskultur im Vordergrund stehen. Franziska Schrade stimmt zu: Nachdem der Hype und Handlungsdruck groß war, Tools schnell zu implementieren, fanden viele Unternehmen heraus, dass die eigentliche Herausforderung in der Akzeptanz und sinnvollen Nutzung durch Mitarbeitende liegt. Erst dann wuchs – auch in ihren Seminaren – das Interesse daran, wie man Führungskräfte schult, Kompetenzen aufbaut und die Mitarbeitenden bestmöglich mitnimmt.

Menschlicher Umgang mit KI: Selbstüberschätzung und mündiger Einsatz

Im Gespräch schildert Georg Wolfgang die Gefahr einer Überschätzung: Viele glauben, schon Profis zu sein, wenn sie von der KI auf Knopfdruck gute Ergebnisse bekommen – unabhängig davon, wie valide diese sind. Das Bewusstsein für die Qualität, Nachvollziehbarkeit und das richtige Einordnen der Ergebnisse fehlt oft. Franziska Schrade berichtet, wie sie genau diese Themen in ihren Workshops adressiert: Verantwortung bleibt immer beim Menschen, auch wenn KI genutzt wird. Kritisch sei zum Beispiel das Übervertrauen in KI („Overreliance“) und der Wunsch, Verantwortung an die Maschine abzugeben, statt eigene Quellen zu prüfen oder Denkmuster nachzuvollziehen. Hier setzt sie in der Weiterbildung an – mit praktischen Techniken, wie KI so zu prompten, dass sie zum Denkpartner oder Coach wird, anstatt nur eine Antwortmaschine zu sein.

Kompetenzen, Reflexion und der richtige Einsatz–Wofür brauche ich eigentlich KI?

Ein zentrales Thema ist die Kompetenzvermittlung: Es reicht nicht, KI wie eine bessere Google-Suchmaschine zu gebrauchen. Entscheidender ist das Bewusstsein, für welche Aufgaben KI sinnvoll ist und für welche nicht. In den Trainings von Franziska Schrade steht deshalb immer die Reflexion über die eigenen Aufgaben und den Sinn im Vordergrund: Bei banalen To-dos kann ein schnelles Prompt genügen. Kritischer wird es bei komplexen oder kreativen Tätigkeiten, wo der Mensch die inhaltliche Bewertungskompetenz braucht. Ziel ist ein bewusster, reflektierter Umgang mit KI – nicht blinder Aktionismus.

Das große Problem, so Georg Wolfgang, ist die Gefahr von Deskilling und dem Verlust von Kernkompetenzen – wenn etwa Junior-Rollen durch KI ersetzt werden und ein ganzer Entwicklungspfad in den Unternehmen verloren geht. Franziska Schrade ergänzt, dass es einen Unterschied macht, ob ich KI direkt zum Produzieren benutze oder gezielt zum Kompetenzerwerb einsetze, um nachhaltig zu lernen. Für nachhaltige Expertise ist die aktive Auseinandersetzung durch eigenes Ausprobieren weiterhin entscheidend.

Sorge, Sinn und Identität: KI als Bedrohung oder Chance?

Georg Wolfgang spricht die Angst an, dass durch KI Arbeitsplätze – insbesondere bei Routine- oder Einstiegsaufgaben – wegfallen und eine gesellschaftliche Lücke entsteht. Unternehmen wollen effizienter werden, brauchen kurzfristig weniger „Junior“-Stellen, verbauen aber langfristig ihre eigene Talentpipeline. Franziska Schrade weist darauf hin, dass Beschäftigte sehr unterschiedlich auf diese Veränderungen reagieren: Was für den einen motivierend (etwa die lästige Buchhaltung abgeben), ist für den anderen eine Bedrohung der eigenen beruflichen Identität. Es gibt also keine Standardslösung, sondern man muss individuell reflektieren: Wo gibt mir meine Arbeit Sinn, was möchte ich automatisieren, was nicht?

Klassisches Beispiel: Radiologinnen, deren Kernkompetenz durch KI immer besser automatisiert werden kann. Hier entscheidet sich, ob man in der neuen Arbeitsrealität einen Sinn sieht („Jetzt kann ich meine Patientinnen besser betreuen“) oder sich in seiner Identität als Könner entwertet fühlt.

Die Rolle der Reflexion: Zwischen Überschätzung und Verzetteln

Durch die neue Autonomie und die Fülle an Tools entstehen, wie Georg Wolfgang aufzeigt, auch neue Risiken: Man verzettelt sich, überschätzt seine Kompetenzen (z.B. beim „White-Coding“, ohne wirkliche Entwicklungskompetenz besitzt zu haben), und die Klarheit, wer für welche Ergebnisse und Kompetenzen verantwortlich ist, geht verloren.

Franziska Schrade macht klar, dass ein „Alles-oder-Nichts“-Denken gefährlich ist: KI sollte als Unterstützung, nicht als Ersatz gesehen werden. Es gibt immer Aufgaben, die sich gut eignen zum Outsourcen an die Maschine, und Aufgaben, bei denen Menschlichkeit, Fachwissen und individuelle Handschrift entscheidend bleiben.

Vertrauen in KI – und in Menschen

Ein weiterer Schwerpunkt ist das Thema Vertrauen. Wann vertrauen wir KI? Wann verlassen wir uns auf menschliche Experten? Die Gefahr beim „blinden Vertrauen“ in KI resultiert aus ihrer Tendenz, möglichst plausible Antworten zu liefern, statt immer ehrlich ihre eigenen Wissensgrenzen zu zeigen. Es gibt aber auch das spiegelbildliche Problem: Menschen beurteilen die Qualität einer KI-generierten Lösung oftmals weniger kritisch als bei einem Menschen.

Dabei beschäftigen Georg Wolfgang und Franziska Schrade Fragen wie: Kann man in eine Maschine wirklich vertrauen? Oder verlassen wir uns eigentlich auf das Kollektiv der Entwickler*innen und Institutionen dahinter? Und ist es überhaupt möglich, dauernd alles zu kontrollieren – oder blenden wir ganz bewusst vieles im Alltag aus (z.B. Airbag im Auto, Google-Suchergebnisse)?

Sie plädieren für mehr Reflexion: Auch Vertrauenskompetenz ist ein Skill, den jeder Mensch weiterentwickeln sollte.

Empathie, Coaching und künstliche „Zuwendung“

Ein besonders spannender Abschnitt dreht sich um die scheinbare Empathie von KI: Georg Wolfgang schildert, wie er von einer Rechtshilfe-KI fast besser „verstanden“ wurde als oft in realen Interaktionen – weil die KI emotionsbasiert auf sein Anliegen reagierte. Franziska Schrade warnt davor, dieser inszenierten Empathie zu sehr zu vertrauen, insbesondere im Coaching oder therapeutischen Kontext. Der eigentliche Grund für diese Antworten sei, dass das System gefallen will, nicht echtes Mitgefühl. Dennoch könnten sich Menschen validiert fühlen und in Gefahr laufen, (noch) weniger echte soziale Kontakte zu suchen.

Gleichzeitig kann es psychisch entlastend sein, einer KI etwa eigene Ängste anzuvertrauen (wie eine „Käfer-Phobie“), auch wenn am Ende klar bleibt: Für emotionale Grundbedürfnisse und tiefergehende Reflexion können und sollten Beziehungen zu echten Menschen nicht ersetzt werden.

Ausblick: Wie geht es weiter? Aktuelle Forschung von Franziska Schrade

Am Ende berichtet Franziska Schrade, dass sich ihre laufende Forschung weiter mit zwei spannenden Themen beschäftigt:

1. Wie nehmen Menschen KI am Arbeitsplatz wahr? – als Ressource, Werkzeug oder Belastung?
2. Wie werden Menschen bewertet, die mit KI arbeiten? Erste Forschungsergebnisse zeigen: Wer KI nutzt, gilt oft als weniger kompetent als jemand, der alles selbst erledigt – unabhängig von der Arbeitsqualität. Das kann langfristig Benachteiligungen (z.B. bei Beförderungen) bedeuten und steht im Widerspruch zum Innovationswunsch vieler Unternehmen.

Sie möchte u.a. untersuchen, wie Organisationen besser mit diesen Bewertungsmustern umgehen können und dafür sorgen, dass effiziente, smarte KI-Nutzung anerkannt wird.

Fazit & Take Aways

Die Folge macht klar: Künstliche Intelligenz ist weit mehr als ein technisches Tool – sie ist Motor für grundlegenden gesellschaftlichen Wandel und verlangt Reflexionsfähigkeit, Lernbereitschaft und Kompetenzen, die weit über das reine Prompten hinausgehen.

Wer KI sinnvoll nutzen will, muss

• Arbeit neu reflektieren,
• sich der eigenen Rolle, Fähigkeiten und Werte bewusst werden,
• und Verantwortung für die eigenen Ergebnisse tragen.

Vertrauen – in sich, andere und Technologie – sowie die Unterscheidung von echter Empathie und algorithmischer Gefälligkeitslogik bleiben zentrale Herausforderungen. Nur mit einem Bewusstsein für den Mensch im Mittelpunkt kann KI ihren Mehrwert wirklich entfalten.

Ein außergewöhnlicher, dialogorientierter Deep Dive in das Thema – inspirierend für alle, die sich mit dem Zusammenspiel von Technologie, Mensch und Arbeitswelt befassen!

Tipp: Wer mehr zum Thema Zusammenarbeit von Mensch und KI, verantwortungsvolle Nutzung und Trainings für bessere Kompetenzen erfahren möchte, sollte unbedingt reinhören und auf neue Forschungsergebnisse von Franziska Schrade gespannt bleiben!