Benötigte Lesezeit: 4 Minuten
In diesem Interview sprechen wir mit Dr. Marisa Tschopp, einer führenden Forscherin bei der scip AG und einer engagierten Unterstützerin der Women in AI Organisation, über die psychologischen Herausforderungen und ethischen Überlegungen bei der Einführung von KI-Technologien in Unternehmen. Dr. Tschopp untersucht die psychologischen Aspekte der Interaktion zwischen Mensch und KI und hat umfangreiche Forschung zu Vertrauen, ethischen Implikationen und Geschlechterfragen in der KI durchgeführt.
LeWiMa: Marisa, du hast die psychologischen Aspekte der Interaktion zwischen Menschen und KI-Systemen erforscht. Kannst du beschreiben, welchen psychologischen Herausforderungen Mitarbeiter/Menschen begegnen, wenn KI-Technologien eingeführt werden?
Marisa: Klar, also wenn wir KI-Technologien einführen, stoßen wir oft auf Widerstand, weil viele Angst vor Veränderungen haben und befürchten, dass ihre Jobs gefährdet sind. Es ist verständlich, dass man da schnell in eine Art Reaktanz verfällt und das Gefühl hat, die Kontrolle zu verlieren. Die Medien tragen dazu bei, indem sie ständig über das Ende der Jobs durch KI berichten, was die Unsicherheit nur noch verstärkt. Diese Unsicherheit und das fehlende Vertrauen in Technologie und Management lassen uns verletzlich fühlen und machen es schwer, die neuen Technologien offen zu akzeptieren.
LeWiMa: In deiner Forschung hast du dich mit dem Vertrauen in KI auseinandergesetzt. Wie wichtig ist das Vertrauen der Mitarbeiter in KI-Technologien für den Erfolg von Transformationsprozessen in Unternehmen, und welche Maßnahmen können Führungskräfte ergreifen, um dieses Vertrauen zu fördern?
Marisa: Vertrauen ist der zentrale Coping-Mechanismus, um mit Angst, Unsicherheit und Risiko umzugehen; es hilft uns, auf unsicherem Boden zu wandeln, ohne verrückt zu werden. Tatsächlich sprechen wir in der Beratung immer weniger über Vertrauensmanagement, sondern über ein systemisches Vulnerability Management, das anerkennt, dass wir Menschen verletzlich sind – und zwar genauso wie Maschinen angreifbar sind – also Schwächen haben, die ausgenützt werden können. Führungskräfte können dieses Vertrauen aktive fördern in dem sie immer «in Verbindung» bleiben. Indem sie Transparenz schaffen, Workshops anbieten und einen offenen Dialog über die Ängste, Risiken und Chancen der KI-Technologien führen. So können wir einen offenen Diskurs ermöglichen und gemeinsam die Herausforderungen meistern – denn ohne wird’s nicht mehr gehen.
LeWiMa: Aus deiner Sicht als Organisationspsychologin, welche neuen Anforderungen stellt die Einführung von KI an die Lernfähigkeit und Agilität von Mitarbeitern/Menschen, und wie sollten diese darauf reagieren?
Marisa: Die Einführung von KI stellt enorme Anforderungen an die Lernfähigkeit und Agilität der Mitarbeiter, da es nahezu eine unüberwindbare Herausforderung ist, ständig auf dem neuesten Stand zu bleiben – das ist quasi ein Vollzeitjob. Organisationales Lernen und gezielte technologische Kompetenzen sollten von Anfang an geprüft werden, um die richtigen Voraussetzungen zu schaffen. Es ist essenziell, ein klares System für das organisationale Lernen zu etablieren, denn es gibt leider keinen Blueprint oder One-Size-Fits-All-Ansatz. Dieses System sollte partizipativ mit Experten entwickelt werden, um den individuellen Bedürfnissen der Organisation gerecht zu werden.
LeWiMa: Du hast auch die ethischen Implikationen von KI untersucht. Welche ethischen Überlegungen sollten Unternehmen berücksichtigen, um eine verantwortungsbewusste Nutzung von KI in Bereichen wie (z.B.) Content-Erstellung und Marketing sicherzustellen?
Marisa: Unternehmen sollten bei der Nutzung von KI in Bereichen wie Content-Erstellung und Marketing mehrere ethische Überlegungen berücksichtigen. Dazu gehören die Sicherstellung von Transparenz, um klar offenzulegen, wann und wie KI eingesetzt wird, sowie der Schutz der Privatsphäre der Nutzer durch verantwortungsvollen Umgang mit Daten. Zudem ist es wichtig, Voreingenommenheiten in den Algorithmen zu erkennen und zu minimieren, um Diskriminierung zu vermeiden. Es empfiehlt sich dringend, die Unterstützung von Ethik-Experten in Anspruch zu nehmen, da das Lesen einiger Artikel oft nicht ausreicht – ich bin selbst keine Expertin auf diesem Gebiet, aber es gibt viele hervorragende Fachleute, die dabei helfen können, verantwortungsvolle KI-Nutzung zu gewährleisten – z.B. Frau Dr. Dorothea Baur.
LeWiMa: Change Management erfordert oft eine Neuausrichtung der Kompetenzen. Welche spezifischen Kompetenzen siehst du als entscheidend für Mitarbeiter (in Marketing und Content-Bereichen) an, um in einer zunehmend von KI geprägten Arbeitswelt erfolgreich zu sein?
Entschleunigung, Besonnenheit und Klasse statt Masse – werden immer wertvoller, um sich in der Flut von Mainstream-Inhalten abzuheben und qualitativ hochwertige, durchdachte Beiträge zu erstellen. Menschlichkeit und Authentizität sind unverzichtbar, da sie das Vertrauen und die Verbindung zum Publikum stärken. In diesem Kampf gegen die Informationsflut wird die Quelle, also wer der Sender der Informationen ist, von zentraler Bedeutung, um Glaubwürdigkeit und Relevanz zu sichern.
LeWiMa: Abschließend, welche Handlungsempfehlungen würdest du Mitarbeitern/Menschen geben, die am Anfang ihrer KI-Reise stehen und dabei sowohl die technologische als auch die menschliche Seite dieser Veränderung berücksichtigen müssen?
Für Mitarbeiter, die am Anfang ihrer KI-Reise stehen, ist es entscheidend, sowohl die technologische als auch die menschliche Seite dieser Veränderung zu berücksichtigen. Der Austausch mit anderen, insbesondere mit Personen aus unterschiedlichen Fachbereichen und Perspektiven, ist von unschätzbarem Wert. Es ist wichtig, sich gründlich über die eigenen Werte und Ziele klar zu werden, bevor man sich in die neuen Technologien stürzt. Vermeiden: unüberlegt ins kalte Wasser zu springen sich die Zeit nehmen, um sich kontinuierlich weiterzubilden und schrittweise anzupassen. Im Silicon Valley spricht man von move fast, break things. Gefällt mir nicht. Wie wäre: Mindful growth, enduring impact?
Über die Expertin: Dr. Marisa Tschopp ist Forscherin bei der scip AG, einem Cybersecurity-Unternehmen in Zürich, und langjährige Unterstützerin von Women in AI. Sie untersucht KI aus psychologischer Perspektive mit besonderem Interesse an ethischen Implikationen. Ihre Forschung konzentriert sich auf Mensch-KI-Beziehungen, Vertrauen in KI, Handlungsfähigkeit und Geschlechterfragen in der KI. Ihre Promotion (Dr. rer. nat.) an der Universität Tübingen untersuchte die wahrgenommenen Beziehungen zwischen Menschen und konversationaler KI und deren Einfluss auf das Verhalten.
