Das Psychische in der automatisierten Welt

Ob es um autonome Fahrzeuge geht oder um die menschenleere Fabrik – unbestreitbar gibt es Tätigkeiten, von denen wir wollen, dass sie dem Menschen abgenommen werden, weil sie fehlbeanspruchend oder gefährlich sind. Zweifellos sind Computer, sofern sie das Werkzeug des Menschen bleiben, auch unterstützend und hilfreich. Der Computer kann schneller rechnen, vergleichen und sortieren, Abweichungen besser erkennen und auf riesengroße Datenmengen zugreifen. Maschinelles Lernen hat geholfen große Datensätze zu verstehen. Maschinelle Übersetzungssysteme sind uns bei Fremdsprachen behilflich und Computer können autonome Fahrzeuge in unwegsamem und gefährlichem Gelände fahren. Schätzungen, Kontrollfunktionen und Entscheidungen von großer Tragweite müssen aber dem Menschen vorbehalten bleiben [1]. Das fordert u. a. auch die Charta der digitalen Grundrechte der Europäischen Union (digitalcharta.eu).

Vereinbarkeit von Arbeits- und Technologiegestaltung 

Welche Tätigkeiten dem Menschen abgenommen werden sollten und was beim Menschen verbleiben sollte, wird aktuell selten unter den Aspekten der Psychologie oder des Arbeitnehmer:innenschutzes diskutiert. Das hat etwas mit der jeweiligen Automatisierungsstrategie zu tun. Automatisierungsstrategien unterscheiden sich nach dem Ziel, das sie verfolgen. So folgen die in Europa und den USA festgelegten Automatisierungsstufen von automatisiert bis zum autonomen Fahren einer strikt technozentrischen Automatisierungsstrategie. Derzeit scheinen die technozentrierte und die ökonomische Automatisierungsstrategie Oberhand zu gewinnen. Berücksichtigt man jedoch die Auswirkungen der digitalisierten Welt auf den Menschen, dann kommt nur eine komplementäre Strategie in Frage. Das Entscheidungskriterium, um Aufgaben auf Mensch und Maschine zu verteilen, ist dann die Nutzung und Förderung menschlicher Fähigkeiten mit dem Ziel, menschliche Schwächen auszugleichen und Stärken zu verstärken [2]. 

Auch die Herangehensweise bei der „humanized task approach allocation“ ist eine völlig andere. Hierbei erarbeiten Technik und Psychologie gemeinsam und parallel, welche Aufgaben beim Menschen bleiben sollen und welche die Technik übernimmt. Ziel ist nicht, die Arbeit der Menschen zu ersetzen, sondern das richtige Werkzeug für die richtigen Aufgaben zu entwickeln. Eine menschenzentrierte und wertorientierte Gestaltung von Technologie fordert auch die Datenethikkommission in Deutschland [3]. 

Werden technozentrierte und ökonomische Automatisierungsstrategien aufrechterhalten, stellt sich die Frage, was dies für die menschliche Arbeit bedeutet. Welche Arbeitsleistungen können durch vernetzte künstliche Intelligenz (KI) automatisiert und damit abgelöst werden und welche nicht? Diese Frage lässt sich aus Sicht der Psychologie leicht beantworten. In der Psychologie unterscheidet man manuelle und geistige Tätigkeiten und Handlungen danach, welche Informationsverarbeitungs- und Denkvorgänge dabei erforderlich sind. Abbildung 1 zeigt die in der Kognitionspsychologie definierten Informationsverarbeitungs- und Denkvorgänge nach dem Grad der Komplexität gestuft [4].  

Durch rechnerbasierte Algorithmen abgelöst werden können derzeit alle Formen von Wissensarbeit mit einem Verarbeitungsniveau bis Stufe^5. Technikgläubige Programmierer:innen und Systementwickler:innen vergessen dabei leicht, dass nicht alles Wissen digitalisierbar ist. Das sogenannte schweigende Wissen oder „Bauchgefühl“ basiert auf erlernten und erworbenen Fertigkeiten und ist erfahrungsabhängig. Berufserfahrung und auch die Erfahrungen aus der eigenen Lebensgeschichte fließen mit ein und drohen verloren zu gehen. 

Es geht in der Psychologie um eine für den Menschen erstrebenswerte Form des Ersetzens.

Mit dem „Internet der Dinge“ oder den „cyberphysical systems“, die nicht nur Maschinen, sondern auch Arbeitsgegenstände intelligent machen, und bei konsequenter Verfolgung einer technozentrierten Automatisierungsstrategie werden Berufe mit planenden und disponierenden Menschen überflüssig. Das betrifft alle Berufs- oder Tätigkeitsgruppen, die mit Logistik, Buchhaltung, Lagerhaltung oder Verwaltung zu tun haben [5]. Auch produzierende Menschen – Stichwort „menschenleere Fabrik“ – verschwinden. Bezieht man die Entwicklungen auf dem weltweiten Automobilmarkt mit ein, betrifft das zusätzlich jene Berufs- oder Tätigkeitsgruppen, die beruflich fahren – alle Formen von Transportfahrten.  

Welche Auswirkungen es auf den Menschen hat, wenn berufliche Erfahrungen im Arbeitsprozess vernachlässigt werden, kann man u. a. beim Einsatz von kollaborativen Robotern (KR) beobachten. Es macht einen Unterschied, ob ein:e Kollege:Kollegin zuarbeitet oder ein Roboter. Zitat: „Unter Kollegen:Kolleginnen kann die Arbeit besser abgestimmt werden und man kann sich unter einander verständigen.“ Zwar sei ein KR verlässlicher, aber eben auch unflexibler als der Mensch [6]. Daraus folgt, dass Technikgestaltung eine Änderung der Arbeitsprozesse notwendig macht.

Jeder Computer funktioniert nur in dem engen Bereich, für den er programmiert wurde. Das gilt auch für Erkennungssoftware jeder Art.

Kann die Erkennungssoftware eines autonomen Fahrzeugs Gegenstände, Autos oder Lebewesen nicht hundertprozentig sicher identifizieren, fährt das autonome Fahrzeug ungebremst in das Hindernis. Stellt man die technische und die menschliche Ausfallswahrscheinlichkeit gegenüber, kommt man zu einem erstaunlichen Ergebnis. Ein automatisiertes System ist nicht zuverlässiger als der Mensch, wenn man den auslegungsüberschreitenden Betrieb einbezieht. Das lässt sich auch berechnen [7].

Automatisierung und Sicherheit am Beispiel selbstfahrender Autos

Autos im Straßenverkehr sind fahrende Computer, auf die man sich zu mehr als 100 % verlassen muss. Aber ist das möglich? Geht es nach den Schlagzeilen in Zeitschriften oder Buchtiteln – ja! Sie suggerieren, Computer seien objektiver, fehlerloser, schneller, effizienter … als der Mensch. So wundert es nicht, dass die Frage: „Wozu brauchen wir autonomes Fahren im Stadtverkehr?“ mit dem Sicherheitsaspekt beantwortet wird. Kritische Betrachtungen zum autonomen Fahren findet man selten. 

„Selbstfahrende Autos zu bauen, um Sicherheitsprobleme zu lösen, ist wie der Einsatz von Nanobots, um Käfer auf Zimmerpflanzen zu töten. Wir sollten uns wirklich darauf konzentrieren, Systeme zur Unterstützung des Menschen zu bauen, anstatt Systeme zum Ersatz des Menschen zu entwickeln.“ [8; S. 147] übersetzt mit: deepL.

Wenn der Nutzen des autonomen Fahrens mehr Sicherheit sein soll, dann ist die Schlussfolgerung: Die KI muss smarter sein als der Mensch. Die Frage, die sich daher stellt: Welche Fähigkeiten braucht man in so komplexen Situationen wie im Straßenverkehr? Die Antwort: Das kommt auf die Situation an, wie Abbildung 2 zeigt. Die in Abbildung 1 dargestellten Stufen nach Hacker werden in Abbildung 2 zu drei Ebenen zusammengefasst und nach Rasmussen und Reason klassifiziert [10]. 

Autofahren umfasst einfache Aufgaben/Operationen, die sich fortwährend wiederholen und daher keine Aufmerksamkeit benötigen. Sie werden „automatisch/sensumotorisch“ durch „mentale Ausführungsprogramme“ reguliert. Die Programme organisieren einen Satz an Befehlen an die Muskeln. Dass einzelne Prozeduren beim Autofahren überwiegend automatisch erfolgen, ist außerdem dem Umstand zu verdanken, dass auch „schweigendes Wissen“ wirksam ist. Beispiel: der tägliche Arbeitsweg, abbiegen auf einer vertrauten Kreuzung oder um eine Kurve fahren.

Autofahren schließt aber auch Aufgaben/Operationen ein, die zwar immer wieder gleich ablaufen, aber Konzentration erfordern. Die unbemerkt ablaufende, begleitende „Hintergrundkontrolle“ schaltet sich ein. Diese Aufgaben basieren auf Regeln, die vereinfacht formuliert in Form „mentaler wissensgestützter Handlungsschemata“ auf einem höheren Verarbeitungsniveau vorliegen. Beispiel: Wahl zwischen vertrauten Wegen, das Überholen anderer Fahrzeuge oder ein unbekanntes Fahrzeug zu fahren. Manche Aufgaben/Tätigkeiten beim Autofahren erfordern, Wissen zu aktivieren. Immer dann, wenn beim Autofahren etwas Unerwartetes oder Schwieriges passiert, löst das bewusst gesteuertes Nachdenken und Emotionen auf einem wiederum höheren Verarbeitungsniveau aus. Diese Art von Aufgaben wird „intellektuell“ durch „mentale Handlungspläne und Strategien“ reguliert. Beispiel: zurechtfinden in einer fremden Stadt oder Fahrschüler in der ersten Fahrstunde. 

Daraus folgt, dass Vielfalt und Höhe der geistigen Anforderungen je nach Situation im Straßenverkehr variieren. Deutlich erkennbar ist, dass mit der Komplexität des Verarbeitungsniveaus auch die Verarbeitungsdauer ansteigt. 

Was machen aber die eingangs erwähnten Versprechen „Autonomes Fahren macht den Straßenverkehr sicherer“ oder die Warnung vor dem „Risikofaktor Mensch“ mit dem Menschen? Die Forschung zeigt: Spricht man einem Menschen die Fähigkeiten und Fertigkeiten ab, entsteht das Gefühl der Inkompetenz. Das hat zur Folge, dass sich die unbemerkt ablaufende, begleitende „Hintergrundkontrolle“ (vgl. Erklärungen zu Abbildung 2) verändert. Sie nimmt ab, wenn man die Entdeckung bedrohlicher Ereignisse vermeiden möchte („Tunnelblick“), oder nimmt aus Angst vor Fehlern zu, was zu Sprunghaftigkeit und Unkonzentriertheit führt. Beides ist für das Handeln in gefährlichen Situationen, wie sie beispielsweise beim Autofahren oder in der Akutmedizin vorkommen, fatal. [11; S. 151] 

Menschliche Fähigkeiten, Fertigkeiten, Wissen und Erfahrung in der digitalisierten Welt

Warum sind wir dennoch so technikgläubig und machen uns so wenig Gedanken über die Auswirkungen auf den Menschen? Neben blindem Vertrauen in die Technik vergessen wir auf den psychischen Anteil von Tätigkeit und Bewegungen. Begriffskonfusionen tun ihr Übriges dazu.

Wie man am Beispiel des Autofahrens sieht, bilden Denken und Tun eine Einheit, so wie Erleben und Verhalten eine Einheit bilden. Bevor eine Bewegung oder Tätigkeit zur Ausführung gelangt, muss sie durch Motive angetrieben werden. Keine Tätigkeit ohne Motiv! Das „Fahren“ zu betrachten, nicht aber den „Zweck des Autofahrens“ (das Ziel, das Motiv), greift zu kurz. Denken und Tun werden auch durch Emotionen begleitet, wie z. B. das Erschrecken bei einer Vollbremsung. Bewegungen werden durch die Wahrnehmung, und da vorwiegend visuell, gesteuert. 

Das Problem: Das Psychische (Erleben) ist nicht beobachtbar, oft nicht einmal erfragbar – Bewegungen schon. Hand- und Fußbewegungen – dbeispielsweise Fahr- bzw. Steueroperationen beim Fahren – sind bei gleicher Fahrstrecke und gleichem Fahrzeug vergleichbar  und scheinen dadurch automatisierbar. Sie scheinen zudem sehr einfach zu sein: Auch Ratten können Autofahren lernen, wie Kelly G. Lambert zeigen konnte (Abbildung 3).

Im Gegensatz zur Analyse der Bewegungen beim Autofahren – Gas geben, bremsen, abbiegen – muss die Analyse der Tätigkeit jedoch zu sehr unterschiedlichen Erkenntnissen führen, abhängig davon, ob ein:e Sanitäter:in, ein:e Schulbusfahrer:in oder ein:e Lkw-Lenker:in etc. das Fahrzeug fährt.

„Der Charakter der Fahrstrecke ändert sich mit dem Motiv, sie zu befahren … eine Tatsache, der in der Untersuchung von Mensch-Maschine-Systemen kaum Beachtung geschenkt wird, zumal sie seit über siebzig Jahren bekannt ist“, wie Eberhard Ulich immer wieder betont [13; S. 185].

Bewegungen/Motorik ist immer ein abhängiger und im Verarbeitungsniveau untergeordneter Bestandteil der zielgerichteten Handlung, der sie dient, und wird durch die Wahrnehmung gesteuert. Die Sinnesmeldungen beim autonomen Fahren müssen durch Kameras, Sensoren etc. ersetzt werden. Eine von vielen nicht nur rechtlich, sondern auch psychologisch interessanten Fragen ist: Was passiert, wenn der computerisierte Automat (das Auto) mit seiner Sensorik (derzeit LIDAR-System) und der Mensch mit seinen Sinnesorganen Unterschiedliches wahrnehmen? Ein Unterschied muss sich zwangsläufig schon deshalb ergeben, weil die Sensorik mit der menschlichen Wahrnehmung NICHT vergleichbar ist. Menschliche Wahrnehmung ist nicht das Ergebnis eines verarbeiteten Signals, etwa von Daten, wie sie Radar- und Kamerasensoren liefern. Sensoren beruhen auf einer starren Zuordnung, wie Kameras für Sehen. In der menschlichen Wahrnehmung findet jedoch ein Zusammenspiel unterschiedlicher Sinne statt. Die Körperdrucksensationen am Rücken beim Abbremsen oder Beschleunigen eines Fahrzeuges werden unmittelbar erlebt und sagen etwas über die Fahrzeug-  oder Fahrbahnbeschaffenheit aus [14]. Menschliche Wahrnehmung ist nicht einmal das Erfassen einer objektiven Realität, weil „die Situation“ immer eine subjektive Konstruktion ist – ein aktives Suchen nach Informationsreizen, das durch unsere Vorerfahrungen und Erwartungen geleitet wird. 

Meredith Broussard drückt es so aus: „Die Herausforderungen bestehen darin, von der reinen Wahrnehmung der Umwelt zum Verständnis der Umwelt zu gelangen.“ [8; S. 124] übersetzt mit: deepL

Das ist keineswegs ein so leichtes Unterfangen, wie man uns glauben machen möchte, und das bringt uns zu einem weiteren Hindernis für ein interdisziplinäres Verständnis: Berufsgruppen unterschiedlicher Branchen, wie Techniker:innen, Programmierer:innen und Psychologen:Psychologinnen verwenden die gleichen Begriffe für völlig unterschiedliche Sachverhalte.

Daten, Informationen, Mustererkennung, Orientierung, deep learning etc. sind Begriffe, die sowohl in der Technik als auch in der Psychologie verwendet werden, dort aber jeweils eine völlig andere Bedeutung haben. Ein Beispiel: Orientierung im technischen Sinne meint das Identifizieren der geografischen Lage, die Orientierung mittels Kompass oder GPS. „Orientieren“ im psychologischen Sinne ist mehr als Positionsempfinden. Orientierung erfolgt zeitlich, räumlich und bezüglich der eigenen Person in der Umgebung. Orientierung schließt Situationsbewusstsein (SA – „situation awareness“) ein [11; S. 152–154]. Situationsbewusstsein bedeutet so viel wie: intuitiv wissen, was vor sich geht, um herauszufinden, was zu tun ist bzw. was zu tun sein WIRD. Ein:e gute:r Autofahrer:in zeichnet sich durch seine:ihre vorausschauende Fahrweise aus [10].

Technisch möglich, ethisch verboten

Mit der vernetzten künstlichen Intelligenz sind auch zahlreiche ethische Fragen eng verknüpft, wie die Frage nach dem höchsten Gut, dem richtigen Handeln in bestimmten Situationen, der Freiheit des Willens oder Fragen der Verantwortlichkeit und der Verantwortbarkeit [15]. 

Fazit

Der Mensch zeichnet sich im Vergleich zu den technischen Komponenten eines Systems durch eine wesentlich größere Variabilität und Komplexität aus. Das gilt es bei Fragen der Automatisierung und der Digitalisierung zu berücksichtigen.

LITERATUR:

• [1] Rothmeier-Kubinecz, S.  (2017). Computer says no. Wissensarbeit im digitalen Zeitalter. (Teil 2). Sichere Arbeit, Heft 3. Wien; 34–44. Wien: Medieninhaber AUVA
• [2] Rothmeier-Kubinecz, S.  (2019). „Automatisierung am Beispiel automatisiertes Fahren“. Teil 1: Automatisierungsstrategien. Sichere Arbeit, Heft 2. Wien: S 27–33. Wien: Medieninhaber AUVA.
• [3] Arbeits-, organisations- und wirtschaftspsychologische Experten-:Expertinnen-Datenbank der AUVA:www.aowpsychologie.com;Bewertung:https://www.aowpsychologie.com/.1042_Bewertung.1001,950-----------,,2.html
• [4] Hacker, W. (2021). Psychische Regulation von Arbeitstätigkeiten 4.0. Vdf Hochschulverlag AG.
• [5] Hacker, W. (2018). Menschengerechtes Arbeiten in der digitalisierten Welt. Eine wissenschaftliche Handreichung. Mit einem Vorwort von Eberhard Ulich. vdf Hochschulverlag AG an der ETH Zürich.
• [6] Mandl, Christoph E. 2017: Auf der Suche nach Industrie-4.0-Pionieren. Wien: ÖGB-Verlag.[7] VDI-EE 4006, Blatt 1, Entwurf 2020-09: Tab. 1; Zuverlässigkeitsfälle für die Kombination von Mensch und Automat. 
• [8] Broussard, Meredith (2019). Artificial UNintelligence: How Computers MISunderstand the world. Cambridge: MIT Press. 
• [9] Sträter, O. (2010). Abbildung aus: Seminarunterlagen AK-Wien. September 2010 nach der Klassifikation nach Rasmussen und Reason.  
• [10] Rothmeier-Kubinecz, S.  (2019). „Automatisierung am Beispiel automatisiertes Fahren“. Teil 3. Situation Awareness (SA) – Situationsbewusstheit. Heft 4: S 39–45. Wien: Medieninhaber AUVA.
• [11] St. Pierre, M., Hofinger, G. (2020). Human Factors und Patientensicherheit in der Akutmedizin. 4., vollständig überarbeitete und erweiterte Auflage. Berlin: Springer Verlag GmbH.
• [12] Lambert, Kelly G.: Rats can learn to drive; Download: 1.1.2022https://news.richmond.edu/releases/article/-/16721/research-scientists-at-university-of-richmond-teach-rats-to-drive-results-may-inform-treatment-for-mental-health-issues-.html
• [13] Ulich, E. (2011). Arbeitspsychologie (7. Auflage). Zürich: vdf Hochschulverlag.
• [14] Hacker, W. & Sachse, P. (2014). Sensumotorische Regulation von Arbeitstätigkeiten. 375–417. In: Allgemeine Arbeitspsychologie – Psychische Regulation von Tätigkeiten, (3. Auflage). Göttingen: Hogrefe.
• [15] Lenk, H. (2016). Ist die Technik zu mächtig geworden – und die Verantwortung für Menschen und politisch-soziale Systeme zu groß? In seinem Nachruf für Vitaly Gorokhov († 2016).

Zusammenfassung

Kann künstliche Intelligenz sämtliche menschlichen Aufgaben übernehmen? Die Autorin verneint aus der Sicht der Psychologie diese Frage und untermauert ihre Meinung mit verschiedenen Beispielen.