Der Degenerations-Effekt: Menschliche Intelligenz ist vergänglich | #KI | #IoT

Die einhellige Argumentation lautet: Befreien wir den Menschen von Routine-Tätigkeiten, steht ihm mehr Geisteskraft für komplexes Denken und Kreativität zur Verfügung. Doch ist das wirklich so? Das Buch von Nicolas Carr mit dem Titel „Abgehängt“ stellt neue Wirkungszusammenhänge vor, die uns ernsthaft zu denken geben sollten und nach neuen Ansätzen verlangen.

Bei der Arbeit mit Computern tappen Menschen häufig in zwei Denkfallen:

1. Automation Complacency: Der Mensch lässt sich vom Computer ein falsches Gefühl der Sicherheit vorgaukeln und schaltet mental ab. Er vertraut der Maschine oder dem System so sehr, dass er seine Aufmerksamkeit schweifen lässt, unkonzentriert wird und dadurch möglicherweise Fehlersignale übersieht.
2. Automation Bias: Menschen messen den Informationen am Bildschirm zu große Bedeutung bei und glauben den Informationen, selbst wenn sie falsch oder irreführend sind. Andere Informationsquellen werden ignoriert oder unberücksichtigt gelassen, weil auch hier das Vertrauen in die Software überwiegt und die eigenen Sinneswahrnehmungen ausschaltet.
   Klassisches Beispiel: Wir vertrauen unserem Navigationssystem im Auto und übersehen Hinweisschilder oder Gefahrenquellen.

Beide Denkfallen bergen massive Gefahren, denn sie haben mit den Grenzen unserer Aufmerksamkeit zu tun. Wird uns Menschen die ständige Interaktion mit unserer Umwelt abgenommen, neigen wir dazu, die Konzentration zu verlieren oder unseren Fokus fehlzuleiten. Wir werden zusätzlich faul, denn je fehlerfreier Systeme arbeiten, umso mehr vertrauen wir auf dessen Unfehlbarkeit. Wir werden Opfer einer „gelernten Sorglosigkeit“ und damit anfällig für Ausführungs- oder Unterlassungsfehler.

Carr schreibt dazu: „Die Automatisierung verhindert negatives Feedback und erschwert das Wach- und Aufmerksam-Bleiben. Wir schalten immer mehr ab. Die Automatisierung macht aus Akteuren Beobachter.“

In der Folge wird die Lernfähigkeit und der Kompetenzerwerb des Menschen massiv beeinträchtigt, denn mittlerweile weisen ernstzunehmende Studien nach, dass dadurch bestehende Fähigkeiten abgebaut bzw. der Erwerb neuer Fähigkeiten verhindert werden kann. Forscher fanden zusätzlich Hinweise darauf, dass die Aufmerksamkeitskapazität eines Menschen mit sinkender mentaler Arbeitslast abnimmt.

Erzeugungseffekt

Schon in den 70er Jahren stießen Kognitionsforscher auf das Phänomen des Erzeugungseffekts. Der besagt, dass Menschen Informationen dann grundsätzlich besser behalten, wenn sie diese selbst erzeugt und nicht nur gelesen haben. Warum das so ist, ist nach wie vor nicht ganz klar. Forscher vermuten allerdings, dass tiefe Kognitions- und Gedächtnisvorgänge den Erzeugungseffekt verursachen, der unser Lern- und Erinnerungsvermögen stark positiv beeinflusst. Wenn wir uns anstrengen und unsere Aufmerksamkeit auf etwas lenken, belohnt uns unser Gehirn mit einer größeren Erkenntnis. Wir merken uns mehr – und wir lernen mehr.

Das erfordert einen kritischen Blick auf den kognitiven Preis der Automatisierung. Carr schreibt dazu: „Wenn Software unsere Rolle bei der Arbeit einschränkt, vor allem, wenn wir nur noch als passiver Beobachter oder Überwacher fungieren, umgehen wir die tiefen kognitiven Prozesse, die den Erzeugungseffekt unterstützen. So verhindern wir, dass wir das umfassende Praxiswissen erwerben, das zu Kompetenz führt.“

Selbst Google gibt zu, so schreibt Carr weiter, „dass man dort einen Verdummungseffekt in der breiten Bevölkerung beobachtet hat, je entgegenkommender die Suchmaschine wurde. Je präziser die Maschine wird, umso nachlässiger werden die Fragen.“

Speicherung und Weitergabe von Informationen sind seit Beginn der Menschheit Grundpfeiler der Zivilisation. Doch „Wissen bedeutet mehr als nur Dinge nachzuschlagen. Um etwas wirklich zu wissen, muss man es in die eigenen neuronalen Schaltkreise einbauen, es regelmäßig aus dem Gedächtnis abrufen und immer wieder einsetzen.“

Carr spricht vom „Degenerationseffekt“, wenn die Automatisierung so weit führt, dass sie uns Denkarbeit zu leicht macht oder sogar ganz abnimmt. In diesem Fall nämlich vermeiden wir immer häufiger die Anstrengung, die zum Erinnern und Verstehen notwendig ist. Wir leisten folglich kaum noch Erzeugungsarbeit und lernen und wissen daher immer weniger. Wir werden unfähiger.

Denken wird zum Algorithmus

Entwickler, die heute an der künstlichen Intelligenz forschen, haben nicht mehr das Ziel, menschliche Gedankenprozesse nachzuahmen, sondern ihre Ergebnisse zu imitieren. Denken wird zum Algorithmus und damit zu einer messbaren Leistung. Die „Denkleistung“ der künstlichen Intelligenz ersetzt menschliche Intuition.

Doch diese Gleichung geht nicht auf, denn „die Nachahmung der Ergebnisse von Denkvorgängen ist nicht dasselbe wie Denken selbst.“
Künstliche Intelligenz besitzt keinerlei echtes Weltwissen und ist nicht in der Lage, aus den Denkleistungsvorgängen ein reichhaltiges und flexibles Weltbild zu schaffen oder Dingen einen Sinn zu verleihen. Die Beweglichkeit des menschlichen Geistes umfasst sowohl Vernunft und Inspiration als auch bewusstes und unbewusstes, metaphorisches, spekulatives und geistreiches Denken. Nur die Beweglichkeit des menschlichen Geistes schafft uns die Freiheit für Logik und Fantasie – nicht die Abnahme von Routinetätigkeiten.

„Entwickler“, so schreibt Carr, „gehen häufig davon aus, Menschen seien unzuverlässig und ineffizient, zumindest im Vergleich mit einem Computer. Daher weisen sie den Menschen die kleinstmögliche Rolle in den Abläufen des Systems zu.“ Doch der Faktor Mensch verschwindet nicht, bloß weil man ihn ignoriert!

Entwickler ziehen in all ihren Überlegungen nämlich höchst selten in Betracht, dass es „für Menschen unmöglich ist, eine reine Überwachungsfunktion für unwahrscheinliche Abweichungen zu übernehmen.“  Die Fähigkeiten einer Person verkümmern, wenn sie nicht benutzt und regelmäßig abgerufen werden. Daher wird sich irgendwann selbst „ein erfahrener Systembediener wie ein Anfänger verhalten, wenn sein Job hauptsächlich aus Beobachten besteht und nicht aus Handeln.“

Die Annahme, Menschen seien die Schwachstellen im System, wird so zur selbsterfüllenden Prophezeiung.

Fazit

Carr empfiehlt einen gewaltlosen Akt der Rebellion, denn „Entscheidungen über Technologien sind immer auch Entscheidungen über Arbeits- und Lebensweisen.“

Diese Entscheidungen können wir jederzeit selbst beeinflussen, indem wir einen Schritt zurücktreten, die jeweilige Technologie kritisch betrachten und Entscheidungen für oder gegen eine Technologie bewusst treffen, anstatt diese Entscheidung anderen zu überlassen oder sich der Eigendynamik des Fortschritts kritiklos zu unterwerfen.

„Technologie hat Menschen schon immer dazu gebracht, darüber nachzudenken, was ihnen im Leben wirklich wichtig ist und sich zu fragen, was Mensch sein bedeutet. Jetzt da die Automatisierung bis in die intimsten Bereiche unserer Existenz hineinreicht, sind die Einsätze höher. Wir können zulassen, dass die technologische Strömung uns davonträgt, oder wir können uns ihr entgegenstellen. Sich Neuerungen zu widersetzen bedeutet nicht, Neuerungen generell abzulehnen. Es bedeutet, Neuerungen in die Schranken zu weisen, den Fortschritt wieder auf den Boden der Tatsachen zurückzubringen.“

Carrs Buch und seine dargestellten Thesen sind ein Aufruf zu einer längst überfälligen technologischen Emanzipation. Und die brauchen wir dringender denn je!

Bestellung über www.futability.com oder über Amazon.