🧠 KI frisst menschliche Intelligenz: warum Deskilling die nächste große Governance-Herausforderung wird
ein Beitrag von Sanja Cancar
Von „Modellkontrolle“ zu „kognitiver Abhängigkeit“: Was Entscheiderinnen jetzt verstehen müssen
Die Debatte über generative KI verändert ihren Charakter. Lange dominierte die Frage, wie leistungsfähig die Modelle sind. Inzwischen rückt eine unbequemere Frage in den Vordergrund: Was passiert mit der menschlichen Urteilsfähigkeit, wenn KI zum Standardinstrument für Denken, Schreiben und Entscheiden wird?
Die Hinweise verdichten sich — aus Neurowissenschaft, Organisationsforschung, Arbeitssoziologie und Regulierungspraxis. Sie alle deuten auf ein paradoxes Muster: KI steigert kurzfristig den Output und senkt gleichzeitig langfristig jene kognitiven Fähigkeiten, auf denen die Qualität dieses Outputs eigentlich beruht. Für AI Governance und Compliance bedeutet das einen Paradigmenwechsel: Die zentrale Frage verschiebt sich von „Wie gut ist die KI?“ zu „Wie bleibt der Mensch entscheidungsfähig im System?“
1. Der Befund: „Cognitive Cannibalism“ ist messbar
Vivienne Ming, theoretische Neurowissenschaftlerin und Chief Scientist am Possibility Sciences, hat in einem vielbeachteten Beitrag im Wall Street Journal (2026) eine Diagnose gestellt: KI „kannibalisiert“ menschliche Intelligenz. Bis zu 90 % der Nutzenden, so Mings Forschung, „schalten ihr Gehirn ab“, sobald sie KI für Antworten nutzen — sie delegieren nicht nur Ausführung, sondern auch Denken und Bewertung.
Diese Beobachtung ist keine Meinungsäußerung, sondern deckt sich mit empirischen Befunden: Die EEG-Studie des MIT Media Lab (2025) zeigte, dass Studierende, die über vier Monate hinweg Essays primär mit ChatGPT verfassten, signifikant reduzierte Aktivität in Hirnnetzwerken für tiefergehendes Reasoning aufwiesen und dass dieser Effekt auch nach Ende der Studie anhielt. Eine Mixed-Methods-Studie dokumentierte vergleichbar „Cognitive Offloading“, nachlassende Motivation für tiefergehendes Lernen und eine beginnende „Solution Paralysis“, wenn KI-Unterstützung fehlt.
Im Gesundheitswesen liefert eine Studie aus Polen erste Beweise: Ärzt:innen, die routinemäßig mit KI-Unterstützung arbeiteten, verloren ihre Fähigkeiten zur Krebserkennung, sobald das System abgeschaltet wurde. Eine globale Sermo-Umfrage unter Ärztinnen und Ärzten ergab: Jeweils 22 % sehen Risiken durch nachlassende Aufmerksamkeit bzw. eine zunehmende Automatisierungsverzerrung (Automation Bias), den Kompetenzverlust bei angehenden Ärztinnen und Ärzten (Deskilling) sowie eine Erosion des klinischen Urteilsvermögens und der Empathie.
Für Governance-Verantwortliche lautet die Konsequenz: Deskilling ist kein Randphänomen der Personalentwicklung. Es ist ein systemisches Risiko für die organisationale Resilienz und damit direkt eine Governance-Aufgabe.
2. Der Mechanismus: Warum flüssige Sprache Intelligenz vortäuscht
Ein Kernproblem ist, dass sprachliche Qualität mit kognitiver Tiefe gleichgesetzt wird. Die Studie von Jakesch et al. (Cornell Tech) zeigt, dass Menschen KI-generierte Texte kaum von menschlichen unterscheiden können und dabei Schreibstil, Tonalität oder Struktur als Proxy für „Verständnis“ verwenden. Überzeugend formulierte Antworten wirken kompetenter, als sie inhaltlich sind.
Dies ist ein klassischer Treiber für Automation Bias und Overreliance; insbesondere in Entscheidungsprozessen mit hoher Unsicherheit. Wenn ein KI-Output plausibel klingt, sinkt die Wahrscheinlichkeit, dass er tatsächlich überprüft wird. Genau hier setzt der schleichende Prozess des Deskillings ein: Nicht die KI entzieht dem Menschen die Fähigkeit. Der Mensch übt sie nicht mehr aus, weil der Output „gut genug“ erscheint.
3. Die Kluft: Cyborgs vs. Cognitive Surrender
In einer Studie über den Kompetenzverlust von Softwareentwicklern bei der Nutzung von KI, zeigt sich ein überraschendes Muster in der Mensch-KI-Kollaboration: Nur etwa 5 bis 10 % der Nutzenden erzielen Ergebnisse, die sowohl reiner KI als auch reinem Mensch überlegen sind. Diese Gruppe nutzt KI nicht als Autopilot, sondern als intellektuellen Sparringspartner. Sie prüfen, widersprechen, vergleichen und formulieren um. Entscheidend ist nicht die bloße Nutzung, sondern die methodische Interaktionsqualität.
Was den restlichen 90 % fehlt, ist nicht Intelligenz. Es sind kognitive Haltungen: Perspektivwechsel, intellektuelle Demut, aktives Hinterfragen. Das Gegenstück zum Cyborg ist der „Cognitive Surrender“ — die schleichende, meist unbewusste Abgabe von Denkleistungen an KI, weil die Antworten „ausreichend gut“ wirken. Die Folgen: weniger Verifikation, weniger eigenes Strukturieren von Problemen, blindes Vertrauen in plausibel klingende Outputs.
Für Governance bedeutet das: Das Problem ist nicht die KI. Das Problem sind Nutzungsmuster, die keine aktive kognitive Beteiligung erzwingen.
4. Die strukturelle Dimension: Deskilling als politische Technologie
Deskilling sei kein neutraler Nebeneffekt, sondern eine strukturelle Eigenschaft der Art und Weise, wie KI in Arbeitsprozesse integriert wird – argumentiert Giorgi Vachnadze: Wenn AI-Integration die Arbeiterin auf die Rolle einer „Prompt-Geberin“ reduziert, dann ist das keine neutrale Technologieentwicklung, sondern eine bewusste Umstrukturierung von Arbeit. Reskilling-Programme, so die provokante These, dienen dann weniger der echten Befähigung als vielfach der Ablenkung von strukturellen Machtfragen.
Die akademische Forschung stützt diesen strukturellen Blick: Avigail Ferdman argumentiert, dass AI-induziertes Deskilling ein strukturelles Problem sei und nicht individuelles Versagen. Die Kapazitätsentwicklung, die Expertise erst aufbaut, werde durch KI-Vermittlung systematisch untergraben, weil die Übungszyklen ausbleiben, aus denen sich Können konstituiert.
5. Was sich für Governance ändert: Vom Modellrisiko zum Human-System-Risiko
Bisher konzentriert sich AI Governance primär auf Modellrisiken: Halluzinationen, algorithmischen Bias, Datensicherheit, Cybersicherheit. Diese Perspektive bleibt essenziell, aber immer wichtiger werden Human-System-Risiken: Overreliance & kognitive Bequemlichkeit, Kompetenzverlust, falsche Verantwortungszuschreibung, Verlust der unabhängigen Entscheidungsfindung usw.
Das Credo „Move fast and break things“ gefährdet hier die Resilienz der Organisation. Die Frage ist nicht, ob die KI leistungsfähig oder „compliant“ genug ist, sondern ob die Menschen, die sie beaufsichtigen sollen, entscheidungsfähig bleiben.
6. Die regulatorische Realität: Art. 9 EU AI Act verlangt mehr als „Presence“
Der EU AI Act (Art. 9) verpflichtet Anbieter und Betreiber von High-Risk-AI-Systemen zur Einrichtung eines kontinuierlichen Risikomanagementsystems – einschließlich menschlicher Aufsicht. Doch während die Regulierung menschliche Kontrolle als Sicherheitsmechanismus voraussetzt, kann die Nutzung von KI genau zum Verlust von genau jenen kognitiven Fähigkeiten führen, die diese Menschen zur kritischen Evaluation benötigen. In dem Fall wird Human der so genannte „Human in the loop“-Ansatz zur pro-forma-Übung.
Das bedeutet konkret: Organisationen müssen nicht nur nachweisen, dass ein Mensch in den Prozess eingebunden ist. Sie müssen nachweisen, dass dieser Mensch die kognitive Fähigkeit und die methodische Routine besitzt, KI-Outputs tatsächlich zu hinterfragen — und dass die Organisationsstruktur diese Befähigung fördert, nicht untergräbt.
7. Sechs Handlungsfelder für Entscheiderinnen
Es ergeben sich sechs konkrete AI Governance-Handlungsfelder:
1. Human Oversight neu definieren
„Ein Mensch schaut drüber“ reicht nicht mehr. Gefordert sind Prozesse, die aktive kognitive Beteiligung, nachvollziehbare Entscheidungslogik und dokumentierte Gegenprüfung erzwingen. Die Frage ist nicht: Ist jemand zuständig? Sondern: Kann dieser jemand die Entscheidung begründen, wenn er sie überprüft?
2. KI-Design mit „Cognitive Friction“
Systeme sollten nicht ausschließlich auf maximale Bequemlichkeit optimiert sein. Zielführender sind schrittweise Antworten statt Komplettlösungen, Begründungsanforderungen an die Nutzenden und die verpflichtende Ausgabe von Alternativhypothesen. Gezielte Friktion ist also kein UX-Mangel, sondern eine bewusst eingesetzte Governance-Maßnahme. Bei der Idee des ‚controlled error injection‘ werden gezielt realistische Fehler in KI-Ausgaben eingebracht, um die menschliche Prüffähigkeit aktiv zu erhalten und zu messen
3. Skill Protection als Governance-Ziel verankern
Aufsichtsräte und Führungskräfte müssen definieren: Welche Kernkompetenzen dürfen niemals vollständig delegiert werden? Welche strategischen Tätigkeiten bleiben bewusst „KI-frei“? Wo ist menschliche Urteilsfähigkeit nicht ersetzbar?
4. Overreliance messbar machen
Neue KPIs sind nötig: Wenn Organisationen verstehen wollen, ob KI tatsächlich unterstützt oder bereits kritisches Denken ersetzt, müssen sie neue Formen der Messung entwickeln. Relevante Indikatoren könnten zum Beispiel erfassen, wie viele Entscheidungen ungeprüft aus KI-Empfehlungen übernommen werden, ob Mitarbeitende weiterhin in der Lage sind, Probleme ohne KI-Unterstützung zu lösen, oder ob sich die Qualität eigenständiger Analysen über die Zeit verändert.
5. Transdisziplinäre Formate etablieren
Praxiserfahrung aus Projekten wie FAIR-AI zeigt: Dialogische Instrumente wie Case Clinics, Ethical and Legal Design Workshops und Ethical and Legal Reflection Workshops können helfen, ethische und rechtliche Reflexion strukturiert in Entwicklungsprozesse zu integrieren und das über die gesamte Laufzeit hinweg. Solche Formate machen Deskillling-Risiken sichtbar, bevor sie strukturell verankert sind.
6. Reskilling kritisch reflektieren
Reskilling-Programme dürfen nicht als Alibi dienen, um strukturelle Machtverschiebungen zu verschleiern. Echte Kompetenzförderung bedeutet nicht, Menschen beizubringen, „Prompts zu schreiben“ sondern ihnen die Fähigkeit zu erhalten, Probleme eigenständig zu strukturieren, zu bewerten und zu lösen.
Fazit
KI erhöht kurzfristig die Effizienz und verändert langfristig die Struktur menschlicher Kompetenz, wenn sie falsch eingesetzt wird. Für AI Governance und Compliance verschiebt sich die zentrale Frage: Es geht nicht mehr nur darum, wie gut die KI ist. Es geht darum, wie der Mensch im System entscheidungsfähig bleibt.
Oder zugespitzt: Die nächste große Compliance-Herausforderung ist nicht Modellkontrolle sondern kognitive Abhängigkeit.
Regulierung und Governance sind dabei keine Einschränkung. Sie sind die eigentlichen Ermöglicher digitaler Souveränität.
🔗 Weiterführende Ressourcen:
