| |
|
Alle zwei Wochen filtern wir das KI-Rauschen und bringen auf den Punkt, was für Learning & Development wirklich zählt: relevante Entwicklungen, Tool-Checks, Mini-Hacks und vieles mehr.
|
| |
|
| |
| Ausgabe #11 | 14.07.2026 | Von: Friedl Wynants |
| |
|
 |
| |
| Der Automation Bias: Wir klicken einfach OK. |
| |
KI wird immer besser: Die Antworten werden sauberer, die Formulierungen souveräner, die Ergebnisse sehen oft vollständig aus und klingen plausibel. Das ist der Fortschritt, auf den viele (Organisationen) gewartet haben.
Aber es gibt eine Kehrseite: Je überzeugender KI wirkt, desto eher sind wir versucht, ihr einfach zu folgen.
In der Forschung gibt es dafür einen Begriff: Automation Bias. Gemeint ist die Tendenz, automatisierten Empfehlungen mehr zu vertrauen als dem eigenen Urteil. Bekannt ist das Phänomen aus Bereichen wie Luftfahrt oder Medizin. Jetzt wird es im Büroalltag relevant.
Eine aktuelle Studie in Scientific Report hat untersucht, wie Menschen mit KI-Hinweisen in Entscheidungssituationen umgehen. Das Ergebnis: Wer KI grundsätzlich positiv gegenübersteht, läuft eher Gefahr, sich von KI-Hinweisen in die falsche Richtung lenken zu lassen.
Auch der AI Fluency Index von Anthropic zeigt ein interessantes Muster: Wenn KI ausformulierte Outputs erstellt – also Dokumente, Code, Konzepte oder andere „vorzeigbare“ Ergebnisse –, prüfen Nutzerinnen und Nutzer seltener Fakten, fehlenden Kontext oder die Begründung des Modells. Kurz gesagt: Je fertiger etwas aussieht, desto weniger prüfen wir nach.
Was heißt das für L&D?
Für L&D wird Automation Bias an zwei Stellen relevant:
- Mitarbeitende brauchen nicht nur Tool-Kompetenz, sondern Urteilsfähigkeit. Sie müssen wissen, wann sie KI folgen können, wann sie nachfragen sollten und wann sie bewusst widersprechen müssen.
- L&D baut selbst immer mehr KI-gestützte Lernsysteme: Lernpfade, Feedbacks, Kompetenzeinschätzungen, Lern-Buddies. Auch hier stellt sich die Frage: Helfen diese Systeme Menschen beim Denken oder liefern sie nur Antworten, die bequem abgenickt werden?
Aus unserer Sicht ist genau das ein entscheidendes Designprinzip von KI-Lern-Anwendungen.
Ein Lern-Buddy, der nur Antworten ausspuckt, kann Automation Bias verstärken. Ein Buddy, der Rückfragen stellt, zur eigenen Einschätzung auffordert und Unsicherheiten sichtbar macht, arbeitet dagegen. Zum Beispiel mit Fragen wie: „Wie würden Sie die Situation selbst einschätzen?“ oder „Was spricht in Ihrem konkreten Kontext dafür – und was dagegen?“. Gute KI im Lernen ersetzt nicht das eigene Urteil, sondern hilft, es zu schärfen.
Unterm Strich: KI-Adoption war nur der erste Schritt. Jetzt geht es darum, Menschen so zu begleiten, dass sie KI nutzen, ohne das eigene Denken an der Garderobe abzugeben. |
| |
|
 |
| |
| 2 Mythen über Automation Bias |
| |
- „Wir haben Human-in-the-Loop – das reicht.“ → Nicht automatisch.
Human-in-the-Loop klingt erst einmal beruhigend: Bevor eine KI-Empfehlung wirksam wird, schaut ein Mensch darauf. Das Problem: Draufschauen ist noch keine Prüfung. Wenn ein KI-System souverän formuliert, begründet und fachlich plausibel klingt, wird aus Kontrolle schnell ein Abnicken. Hier entsteht Automation Bias: Der Mensch ist zwar formal beteiligt, übernimmt aber faktisch die Einschätzung der KI. Entscheidend ist also, ob Menschen wirklich befähigt sind, KI-Empfehlungen zu hinterfragen, Grenzen zu erkennen und im Zweifel zu widersprechen.
- „Jüngere Mitarbeitende sind KI gegenüber automatisch kritischer.“ → Eher nicht.
Die Annahme klingt naheliegend: Wer mit digitalen Tools aufgewachsen ist, geht auch souveräner mit KI um. In der Praxis ist es komplizierter. Wer KI selbstverständlich nutzt und gute Ergebnisse bekommt, vertraut dem Tool oft schneller. Gerade routinierte Nutzerinnen und Nutzer laufen Gefahr, fertige KI-Outputs weniger gründlich zu prüfen – vor allem, wenn sie gut formuliert sind.
Andersherum formuliert: Kritisches Urteilen ist weniger ein Zeichen von Technik-Skepsis, sondern Teil professioneller KI-Nutzung.
|
| |
|
 |
| |
| Das Widerspruchsprotokoll: 3 Fragen gegen blindes Abnicken |
| |
Immer wenn KI eine Empfehlung liefert, die echte Konsequenzen hat, zum Beispiel bei einer Kompetenzeinschätzung, einer Lernpfad-Empfehlung, einer Compliance-Frage oder einer Entscheidungsvorlage, helfen drei Fragen:
- Was hätte ich ohne KI entschieden?
Erst die eigene Einschätzung formulieren. Dann den KI-Output lesen. Die Reihenfolge ist wichtig, weil die KI sonst den Denkrahmen setzt.
- Was weiß ich aus meinem Kontext, was die KI nicht wissen kann?
Aktuelle Stimmung im Team, Sonderfälle, informelle Regeln, Kundenhistorie, politische Lage im Unternehmen. Genau dieses Kontextwissen macht menschliches Urteil wertvoll.
- Klingt das überzeugend – oder ist es belastbar?
Ein souveräner Ton ist kein Qualitätsmerkmal. Entscheidend ist: Welche Fakten stützen die Empfehlung? Was spricht dagegen? Wo fehlen Informationen?
Besonders wirksam wird das Protokoll, wenn es zur festen Routine vor Entscheidungen mit Gewicht wird: vor Freigaben, Reviews, Lernempfehlungen, Förderentscheidungen oder automatisch erzeugten Feedbacks.
Die einfache Regel: Erst denken, dann KI prüfen, dann entscheiden. |
| |
|
 |
| |
| Microsoft-Report: KI-Nutzung in der Bildung wächst schneller als die Trainingsangebote |
| |
Microsoft hat den neuen „AI in Education Report 2026“ veröffentlicht – und die Zahlen zeigen ein bekanntes Muster: KI ist längst im Alltag angekommen, aber die formale Befähigung hinkt hinterher. 92% der befragten Studierenden und Education Leader sowie 88% der Lehrkräfte haben KI bereits für schulische oder universitäre Zwecke genutzt. Gleichzeitig sagen 77% der Studierenden und 53% der Lehrkräfte, dass sie bislang kein formales KI-Training erhalten haben.
Nutzung entsteht oft schneller als Kompetenz. Für L&D ist das eine Erinnerung: AI Literacy darf nicht als einmalige Tool-Schulung gedacht werden.
🔗 Quelle: https://now.you-know.de/e/811453/increasing-demand-for-support-/czg9n/1638852154/h/5O4pkUQLXGAQCucL38CR83x8talI7Q0hG2XzbliyYv0 |
| |
| Cloudflare zieht neue Grenzen für KI-Zugriffe auf Content |
| |
Cloudflare, einer der großen Infrastruktur-Anbieter im Internet, gibt Website-Betreibern künftig mehr Kontrolle darüber, wie KI-Systeme auf Inhalte zugreifen – etwa für Suche, Agenten-Nutzung oder Training. Ab September 2026 sollen bestimmte Agent- und Training-Crawler bei neuen Domains standardmäßig blockiert werden, während klassische Suchmaschinen weiter zugreifen dürfen.
Für L&D ist das relevant, weil Lerninhalte, Wissensdatenbanken und öffentliche Fachinhalte zunehmend auch von KI-Systemen gelesen, verarbeitet oder weiterverwendet werden. Content Governance heißt damit künftig nicht nur: Ist unser Wissen aktuell und richtig? Sondern auch: Wer darf es maschinell nutzen – und wofür?
🔗 Quelle: https://now.you-know.de/e/811453/t-independence-day-ai-options-/czg9r/1638852154/h/5O4pkUQLXGAQCucL38CR83x8talI7Q0hG2XzbliyYv0 |
| |
|
 |
| |
| Vertrauen als Kompetenz – aber welches? |
| |
Lange ging es beim Thema KI vor allem darum, Vertrauen aufzubauen: In Organisationen, in Führungsteams, bei Mitarbeitenden, die anfangs skeptisch waren. Und das war auch richtig: Ohne ein gewisses Grundvertrauen bleibt KI ein Spielzeug für Enthusiasten.
Inzwischen hat sich etwas verschoben. Viele Menschen nutzen KI ganz selbstverständlich. Sie fragen, prüfen, schreiben, strukturieren und entscheiden mit Unterstützung von KI. Ich merke an mir selbst: Die Hürde ist schon lange nicht mehr „Traue ich mich, das Tool zu nutzen?“, sondern „Merke ich noch, wann ich genauer hinschauen sollte?“
In guten Teams ist es völlig normal, sich gegenseitig zu hinterfragen. Menschen, die immer nur nicken, bringen eine Organisation selten weiter. Wertvoll sind diejenigen, die eigene Einschätzungen einbringen, Widersprüche benennen und auch mal sagen: „Moment, ich sehe das anders.“
Ich meine damit auf KI bezogen kein Misstrauen aus Prinzip. Sondern die professionelle Fähigkeit, auch bei gut klingenden Antworten kurz innezuhalten, eigene Erfahrung einzubringen, Kontext zu ergänzen – und ja, im Zweifel auch zu widersprechen.
Aus meiner Sicht ist das die nächste Reifestufe.
Vielleicht lohnt es sich, das nicht nur bei sich selbst zu prüfen – sondern auch im Team einmal offen zu fragen: Wo nicken wir eigentlich nur noch ab? |
| |
In diesem Sinne: Weiterdenken lohnt sich!
Viele Grüße
Friedl Wynants |
| |
| |
|
|
|
| |
| |
| 💌 Wenn Ihnen dieser Newsletter hilft, teilen Sie ihn gern im Team oder Netzwerk. Danke, dass Sie die AI in L&D Community weiter wachsen lassen. |
| |
| |
| |
|
Sie möchten tiefer in AI für L&D eintauchen und Insights, Einordnungen und Praxistipps erhalten? Dann schreiben Sie unsgerne oder vernetzen Sie sich mit unseren KI-Experten auf LinkedIn.
|
|
|
| |
Ausgabe verpasst?
Alle bisherigen Newsletter finden Sie im Archiv |
| |
|
|
