KI macht aus einem Denkfehler keinen richtigen Gedanken.
Sie kann ihn aber sehr viel schneller machen.
Und sehr viel überzeugender.
Genau darin liegt ein Teil des Risikos.
Wenn eine falsche Annahme, ein ungeeignetes Kriterium oder ein schlecht verstandenes Problem in ein KI-System eingeht, verschwindet es dort nicht. Im Gegenteil: Es kann skaliert, automatisiert und mit einer Sicherheit ausgegeben werden, die der ursprünglichen Grundlage gar nicht zusteht.
Die Analysen in diesem Bereich beschäftigen sich deshalb weniger mit KI als Technologie als mit der Frage, was mit Entscheidungen geschieht, wenn KI Teil ihrer Grundlage wird.
Das Problem beginnt oft vor der KI
Ein KI-System entscheidet nicht selbst, was im Unternehmen relevant sein soll.
Vorher wurde bereits festgelegt, welche Daten verwendet werden, welche Kategorien gelten, welche Zielgrösse optimiert werden soll und was überhaupt als gutes Ergebnis zählt.
Genau dort können Fehler entstehen.
Wenn beispielsweise das falsche Verhalten gemessen wird, hilft auch das beste Modell nicht weiter. Es wird nur sehr präzise mit der falschen Grundlage arbeiten.
Die interessante Frage lautet deshalb nicht nur:
Was kann die KI?
Sondern auch:
Was haben wir ihr eigentlich gegeben?
Plausibilität lässt sich automatisieren
Viele KI-Ergebnisse wirken auf den ersten Blick überzeugend.
Sie sind sauber formuliert, logisch aufgebaut und passen häufig erstaunlich gut zu dem, was bereits erwartet wurde.
Das macht sie nützlich.
Es macht sie aber auch gefährlich.
Denn ein plausibles Ergebnis ist noch kein belastbares Ergebnis.
Wenn die zugrunde liegende Annahme falsch ist, kann KI daraus trotzdem eine sehr überzeugende Antwort erzeugen.
Der Fehler sieht dann nicht mehr wie ein Fehler aus.
Wenn aus Unterstützung Entscheidung wird
KI wird häufig zunächst eingesetzt, um Menschen zu unterstützen.
Sie fasst Informationen zusammen, bewertet Bewerbungen, erstellt Prognosen, erkennt Muster oder schlägt Handlungen vor.
Mit der Zeit kann sich dabei etwas verschieben.
Was ursprünglich als Unterstützung gedacht war, wird zur Entscheidungsgrundlage. Und irgendwann wird nicht mehr gefragt, warum das System zu einem Ergebnis kommt, sondern nur noch, ob das Ergebnis innerhalb des erwarteten Rahmens plausibel aussieht.
Dann wird die technische Effizienz schnell mit Entscheidungsqualität verwechselt.
Governance reicht nicht immer
Regeln, Zuständigkeiten und Kontrollmechanismen sind wichtig.
Sie beantworten aber nicht automatisch die Frage, ob die Entscheidung selbst auf einer tragfähigen Grundlage beruht.
Ein System kann korrekt dokumentiert, rechtlich sauber eingebettet und technisch kontrolliert sein – und trotzdem mit den falschen Kriterien arbeiten.
Das Problem liegt dann nicht in fehlender Governance.
Es liegt in der Logik der Entscheidung.
Die Analysen
KI in der Entscheidungsfindung
KI kann Entscheidungen vorbereiten.
Neutral werden sie dadurch nicht.
KI im Recruiting
Wenn ein System nach den falschen Merkmalen sucht, wird Auswahl nicht objektiver. Nur konsequenter.
KI-Fehlentscheidungen in Unternehmen
Ein Modell kann technisch funktionieren und trotzdem falsche Entscheidungen produzieren.
Warum Unternehmen KI oft falsch einsetzen
Nicht jede Aufgabe wird besser, nur weil KI daran beteiligt ist.
KI-Theater
KI ist eingeführt.
Nur die Entscheidung ist noch genauso schlecht wie vorher.
KI und Strategie: algorithmische Plausibilität
Eine Antwort kann sehr vernünftig klingen und trotzdem auf einer Annahme beruhen, die nie geprüft wurde.
KI-Governance ist keine Entscheidungsprüfung
Kontrolle ist wichtig.
Sie ersetzt aber nicht die Frage, ob überhaupt das Richtige kontrolliert wird.
Wie gut sind Unternehmen darin, Talent zu erkennen?
Auswahlverfahren können sehr zuverlässig das Bekannte erkennen – und dabei genau jene Fähigkeiten übersehen, nach denen Unternehmen eigentlich suchen.
Wenn die KI genau das tut, was wir ihr sagen
„Er fühlt weder Mitleid, noch Reue, noch Furcht. Und er wird vor nichts Halt machen … vor gar nichts, solange Sie nicht tot sind!“
1984 ohne Big Brother
Was geschieht, wenn KI-generierte Fehlinformationen immer wieder übernommen werden, bis sie als unabhängige Quellen erscheinen?
Was das mit Prüfung zu tun hat
KI wird für nexoPreneur dort interessant, wo sie Teil einer strategischen Entscheidung oder einer bestehenden Entscheidungsarchitektur ist.
Bei einem Strategie-Audit kann beispielsweise geprüft werden, ob die Annahmen hinter einem KI-Vorhaben überhaupt tragen.
Bei einer Deep-Dive-Analyse kann relevant werden, wie KI bestehende Entscheidungslogiken übernimmt, verstärkt oder verdeckt.
Die Technik ist dann nur ein Teil des Problems.
Entscheidend bleibt die Frage, welche Logik durch sie wirksam wird.
Weitere Analysen
Erkenntnis & Entscheidungslogik
Wie aus Beobachtungen Erklärungen werden und warum Plausibilität nicht mit Gewissheit verwechselt werden sollte.
Organisation, Wahrnehmung & Verantwortung
Wie Informationen, Verantwortung und Entscheidungskraft innerhalb von Organisationen verteilt sind.
Narrative, Sprache & Diskurs
Wie bestehende Erklärungen beeinflussen, was auch im Umgang mit KI als plausibel erscheint.