Quelle: Matt Benson; https://unsplash.com/de/@mattgyver
AI halluziniert. Hab ich selbst erlebt, hab ich immer wieder gehört oder gelesen. So wie ein ahnungsloser Schüler, der bei einer schwierigen Prüfungsfrage ins Blaue rät und zu phantasieren beginnt. Besser irgendwas erzählen als seine Unwissenheit zuzugeben. So hab ich wenigstens noch die Chance auf einen Zufallstreffer. Bekannt? Mal ehrlich, ja, oder?
Genau das kritisieren wir jetzt bei AI Anwendungen. Dabei sind halluzinierende AI nur ein Spiegel unseres eigenen Verhaltens.
Forscher von OpenAI haben herausgefunden: KI-Modelle erfinden Fakten, weil wir sie so trainiert haben. In den Tests gibt es Punkte für jede Antwort – aber keine für „Ich weiß es nicht“. Das belohnt Selbstsicherheit und bestraft Unsicherheit. Das Ergebnis: Systeme, die lieber Unsinn erzählen, als Grenzen einzugestehen.
Das erleben wir doch jeden Tag: In Schule, Karriere, Politik – überall gilt: Wer selbstbewusst auftritt, liegt vorne. Wer zögert, verliert. Wer sagt „das weiß ich nicht“, zeigt vermeintlich Schwäche. Was bei für den Schüler bei der Prüfung eine clevere Strategie sein kann, wird im gesellschaftlichen Leben zur Falle. Denn in Wahrheit ist Unsicherheit ist kein Defizit. Sie ist eine Ressource.
Sie zeigt, dass wir am Rand des Bekannten stehen. Dort, wo Neues entsteht.
Schein-Sicherheit dagegen ist gefährlich und verführerisch. Sie beruhigt für den Moment, führt aber oft auf den Holzweg. Ganze „Geleitzüge auf dem Holzweg“ sind schon losgezogen, weil niemand es wagte, Unsicherheit zu zeigen.
Wer Unsicherheit zulässt, weiß wo er noch gesucht werden muss. Es eröffnet Dialogräume und schafft, es schafft Vertrauen, weil wir uns nicht hinter Schein-Sicherheiten verbergen, die wenn sie aufliegen destruktiv sind.
Halluzinationen in vortrainierten Sprachmodellen entstehen durch natürlichen statistischen Druck. Sie durchlaufen Tests und werden benotet, wie der oben genannte Schüler. Sie werden benotet, die AI Modelle sind, wie könnte es anders sein, darauf optimiert, bei Tests gut abzuschneiden. Und Raten bei Unsicherheit verbessert die Testleistung. Schön wäre jetzt, wenn das Staunen einem inneren „Aha-Erlebnis“ weicht.
Mich erinnert das an den sogenannten „Bike-Shed-Effekt“. Den Namen habe ich auch erst kürzlich zur Kenntnis genommen, der Effekt dahinter ist aber wohlbekannt, oft genug erlebt: Menschen diskutieren endlos über Nebenthemen – die Farbe des Fahrradschuppens – während die wirklich großen Fragen unbearbeitet bleiben. Das ist mehr als ein Managementproblem. Es zeigt unseren Umgang mit Endlichkeit. Unsicherheit erinnert uns daran, dass wir nicht alles wissen, nicht alles kontrollieren können. Und das kratzt an unserem Selbstbild. Søren Kierkegaard nannte das die „Angst vor der Freiheit“: Wir fliehen vor den Möglichkeiten, die uns am meisten herausfordern. Psychologen sprechen vom „Approach-Avoidance-Konflikt“: Wir sind zugleich angezogen und abgestoßen von dem, was wirklich wichtig ist.
Und so stürzen wir uns lieber in Kaffeekapseln, Excel-Tabellen oder Farbdebatten – kleine Unsterblichkeitsprojekte, die uns Sicherheit und Kontrolle vorgaukeln.
Ehrliche Unsicherheit ein Schlüssel: Sie zwingt uns, den Blick von Nebensächlichkeiten zu heben und die großen Fragen auszuhalten.
Am Ende geht es nicht um KI, Fahrradschuppen oder Kaffeekapseln.
Es geht um uns – darum, ob wir den Mut haben, mit unserer eigenen Unsicherheit zu leben.
Wer Unsicherheit aushält, lebt näher an der Wahrheit. Wer sie teilt, schafft Nähe zu anderen.
Vielleicht ist das größte Geschenk, das wir einander machen können, nicht eine Antwort – sondern ein ehrliches: „Ich weiß es nicht.“