die Frage, ob der Dichter Eduard M\u00f6rike jemals auf Helgoland war<\/a>. Eine Pr\u00fcfung der biografischen Quellen ergibt ein klares Nein \u2013 M\u00f6rikes Lebensstationen liegen in W\u00fcrttemberg, nicht an der Nordsee. Ein Sprachmodell antwortet auf eine solche Frage jedoch nicht zwangsl\u00e4ufig mit einem Verweis auf fehlende Belege, sondern mitunter mit einer erstaunlich stimmigen kleinen Erz\u00e4hlung: eine kurze Reise im Jahr soundso, die roten Klippen, das Rauschen der See, das die Melancholie seiner sp\u00e4teren Gedichte gepr\u00e4gt habe. Nichts davon ist belegt, aber alles passt \u2013 zur bekannten M\u00f6rike-Melancholie, zur romantischen Vorstellung von Naturerfahrung, zur Insel selbst. <\/p>\n\n\n\nDas Modell hat nicht gelogen. Es hat, angeregt durch die Frage, die zu M\u00f6rike und zu Helgoland passenden Begriffe zu einer koh\u00e4renten Erz\u00e4hlung verdichtet \u2013 und diese Koh\u00e4renz f\u00fcr sich genommen ist bereits verf\u00fchrerisch genug, um als Wissen durchzugehen.<\/p>\n\n\n\n
Genau das meint der Begriff Halluzination: ein mit voller sprachlicher \u00dcberzeugung vorgetragener Fehler, ohne dass ein T\u00e4uschungswille dahintersteht. Das macht ihn nicht harmloser \u2013 im Gegenteil. Eine T\u00e4uschung ohne T\u00e4uschungsabsicht ist schwerer zu durchschauen, weil sie kein erkennbares Muster hat: kein nerv\u00f6ses Z\u00f6gern, keine Ausweichformulierung, kein Indiz, an dem sich Unehrlichkeit sonst zeigt. Die KI halluziniert mit derselben sprachlichen Souver\u00e4nit\u00e4t, mit der sie korrekt antwortet. Diese Ununterscheidbarkeit <\/em>\u2013 nicht die Falschheit allein \u2013 ist das eigentliche Risiko.<\/p>\n\n\n\nVersch\u00e4rft wird das Problem dadurch, dass Sprachmodelle grunds\u00e4tzlich auf Korrelation statt auf Kausalit\u00e4t trainiert sind: Sie erkennen, welche W\u00f6rter, Themen und Muster statistisch zusammen auftreten, nicht, warum das so ist. Das ist bei einer erfundenen Reiseepisode folgenlos am\u00fcsant. Bei medizinischen, rechtlichen oder finanziellen Fragen \u2013 wo Wissen im eigentlichen Sinn eine Aussage \u00fcber Ursache und Wirkung ist \u2013 wird derselbe Mechanismus riskant, weil das Modell auch dort nur \u00c4hnlichkeit zu plausiblen Antworten erzeugt, keine gepr\u00fcfte Erkl\u00e4rung.<\/p>\n\n\n\n
Eine Analogie: Baudrillards Simulacrum<\/h2>\n\n\n\n
Diese Ununterscheidbarkeit von wahr und plausibel l\u00e4sst sich philosophisch weiter fassen \u2013 als Analogie, nicht als exakte Entsprechung \u2013 mit einer Idee des franz\u00f6sischen Philosophen und Soziologen Jean Baudrillard (1929\u20132007). Baudrillard ist bekannt f\u00fcr seine Theorie der Hyperrealit\u00e4t<\/em>, sein wichtigstes Werk ist \u201eSimulacres et Simulation\u201c (1981), in dem er beschreibt, wie Zeichen und Medien die Realit\u00e4t \u00fcberlagern.<\/p>\n\n\n\nNach Baudrillard k\u00f6nnen sich Zeichen in vier Stufen zunehmend von ihrem Referenzobjekt l\u00f6sen: <\/p>\n\n\n\n