Sprachmodelle klingen wahnsinnig intelligent. Nicht nur wenn ihre Antworten korrekt sind, sondern auch dann, wenn sie falsch liegen. Und das ist häufiger der Fall, als die meisten glauben.
Sprachmodelle sind innerhalb weniger Jahre zum Alltagswerkzeug von Milliarden Menschen weltweit geworden. Sie schreiben Mails, fassen Texte zusammen oder recherchieren Informationen. Ein Problem dabei, das vielen aber noch nicht in diesem Ausmaß bewusst ist: Diese Modelle klingen immer überzeugend und selbstsicher. Auch dann, wenn sie falsch liegen. Und das tun sie öfter als gedacht. Wer ihre Grenzen nicht kennt, übernimmt schnell mal deren Fehler und merkt es nicht mal.
Eine ungeschulte Nutzung kann deshalb schnell mehr Schaden anrichten, als die meisten glauben. Falsche Fakten in einem Angebot oder Beitrag, erfundene Quellen in einer Recherche, bis hin zu Wahnvorstellungen, weil der Chatbot die eigene Weltsicht immer wieder bestätigt, anstatt sie zu hinterfragen. Für einen verantwortungsbewussten Umgang ist es daher entscheidend, zu wissen, wo diese Systeme an ihre Grenzen stoßen.
Sprachmodelle haben viele Schwachstellen. Halluzinationen sind zwar die bekanntesten, aber sie sind nur die Spitze des Eisbergs. Im Folgenden finden Sie einige der wichtigsten Limitierungen und Risiken bei der Nutzung von Sprachmodellen.
Sprachmodelle erfinden andauernd Fakten, Quellen und Zitate. Und zwar in einem Tonfall, der nicht von einer korrekten Antwort zu unterscheiden ist. Seien Sie vorsichtig und vertrauen Sie niemals ungeprüft einem Chatbot, wenn es sich dabei um Informationen handelt, bei denen der exakte Wahrheitsgehalt eine Rolle spielt.
Modelle neigen dazu, dem Nutzer nach dem Mund zu reden, statt zu widersprechen. Sie bestätigen falsche Annahmen und loben schwache Ideen. Das liegt in erster Linie daran, wie diese Modelle trainiert werden. In jedem Fall muss man vorsichtig sein, weil sie sogar so weit gehen können, Fakten zu erfinden, damit der Nutzer zufriedengestellt wird.
Über geschickt formulierte Eingaben lassen sich Sprachmodelle dazu bringen, ihre eigentlichen Anweisungen zu übergehen, etwa um vertrauliche Informationen preiszugeben oder unerwünschte Aktionen auszuführen. Gerade beim Einsatz von KI‑Assistenten und Agenten im Unternehmen kann dies zu einem ernsten Sicherheitsrisiko werden.
Je schwieriger eine Aufgabe wirkt, desto eher verlassen sich Menschen vollständig auf die KI, statt deren Antworten zu prüfen. Forschung zeigt, dass diese Übernahme eine strategische Entscheidung ist und kein unausweichlicher Reflex. Weil man sich dafür entscheidet, aus Faulheit der Maschine zu vertrauen.
Menschen neigen auch dazu, automatisierten Systemen blind zu vertrauen und das eigene Urteil zurückzustellen, ohne darüber nachzudenken. Laut einer Studie von KPMG verlassen sich rund zwei Drittel der Beschäftigten auf KI‑Ausgaben, ohne sie kritisch zu prüfen. Anders als bei der Overreliance handelt es sich hierbei also weniger um intentionales, sondern eher um unbewusstes Verhalten.
Diese fünf Aspekte zeigen: Die größte Schwachstelle von KI-Systemen sitzt oft vor dem Bildschirm. Nicht aus Inkompetenz, sondern weil diese Tools dazu in der Lage sind, unsere psychologischen Schwachstellen auszunutzen und uns zu täuschen. Wer Sprachmodelle im Arbeitsalltag produktiv und rechtssicher nutzen will, muss diese Dynamiken verstehen. Genau hier setzt diese Keynote an. Um dieses Wissen praxisnah in Ihre Organisation zu bringen und Ihre Teams für den sicheren Umgang mit KI zu schulen, kommt Niklas Titgemeyer gerne im Rahmen einer Keynote oder einer Schulung zu Ihnen in die Organisation.
Niklas Titgemeyer ist KI‑Keynote‑Speaker und Soziologe (M. A.) mit Spezialisierung auf Limitierungen von KI‑Sprachmodellen und über 67.000 Followern auf Social Media.