Risiken bei der Auslagerung
des Denkens an KI

Sprachmodelle erfinden Fakten. Andauernd. Inzwischen wissen das auch immer mehr Menschen, als in den Anfangsjahren. Aber das Ausmaß dieses Phänomens ist noch lange nicht begriffen worden und stellt eine immense Gefahr in der Nutzung dieser Modelle dar. Das Tückische ist dabei meist nicht nur der Fehler an sich, sondern dass er nicht als Fehler erkennbar ist. Ob nun halluzinierte Quelle, falsche Jahreszahl oder erfundenes Zitat. Alles wirkt wahnsinnig überzeugend. Bis man einen Blick in die Quelle wirft und feststellt, dass es haufenweise Ungenauigkeiten oder Fehlinterpretationen gibt.

Wir neigen dazu, Technologien menschliche Eigenschaften zuzuschreiben, wenn Sie uns Ähneln. Da Sprachmodelle eine zutiefst menschliche Kommunikationsform aufweisen, haben wir die starke Tendenz dazu, Sprachmodelle zu vermenschlichen. Wir übertragen deshalb unsere eigenen, menschlichen Erfahrungen und Erwartungen auf sie und gehen unbewusst davon aus, dass sie ähnlich wie wir denken, handeln und Zusammenhänge verstehen. Doch diese Annahme ist ein Trugschluss. Die Intelligenz von Chatbots verhält sich alles andere als parallel zu der unseren.

Sprachmodelle neigen dazu, uns zuzustimmen. Sie bestätigen unsere Annahmen also tendenziell auch dann, wenn sie wissen, dass diese falsch sind. In der Fachliteratur wird dieses Phänomen auch „Sycophancy“ genannt. Der Grund dafür liegt im Training. Denn die Modelle werden so optimiert, dass sie Antworten produzieren, die von Menschen bevorzugt werden. Und wir bevorzugen es, wenn wir Bestätigung erhalten, anstatt dass unsere Weltsicht hinterfragt oder uns gesagt wird, dass wir falsch liegen. Und jedes KI‑Modell, das Sie benutzen, ist sich dieser Präferenz im Klaren und verhält sich dementsprechend. Denn eine unerwünschte Konsequenz des Trainings ist es, dass es Antworten erstellen soll, die uns als Menschen zufriedenstellen.

Die Zuverlässigkeit dieser Modelle ist aber nur ein Teil des Problems. Ein weiterer Faktor bleibt das Vertrauen der Menschen in diese Systeme, das in Kombination mit der Nutzung ein Risiko darstellt. Viele übernehmen die Ausgaben eines KI‑Sprachmodells einfach ungeprüft. In einer großen internationalen Befragung gaben zwei Drittel der Beschäftigten an, sich bei der Arbeit schon auf KI‑Ergebnisse verlassen zu haben, ohne sie kritisch zu prüfen. Das kommt nicht von irgendwo: Fast die Hälfte der Arbeitnehmer befürchtet, abgehängt zu werden, wenn sie KI nicht nutzen. Dieser Druck befördert einen sorglosen Umgang und ist der Beginn eines Teufelskreislaufs. Wenn Sie mehr dazu erfahren wollen, dann lassen Sie uns gerne in den Austausch wegen einer Keynote gehen!