Sensibilisierung:
Kritischer Umgang
mit Sprachmodellen

Sprachmodelle erfinden nicht nur einfache Fakten, sondern Quellen, Zahlen, Inhalte oder sogar ganze Personen und Interviews. Und sie tun das sowohl unabsichtlich als auch mit voller „Überzeugung“. Denn sie haben gelernt, dass es manchmal besser ist, eine Quelle zu erfinden, weil sie uns damit zufriedenstellen können (solange sie hierbei nicht auffallen). Im Vortrag lernt Ihr Team das Ausmaß von Halluzinationen kennen, wo sie besonders häufig auftreten und wie man sie möglichst vermeidet.

KI‑Modelle neigen dazu, uns nach dem Mund zu reden. Sie bestätigen also ununterbrochen unsere Weltsicht, anstatt uns zu widersprechen. Das fühlt sich angenehm an, kann aber schnell gefährlich werden und sogar durch bestimmte Eingaben unbemerkt verstärkt werden. Ich zeige Ihnen, wodurch diese Neigung getriggert wird und wie man gegensteuert.

Ein großes Problem sind aber in erster Linie diejenigen, die vor dem Computer sitzen. Denn viele Nutzer schenken diesen Systemen viel zu viel Vertrauen. Hier gibt es vor allem zwei Mechanismen, die man kennen und reflektieren sollte: den Automation Bias und die Overreliance. Beide sind eng miteinander verwandt, meinen aber verschiedene Dinge, die in unterschiedlichen Gründen wurzeln. In dieser Sensibilisierung zeige ich Ihnen, wie sich diese unterscheiden und auf welche Dinge hierbei geachtet werden muss.

Wer das Denken dauerhaft an Maschinen auslagert, der verlernt es mit der Zeit. Das betrifft nicht nur das kritische Denken, sondern auch Ihre Urteilskraft und die Fähigkeit, überhaupt einen Reflex zu haben, das kritische Denken anzustoßen. Im Vortrag lernt Ihr Team, welche Folgen die ständige KI‑Nutzung für die eigenen kognitiven Fähigkeiten haben kann und wie man diese nicht nur verhindert, sondern Sprachmodelle sogar dazu nutzen kann, die eigene kognitive Leistung zu steigern.

Die Recherche mit KI unterscheidet sich grundlegend von der klassischen Recherchearbeit. Sprachmodelle können wahnsinnig hilfreich hierbei sein, aber nur, wenn man sie richtig einsetzt. Denn sie fassen Informationen nicht bloß zusammen, sondern generieren Text basierend auf Wahrscheinlichkeiten. Selbst dann, wenn man einen vollständigen Text in das Eingabefeld kopiert und ihn zusammenfassen lässt. Das führt dazu, dass das Modell plausibel klingende, aber inhaltlich falsche Zusammenhänge generiert. Zudem greifen Modelle oft auf veraltete Trainingsdaten zurück oder interpretieren aktuelle Suchergebnisse schlicht fehlerhaft.

Klassische Suchmaschinen listen die Ergebnisse nach Autorität und Relevanz auf. KI‑Overviews (wie Google AI Overviews oder Perplexity) liefern direkt die fertige Antwort. Darin liegt ein gravierender Unterschied und gleich mehrere Probleme. Während Suchalgorithmen uns dazu zwingen, verschiedene Quellen zu vergleichen und zu bewerten, verleitet die KI‑Synthese dazu, eine oftmals fehlerhafte Antwort ungeprüft zu übernehmen. Denn eins muss man sich vor Augen halten: Sprachmodelle zitieren keine Quellen wie wir. Sie berechnen Wahrscheinlichkeiten und sagen Wörter vorher, die in dem gegebenen Kontext (auch bei einer Google‑Recherche) plausibel erscheinen.