Sensibilisierungen
zu KI‑Risiken

Sprachmodelle erfinden nicht nur einfache Fakten, sondern Quellen, Zahlen, Inhalte oder sogar ganze Personen und Interviews. Und sie tun das sowohl unabsichtlich als auch mit voller „Überzeugung“. Denn sie haben gelernt, dass es manchmal besser ist, eine Quelle zu erfinden, weil sie uns damit zufriedenstellen können (solange sie hierbei nicht auffallen). Im Vortrag lernt Ihr Team das Ausmaß von Halluzinationen kennen, wo sie besonders häufig auftreten und wie man sie möglichst vermeidet.

KI‑Modelle neigen dazu, uns nach dem Mund zu reden. Sie bestätigen also ununterbrochen unsere Weltsicht, anstatt uns zu widersprechen. Das fühlt sich angenehm an, kann aber schnell gefährlich werden und sogar durch bestimmte Eingaben unbemerkt verstärkt werden. Ich zeige Ihnen, wodurch diese Neigung getriggert wird und wie man gegensteuert.

Ein großes Problem sind aber in erster Linie diejenigen, die vor dem Computer sitzen. Denn viele Nutzer schenken diesen Systemen viel zu viel Vertrauen. Hier gibt es vor allem zwei Mechanismen, die man kennen und reflektieren sollte: den Automation Bias und die Overreliance. Beide sind eng miteinander verwandt, meinen aber verschiedene Dinge, die in unterschiedlichen Gründen wurzeln. In dieser Sensibilisierung zeige ich Ihnen, wie sich diese unterscheiden und auf welche Dinge hierbei geachtet werden muss.

Wer das Denken dauerhaft an Maschinen auslagert, der verlernt es mit der Zeit. Das betrifft nicht nur das kritische Denken, sondern auch Ihre Urteilskraft und die Fähigkeit, überhaupt einen Reflex zu haben, das kritische Denken anzustoßen. Im Vortrag lernt Ihr Team, welche Folgen die ständige KI‑Nutzung für die eigenen kognitiven Fähigkeiten haben kann und wie man diese nicht nur verhindert, sondern Sprachmodelle sogar dazu nutzen kann, die eigene kognitive Leistung zu steigern.

Sprachmodelle machen nicht nur Fehler. Mitunter gehen sie sogar so weit, eigene Ungenauigkeiten und große Fehler zu verheimlichen. Bekannt geworden ist zum Beispiel der Fall eines KI‑Agenten bei Replit: Statt Probleme offen zu melden, hat er gefälschte Daten und einen gefälschten Bericht erstellt und so seine Fehler vertuscht. Im Vortrag erfährt Ihr Team, wie es zu solchem Verhalten kommt und warum man sich nie blind auf die Selbstauskunft eines KI‑Systems verlassen sollte.

Klassische Suchmaschinen listen die Ergebnisse nach Autorität und Relevanz auf. KI‑Overviews (wie Google AI Overviews oder Perplexity) liefern direkt die fertige Antwort. Darin liegt ein gravierender Unterschied und gleich mehrere Probleme. Während Suchalgorithmen uns dazu zwingen, verschiedene Quellen zu vergleichen und zu bewerten, verleitet die KI‑Synthese dazu, eine oftmals fehlerhafte Antwort ungeprüft zu übernehmen. Denn eins muss man sich vor Augen halten: Sprachmodelle zitieren keine Quellen wie wir. Sie berechnen Wahrscheinlichkeiten und sagen Wörter vorher, die in dem gegebenen Kontext (auch bei einer Google‑Recherche) plausibel erscheinen.