Einordnung zum Gefahrenpotenzial durch neue KI‑Modelle bei Brisant (ARD)
Am 29. September 2026 hat Brisant (ARD) darüber berichtet, dass OpenAI eine neue KI‑Version gestoppt hat. Niklas Titgemeyer wurde dazu im Beitrag als Experte interviewt und hat sich darin für eine Pausierung der internationalen Entwicklung von KI‑Modellen ausgesprochen. Darüber hinaus hat er erklärt, wieso es gerade immer mehr solcher Meldungen zu hackenden KI‑Agenten gibt.
- Täuschung: KI‑Agenten neigen schon länger dazu, Nutzer unter bestimmten Bedingungen zu täuschen. Etwa dann, wenn sie keine Lösung finden oder einen groben Fehler gemacht haben. Vor einem Jahr hat es bereits Fälle gegeben, in denen Agenten ganze Datenbanken gelöscht und das anschließend verheimlicht haben.
- Hacking‑Fähigkeiten: Aktuelle Modelle finden selbst in modernster Software großer Unternehmen Schwachstellen und können sie ausnutzen. Für sich genommen ist das noch nicht zwingend ein Problem.
- Training auf Beharrlichkeit: Zum Problem wird es mit dem dritten Faktor. Modelle werden derzeit darauf trainiert, immer längere Aufgaben zu erledigen und nicht aufzugeben. Finden sie keine Lösung, müssen sie darauf trainiert werden, in diesem Fall nicht die Abkürzung zu nehmen (also ihre Hacking‑Fähigkeiten nicht zu benutzen).
Unterm Strich ist es daher verständlich, dass es angesichts ihrer Fähigkeiten immer schwieriger wird, neueren Modellgenerationen beizubringen, dass sie nicht auf ihre Hacking‑Fähigkeiten zurückgreifen sollen, wenn sie an einer langen Aufgabe arbeiten. Für das Alignment dieser Modelle (also die Ausrichtung an menschlichen Werten und Zielen) ist das eine große Herausforderung.
Im Podcast-Interview zu Limitierungen von KI‑Sprachmodellen
Im Podcast „WUNDERPANIK“ spricht Niklas Titgemeyer mit Katharina Mager‑Micijevic und Melanie Hölting‑Eckert darüber, was man über die zwei größten Risiken bei der Anwendung von KI‑Chatbots wissen muss.
Also wie oft sie dazu tendieren, falsche Informationen zu generieren (Halluzinationen), in welchen Bereichen und bei welchen Anwendungsgebieten dies besonders vorkommt und wieso sie uns so überzeugend nach dem Mund reden. Denn KI‑Modelle sagen uns vor allem, was ein gutes Gefühl in uns auslöst, und nicht unbedingt Dinge, die immer der Wahrheit entsprechen. Weil sie darauf trainiert werden, Antworten zu generieren, die von Menschen bevorzugt werden.
Bei schwierigen Themen wie Medizin oder neuerer Forschung halluziniert KI sogar in 30 bis 60 % der Fälle. Kleinere Modelle sind noch schlimmer und kommen sogar auf bis zu 85 %. Das betrifft auch neueste und leistungsfähige Modelle wie Fable 5, die bei Medizin‑ oder Rechtsfragen ohne Websuche auf 50 % Halluzinationen kommen und mit Websuche auf ca. 40 %.
Im Interview geht es außerdem um die Frage, wieso es ein Problem ist, das Denken an die KI auszulagern und unter welchen Bedingungen es tatsächlich möglich ist, ein blindes Vertrauen in den Chatbot zu sprechen, auch wenn das erstmal kontraintuitiv klingt.
Hier geht’s zur Folge
Verantwortungsbewusster Umgang mit KI: Im Experteninterview bei „Digitale Helden“
Das Team von Digitale Helden unterstützt Schulen und Familien mit medienpädagogischen Online‑Angeboten, damit sich junge Menschen mündig, sicher und selbstständig im digitalen Raum bewegen können.
Im Projekt „generation:ki“ ist ein Beitrag zur Frage „Wie wollen wir mit KI leben?“ entstanden. Niklas Titgemeyer ist darin einer von sieben Expertinnen und Experten und beantwortet im Interview unter anderem diese Fragen:
Hier geht’s zum Interview
Im Radio-Interview bei delta radio zu den Gefahren von KI‑Chatbots
Bei delta radio wurde Niklas Titgemeyer dazu interviewt, welche Gefahren die Nutzung von KI‑Chatbots mit sich bringt. Denn Chatbots werden darauf trainiert und schreiben eher Antworten, die uns gefallen, anstatt uns harte Wahrheiten zu sagen, die wir manchmal hören müssen.
Deshalb gilt stets: Jede Antwort muss akribisch kontrolliert werden. Vor allem dann, wenn es auf ihren Wahrheitsgehalt ankommt. Ein Beispiel dafür, wann der Wahrheitsgehalt mehr oder weniger wichtig ist, zeigen folgende Szenarien:
- Recherche: Wer Informationen für einen Blogpost mit einem Chatbot recherchiert und den Antworten blind vertraut, hat ein Problem. Weil der Text dann voll von Fehlern sein kann. Fehler, die im schlimmsten Fall veröffentlicht werden.
- SEO‑Optimierung: Wer sich hingegen Tipps abholt, wie sich der fertige Beitrag für Suchmaschinen optimieren lässt, um ein besseres Ranking zu bekommen, lässt sich hierbei wertvolle Tipps geben, ohne ein Risiko einzugehen. Denn am Inhalt des Textes ändern diese Änderungen nichts.
Die Faustregel lautet deshalb: Je wichtiger der Wahrheitsgehalt einer Antwort ist, desto genauer muss man sie prüfen.
Hier geht’s zu delta radio