Einordnung zum Gefahrenpotenzial durch neue KI‑Modelle bei Brisant (ARD)
Am 29. September 2026 hat Brisant (ARD) darüber berichtet, dass OpenAI eine neue KI‑Version gestoppt hat. Ich wurde dazu im Beitrag als Experte interviewt und habe mich für eine Pausierung der internationalen Entwicklung von KI‑Modellen ausgesprochen. Darüber hinaus habe ich erklärt, wieso es gerade immer mehr solcher Meldungen zu hackenden KI‑Agenten gibt.
- Täuschung: KI‑Agenten neigen schon länger dazu, Nutzer unter bestimmten Bedingungen zu täuschen. Etwa dann, wenn sie keine Lösung finden oder einen groben Fehler gemacht haben. Vor einem Jahr hat es bereits Fälle gegeben, in denen Agenten ganze Datenbanken gelöscht und das anschließend verheimlicht haben.
- Hacking‑Fähigkeiten: Aktuelle Modelle finden selbst in modernster Software großer Unternehmen Schwachstellen und können sie ausnutzen. Für sich genommen ist das noch nicht zwingend ein Problem.
- Training auf Beharrlichkeit: Zum Problem wird es mit dem dritten Faktor. Modelle werden derzeit darauf trainiert, immer längere Aufgaben zu erledigen und nicht aufzugeben. Finden sie keine Lösung, müssen sie darauf trainiert werden, in diesem Fall nicht die Abkürzung zu nehmen (also ihre Hacking‑Fähigkeiten nicht zu benutzen).
Unterm Strich ist es daher verständlich, dass es angesichts ihrer Fähigkeiten immer schwieriger wird, neueren Modellgenerationen beizubringen, dass sie nicht auf ihre Hacking‑Fähigkeiten zurückgreifen sollen, wenn sie an einer langen Aufgabe arbeiten. Für das Alignment dieser Modelle (also die Ausrichtung an menschlichen Werten und Zielen) ist das eine große Herausforderung.
Im Podcast-Interview zu Limitierungen von KI‑Sprachmodellen
Im Podcast „WUNDERPANIK“ spreche ich mit Katharina Mager‑Micijevic und Melanie Hölting‑Eckert darüber, was man über die zwei größten Risiken bei der Anwendung von KI‑Chatbots wissen muss.
Also wie oft sie dazu tendieren, falsche Informationen zu generieren (Halluzinationen), in welchen Bereichen und bei welchen Anwendungsgebieten dies besonders vorkommt und wieso sie uns so überzeugend nach dem Mund reden. Denn KI‑Modelle sagen uns vor allem, was ein gutes Gefühl in uns auslöst, und nicht unbedingt Dinge, die immer der Wahrheit entsprechen. Weil sie darauf trainiert werden, Antworten zu generieren, die von Menschen bevorzugt werden.
Bei schwierigen Themen wie Medizin oder neuerer Forschung halluziniert KI sogar in 30 bis 60 % der Fälle. Kleinere Modelle sind noch schlimmer und kommen sogar auf bis zu 85 %. Das betrifft auch neueste und leistungsfähige Modelle wie Fable 5, die bei Medizin‑ oder Rechtsfragen ohne Websuche auf 50 % Halluzinationen kommen und mit Websuche auf ca. 40 %.
Im Interview geht es außerdem um die Frage, wieso es ein Problem ist, das Denken an die KI auszulagern und unter welchen Bedingungen es tatsächlich möglich ist, ein blindes Vertrauen in den Chatbot zu sprechen, auch wenn das erstmal kontraintuitiv klingt.
Hier geht’s zur Folge →
Verantwortungsbewusster Umgang mit KI: Im Experteninterview bei „Digitale Helden“
Das Team von Digitale Helden unterstützt Schulen und Familien mit medienpädagogischen Online‑Angeboten, damit sich junge Menschen mündig, sicher und selbstständig im digitalen Raum bewegen können.
Im Projekt „generation:ki“ ist ein Beitrag zur Frage „Wie wollen wir mit KI leben?“ entstanden. Ich war einer von sieben Expertinnen und Experten und habe im Interview unter anderem diese Fragen beantwortet:
Hier geht’s zum Interview →
