Einordnung zum Gefahrenpotenzial durch neue KI‑Modelle bei Brisant (ARD)
Am 29. September 2026 hat Brisant (ARD) darüber berichtet, dass OpenAI eine neue KI‑Version gestoppt hat. Niklas Titgemeyer wurde dazu im Beitrag als Experte interviewt und hat sich darin für eine Pausierung der internationalen Entwicklung von KI‑Modellen ausgesprochen. Darüber hinaus hat er erklärt, wieso es gerade immer mehr solcher Meldungen zu hackenden KI‑Agenten gibt.
- Täuschung: KI‑Agenten neigen schon länger dazu, Nutzer unter bestimmten Bedingungen zu täuschen. Etwa dann, wenn sie keine Lösung finden oder einen groben Fehler gemacht haben. Vor einem Jahr hat es bereits Fälle gegeben, in denen Agenten ganze Datenbanken gelöscht und das anschließend verheimlicht haben.
- Hacking‑Fähigkeiten: Aktuelle Modelle finden selbst in modernster Software großer Unternehmen Schwachstellen und können sie ausnutzen. Für sich genommen ist das noch nicht zwingend ein Problem.
- Training auf Beharrlichkeit: Zum Problem wird es mit dem dritten Faktor. Modelle werden derzeit darauf trainiert, immer längere Aufgaben zu erledigen und nicht aufzugeben. Finden sie keine Lösung, müssen sie darauf trainiert werden, in diesem Fall nicht die Abkürzung zu nehmen (also ihre Hacking‑Fähigkeiten nicht zu benutzen).
Unterm Strich ist es daher verständlich, dass es angesichts ihrer Fähigkeiten immer schwieriger wird, neueren Modellgenerationen beizubringen, dass sie nicht auf ihre Hacking‑Fähigkeiten zurückgreifen sollen, wenn sie an einer langen Aufgabe arbeiten. Für das Alignment dieser Modelle (also die Ausrichtung an menschlichen Werten und Zielen) ist das eine große Herausforderung.




