KI und Desinformationen:
Die neue (alte) Gefahr

Früher hat ein gefälschtes Video eine enorme Menge an Ressourcen in Form von Spezialwissen, Zeit und vor allem Geld gebraucht (man denke etwa an den Deepfake‑Skandal um Yanis Varoufakis). Heute hingegen reicht es, sich einen Account bei einem der vielen KI‑Tools zu erstellen, gepaart mit ein paar Minuten Zeit. Schon kann man eine Stimme klonen oder ein Gesicht fälschen, als wäre es das einfachste der Welt.

Das führt zu einer massenhaften Erosion des Vertrauens. Denn wenn jedes digitale Material gefälscht sein könnte und die digitale und die analoge Welt immer enger miteinander verwoben sind, dann gerät auch die Realität selbst unter Verdacht. Aber bevor wir das verstehen können, sollten wir erstmal einen Blick darauf werfen, was eigentlich genau mit dem Konzept Desinformationen gemeint ist.

Im Alltag werden Fachbegriffe oft auf unterschiedlichste Art und Weise gebraucht. Es lohnt sich daher, einen Blick darauf zu werfen, was wir in der Forschung eigentlich unter Desinformationen verstehen und inwiefern sich dies von anderen Konzepten abgrenzt.

Beginnen wir mit den Desinformationen. In der Wissenschaft besteht weitgehend Konsens, dass eine Definition hiervon zwei Elemente enthalten muss: Erstens handelt es sich um unwahre Behauptungen und zweitens werden diese Informationen absichtlich verbreitet. Der Sender verfolgt also ein strategisches Ziel. Er will sein Publikum beeinflussen, indem er bewusst Lügen in Umlauf bringt, etwa um gesellschaftliche Gräben zu vertiefen oder politische Akteure gezielt zu diskreditieren.

Ein eng damit verwandtes, aber hiervon abzugrenzendes Phänomen sind die Misinformationen. Damit ist jede Art von unwahrer Information gemeint, bei der die Absicht zur Täuschung fehlt. Man kann sie als ehrlichen Fehler verstehen, wie er jedem von uns unterläuft. Etwa wenn Journalisten oder Politiker Details zu Themen wie dem Klimawandel oder dem Coronavirus missverstehen und falsch wiedergeben, ganz ohne eine versteckte Agenda oder das Ziel, die Öffentlichkeit zu manipulieren.

Ein weiterer Unterschied liegt in der Art der Verbreitung. Misinformationen kursieren meist unsystematisch. Desinformationen hingegen werden oft systematisch gestreut, beispielsweise über Netzwerke aus Social Bots, weshalb sie auch deutlich schwerer einzudämmen sein können, wenn sie erstmal im Umlauf sind.

Und schließlich macht es einen Unterschied, wie weit sich eine Falschinformation von der Wahrheit entfernt. Manches ist nur leicht verzerrt, anderes komplett erfunden. Und je weiter sich eine Information von der Wahrheit entfernt, desto problematischer ist es und desto weitreichender können die Folgen sein. Die Falschinformation, dass Bundeskanzler Friedrich Merz eigentlich in Bielefeld geboren wurde, spielt keine große Rolle. Aber eine groß angelegte Desinformationskampagne, die ihn fälschlicherweise als ausländischen Spion darstellt, könnte schwerwiegende Folgen haben. Denn wenn Menschen eine Situation als real definieren, dann kann dies auch reale Folgen haben.

Beide Beispiele verdeutlichen auf dramatische Weise, dass KI‑gestützte Desinformation keine theoretische Gefahr mehr ist, sondern unmittelbare politische und wirtschaftliche Schäden anrichten kann. Während regulatorische Eingriffe und technologische Erkennungssoftware wichtig sind, stoßen sie bei der schieren Masse an Inhalten schlicht und ergreifend an ihre Grenzen. Was wir hier sehen, ist der Beginn einer Welle an gesellschaftlichen Herausforderungen, die unseren Rechtsstaat und die Demokratie vor gewaltige Aufgaben stellen werden.

Denn zeitgleich sind wir dabei, die digitale und die analoge Welt immer weiter miteinander zu verschmelzen. Wir tragen Smartglasses und Smartwatches, werden in der Stadt mit digitalen Bildschirmen in Restaurants, Schaufenstern und Werbeanzeigen geradezu überflutet und sorgen stets dafür, dass unser Handy bloß genug Akku zur Verfügung hat. Wir leben in der analogen Welt, befinden uns aber längst in einer hybriden Sphäre, in der das Digitale und das Analoge zusammenwirken. Und wenn die Autorität der digitalen Welt durch das Aufkommen von Deepfakes und Desinformationskampagnen massiv untergraben werden kann, dann kann dies zu einer nie dagewesenen Erosion des Vertrauens führen.

Es versteht sich von selbst, dass dies in demokratischen Systemen eine große Gefahr darstellen kann. Wenn wir nichts mehr glauben können und immer unsicherer werden, welche Informationen wir zurate ziehen können, um uns eine Meinung zu bilden, dann bekommen wir Probleme damit, uns als mündige Bürger in einer Demokratie zu beteiligen.

Ein entscheidender Faktor im Umgang mit generativer KI ist daher mitunter der Aufbau von digitaler Resilienz. Also eine systematische Aufklärung über die Gefahren hiervon sowie die Anpassung von Routinen und Gewohnheiten im (digitalen) Alltag. Nur wenn die konkreten Möglichkeiten und Grenzen dieser KI‑Tools wirklich verstanden werden, lassen sich in einem zunehmend manipulierbaren digitalen Raum noch souveräne Entscheidungen treffen und Fälschungen von der Realität unterscheiden.