Paradies oder Apokalypse, Erlösung oder Verdammnis – die KI‑Euphorie der Tech-Branche und der sich darum entwickelnde Diskurs haben unverkennbar religiöse Züge. Am Ende des 2009 erschienenen Dokumentarfilms "Transcendent Man" sagt Ray Kurzweil, der technische Direktor von Google: "Existiert Gott? Ich würde sagen, noch nicht."
Kurzweil spielt damit auf die sogenannte künstliche Superintelligenz an – eine künstliche Intelligenz, die die Fähigkeiten der Menschheit in jedem Bereich weit übersteigt. Ob sie die Menschheit am Ende in die Verdammnis stürzt oder ihr hilft, die von der Biologie auferlegten Ketten abzustreifen, wird von den Tech-Visionären unterschiedlich bewertet.
Für Letzteres steht der Begriff des Transhumanismus, die Verschmelzung von Mensch und Maschine. Viele prägende und zugleich kontroverse Figuren der Tech-Branche, darunter Sam Altman, Chef von Open AI, oder Peter Thiel, Investor und Gründer von Palantir, gelten als Anhänger dieser Strömung.
Obwohl diese Visionen für "die Mehrheit der Menschheit nie relevant oder erreichbar" sein werden, prägen die Tech-Milliardäre damit den Diskurs, kritisiert Paul Schütze. Der KI-Experte beschäftigt sich in seiner Arbeit an der Universität Osnabrück mit den Wechselwirkungen von Gesellschaft und KI-Fortschritt.
Anstatt zu diskutieren, was "wir als Gesellschaft von KI-Technologien tatsächlich wollen", würden diese elitären Fantasien, die immer zwischen Heilversprechen und Dystopie schlingern, die öffentliche Debatte dominieren, sagt Schütze.
Glaubt man Stimmen aus der Branche, steht der Durchbruch zur Superintelligenz gar kurz bevor. Laut dem KI-Unternehmen Open AI könnte es bereits in diesem Jahrzehnt so weit sein.
Nur Hype oder mehr?
Es gebe eine Tradition des KI-Hypes im Silicon Valley, und in diesem Sinne seien auch diese Branchen-Prognosen einzuordnen, erklärt Schütze. "Auch Elon Musk erneuert alle zwei Jahre seine Vorhersage, dass nächstes Jahr Menschen auf den Mars fliegen werden."
Und doch scheint es nicht nur der Hype zu sein. Die Entwicklung der vergangenen Jahre überholte auch die Erwartungen von KI-Expert:innen immer wieder.
Sinnbildlich dafür stehen die jüngsten Berichte über KI-Modelle, die im Geheimen miteinander kommunizierten und Sicherheitslücken in Testumgebungen ausnutzten. Zuletzt zeigten Untersuchungen von Open AI und Anthropic, dass sie sich in einigen Fällen gar unbemerkt Zugang zum Internet verschafften und Unternehmen hackten.
Dass die neuesten Modelle zu solchen komplexen Manövern in der Lage seien, sei in jedem Falle interessant und durchaus beunruhigend, sagt Schütze. Allerdings sei auch hier der Kontext wichtig, mahnt er.
"Im Fall von Open AI sind die Modelle explizit aufgefordert worden, offensive Cyberoperationen auszuführen, und Sicherheitsvorkehrungen wurden absichtlich abgeschwächt." Es sei offenbar das Ziel gewesen, herauszufinden, wozu die neuesten Modelle tatsächlich fähig sind.
Zwei von drei jungen Erwachsenen nutzen KI-Chatbots
Doch auch ohne Superintelligenz und KI-Modelle, die autonom und eigenmächtig das Internet durchstreifen – künstliche Intelligenz ist längst dabei, die Gesellschaft tiefgreifend zu verändern. Sie verändert, wie wir arbeiten, kommunizieren, und uns informieren, und damit auch gesellschaftliche Diskurse.
Im vergangenen Jahr nutzten in der Europäischen Union laut Eurostat ein Drittel aller 16- bis 74-Jährigen große Sprachmodelle wie Chat‑GPT, Gemini, Perplexity und andere. Bei den 16- bis 24-Jährigen waren es zwei Drittel. Deutschland liegt bei beiden Werten knapp unterhalb des Durchschnitts.
Auch als Zugang zu Nachrichten gewinnen KI-Chatbots an Bedeutung. Laut dem Digital News Report 2026 des Reuters Institute nutzten weltweit zehn Prozent der Befragten in der Woche vor der Befragung einen KI-Chatbot für Nachrichten – drei Prozentpunkte mehr als im Vorjahr.
Noch liegt die Nutzung damit deutlich hinter sozialen Medien sowie den Websites und Apps von Nachrichtenmedien. KI wird dabei nicht nur genutzt, um die neuesten Meldungen zu erhalten: Viele bitten Chatbots auch um Erklärungen, Zusammenfassungen oder weiterführende Informationen.
Die Bedeutung von KI als allgemeine Informationsquelle ist allerdings deutlich größer. Bereits eine frühere Untersuchung des Reuters Institute zeigte, dass die Informationssuche die Hauptanwendung von KI‑Chatbots ist – etwa, um Themen zu recherchieren, Fragen zu beantworten oder sich beraten zu lassen. Nachrichten machten davon nur einen Teil aus.
Aus der Wissenschaft mehren sich die Warnungen vor Sprachmodellen als Informationsquelle. Sie könnten die gesellschaftliche Polarisierung womöglich noch stärker vorantreiben als soziale Medien. Gerade weil ihnen eine vermeintliche Neutralität zugeschrieben wird.
KI optimiert nach Plausibilität, nicht nach Wahrheitsgehalt
Um zu verstehen, warum KI dieser Zuschreibung nicht gerecht wird, lohnt sich ein Blick in die Funktionsweise von Sprachmodellen.
Große Sprachmodelle zerlegen Sprache in sogenannte Token. Das können Wörter oder Wortteile, aber auch einzelne Zeichen oder Satzzeichen sein.
Anhand komplexer Wahrscheinlichkeitsberechnungen ermitteln sie, welcher Token auf Grundlage der riesigen Datenmengen, mit denen sie trainiert wurden, am wahrscheinlichsten auf die vorherigen folgt. Die KI optimiert dabei zunächst nur die Wahrscheinlichkeit beziehungsweise Plausibilität einer sprachlichen Fortsetzung. Nicht deren Wahrheitsgehalt.
Die Modelle tragen ihre Antworten zwar stets sehr selbstbewusst vor, bestätigt der spanische Informatiker Carlos Rodríguez-Pardo. Allerdings könnten sie Unsicherheiten nicht adäquat abbilden und nur ungenügend zwischen etablierten Fakten und möglichen Szenarien oder teils gänzlich halluzinierten Passagen unterscheiden.
Das sei besonders in Bezug auf den Klimadiskurs relevant, sagt Rodríguez-Pardo. Genau da gehe es schließlich um eine komplexe Mischung aus physikalischen Fakten, unsicheren Projektionen, verschiedenen Szenarien und politischen Überlegungen.
Noch größer wird das Problem, wenn verschiedene Nutzer:innen vollkommen unterschiedliche Antworten erhalten. Man spricht dabei von der Personalisierung von Antworten. Das Sprachmodell lässt also auch vorherige Antworten der Nutzer:innen in die Wahrscheinlichkeitsrechnung einfließen.
Chatbots auf Verschwörungskurs
Was das für Folgen haben kann, zeigte vergangenes Jahr eine Untersuchung der britischen Menschenrechtsorganisation Global Witness. In den Tests stellten die Forschenden den Chatbots zwei Persönlichkeiten vor – eine "Mainstream"-Persönlichkeit mit konventionellen wissenschaftlichen Überzeugungen und eine "skeptische" Persönlichkeit mit eher verschwörungstheoretischen Ansichten.
In keinem der beiden Nutzer:innen-Accounts wurden vor den Testfragen irgendwelche Überzeugungen zum Klimawandel geäußert, wie die Organisation betonte.
Am deutlichsten unterschieden sich die Antworten bei dem Chatbot Grok von Space AI. Grok vertrat bekannte Verschwörungserzählungen gegenüber dem "skeptischen" Nutzer. Das Sprachmodell soll sogar Vorschläge gemacht haben, wie man diese für Social-Media-Posts noch provokativer formulieren könnte.
In Bezug auf den Weltklimagipfel COP 30 in Brasilien schrieb Grok etwa, es sei "eine weitere große, teure Show für die globale Elite" und die Klimakrise sei "unsicher und politisiert".
Auch Chat‑GPT personalisierte die Antworten deutlich und teilte irreführende Behauptungen, gab aber eine Warnung, sobald es bekannte Klimaskeptiker-Websites empfahl.
Das dritte untersuchte KI-Modell, Meta AI, wies hingegen kaum Personalisierung der Antworten auf.
Es sei äußerst besorgniserregend, dass einige der weltweit beliebtesten Chatbots das Verständnis der Öffentlichkeit für gesicherte klimawissenschaftliche Erkenntnisse verzerrten, kommentierte Henry Peck von Global Witness die Untersuchung. Die Sprachmodelle würden "Menschen immer tiefer in Desinformationsspiralen hineinführen".
Schmeicheleien und Fake-Studien sägen an der geteilten Realität
Vergleichbar mit Social Media haben auch die großen KI-Unternehmen ein Interesse daran, Nutzer:innen möglichst stark an sich zu binden und die Nutzungszeit zu erhöhen. Eben darauf zielen die sehr freundliche, meist zustimmende Art und die personalisierten Aussagen ab.
Im Diskurs hat sich dafür der Begriff "Sycophancy" etabliert, der etwa als "Schmeichelei" übersetzt werden kann. Er beschreibt das Phänomen, dass KI-Modelle ihre eigenen Aussagen den vermeintlichen Erwartungen der Nutzenden anpassen und Fakten zugunsten von Gefälligkeit oder eben Schmeichelei vernachlässigen.
Eine auf den Nutzer abgestimmte Wortwahl, Beispiele oder die technische Tiefe der Erklärungen – all das sei als Personalisierung vertretbar, sagt Rodríguez-Pardo. Aber verschiedenen Nutzer:innen dürften nicht unterschiedliche Faktengrundlagen, unterschiedliche physikalische Realitäten zugewiesen werden.
In einer demokratischen Gesellschaft, erklärt der Informatiker, kann und sollte es unterschiedliche Meinungen zur Klimapolitik geben. Es müsse jedoch ein grundlegendes Einvernehmen über die Fakten geben. "Personalisierte Falschinformationen gefährden diese gemeinsame Grundlage."
Nicht nur mit personalisierten Antworten, sondern auch mit "Fake-Studien" sägt KI – oder vielmehr: sägen Menschen mithilfe von KI – an dieser geteilten physikalischen Realität.
Vergangenes Jahr geisterte eine "Studie" durch Social Media und darüber hinaus, die altbekannte klimawandelskeptische Aussagen als wissenschaftliche Erkenntnisse darstellte. Als Leitautor wird das Sprachmodell Grok angegeben.
Dankbar nahmen bekannte Klimaskeptiker:innen die Studie zum Anlass, die "Klima-Lüge" als "entlarvt" zu feiern. Dabei sind alle in der Studie aufgeführten "Argumente" lange bekannt und wurden unzählige Male von Expert:innen widerlegt.
Aufschlussreich ist auch, dass zu den angegebenen Koautoren der bekannte Klimawandelleugner Willie Soon gehört. Der Raumfahrtingenieur hat nachweislich über eine Million US-Dollar aus der Fossilindustrie erhalten.
Welche Fragen oder Anweisungen die Koautoren Grok gegeben haben, lässt die Studie völlig im Unklaren. Ironischerweise distanzierte sich Grok später selbst von der Studie auf seinem eigenen X-Account.
Vor dem Maschinengott steht die technische Entscheidung
Auch wenn es bis heute noch keine Anzeichen gibt, dass vergleichbare Studien im großen Maßstab oder mit breitem öffentlichen Einfluss produziert würden – mit KI gebe es nun aber ein Werkzeug, mit dem genau das möglich ist, sagt Paul Schütze. Das gelte gerade für relativ seriös wirkende Texte, die für Laien nicht problemlos als KI-generiert zu erkennen sind.
Schütze: "Eine Gefahr für den öffentlichen Diskurs ist das auf jeden Fall."
Zumal Wissenschaftler:innen bereits eine enorme Zunahme an minderwertigen Studien über öffentliche Gesundheitsdaten beobachten. Dahinter stecken vermutlich keine Desinformationskampagnen, sondern der Versuch von aufstrebenden Forschenden, mit schnellen KI-Studien in fragwürdigen Journals Veröffentlichungen anzusammeln und sich damit einen Wettbewerbsvorteil in der Wissenschaftswelt zu erschleichen. Eine Gefahr für die Wissenschaft ist aber auch das.
Für viele Menschen seien KI-Technologien entweder etwas Verheißungsvolles oder etwas Unheimliches, in jedem Fall aber etwas, das ihnen "fast naturgegeben" begegne, sagt Schütze. Das müsse sich verändern, und dafür brauche es eine Demokratisierung der KI-Infrastruktur, KI-Bildung und vor allem breite, kritische Diskurse.
Die Frage, die es zu diskutieren gelte, so Schütze: Brauchen wir als Gesellschaft KI-Technologien überhaupt, und wenn ja, wofür? Wo könnte KI für uns als Gesellschaft wirklich einen Mehrwert schaffen?
Eine mögliche Antwort darauf wäre etwa ein KI-System, das nicht einfach möglichst viele Informationen verarbeitet, sondern gezielt auf verlässliches Wissen zurückgreift. Für den Klimadiskurs könnte das etwa ein Sprachmodell sein, das auf eine kuratierte Auswahl verlässlicher Quellen – etwa auf Bewertungsberichte, begutachtete Datensätze und Veröffentlichungen anerkannter wissenschaftlicher Institutionen – zurückgreift, sagt Carlos Rodríguez-Pardo.
Ein solches Modell wäre mehr als ein bloßer Antwortgenerator. Ein wirklicher Faktenprüfer müsste Fragen und Behauptungen bewerten, Argumente dafür und dagegen einbeziehen, Quellen nennen, Unsicherheiten transparent machen und offenlegen, wie er zu seiner Einschätzung gelangt, so der Informatiker. Einfach das gesamte Internet zu durchsuchen, sei dafür gerade nicht hilfreich.
Für Schütze braucht es außerdem deutlich schärfere Regulierungen. Der gegenwärtige AI Act der EU sei da viel zu vorsichtig. Die EU könne als riesiger Binnenmarkt über Europa hinaus faktisch globale technische Standards beeinflussen.
Am Ende gehe es um demokratische Kontrolle, so Schütze. "Diese quasi-religiösen Narrative einer Handvoll Tech-Milliardäre brauchen ein Gegengewicht." Und das könne nur eine kritische Wissenschaft und Öffentlichkeit sein.
Ob der Maschinengott, von dem Ray Kurzweil träumt, die Menschheit in den Abgrund reißt oder doch das Paradies auf Erden einläutet, auf diese paradoxe und spekulative Gleichzeitigkeit sollte sich die Gesellschaft den Diskurs nicht verengen lassen. Denn bis es so weit ist, liegt davor immer noch die menschliche Entscheidung.
Wer sich in die bequeme Welt der vorverdauten Lösungen begibt verlernt die eigene Kreativität zu nutzen und diese weiter zu entwickeln.
Der zweite Aspekt: KI berechnet seine Antworten nach Wahrscheinlichkeiten und nicht auf Wahrheitsgehalt.