Eine Paradoxie dieser Tage besteht darin, dass sogenannte 'Künstliche Intelligenz' mit menschlicher Sprache gar nichts anfangen kann, obwohl viele Millionen Menschen genau das glauben. Denn KI reagiert auf Fragen und Aufgabenstellungen in menschlicher Sprache mit 'Outputs' in menschlicher Sprache. Diese werden allerdings ohne jeden Zugang zu den Bedeutungen (Ebene der Semantik) und den unzähligen Bedeutungen in konkreten Situationen (Ebene der Pragmatik) generiert. KI operiert ausschliesslich auf der Ebene der Zeichen (Syntax), wo es für alles klare Regeln gibt… für die Rechtschreibung, für die Zeichensetzung, für die Grammatik, für Stilmittel, für die Strukturierung von Texten…
Auf der Ebene der Syntax lassen sich Muster erkennen und – statistische – Wahrscheinlichkeiten von Zeichenfolgen 'berechnen', allerdings auch nur auf der Basis von Milliarden Texten, die von Menschen erdacht, verfasst und veröffentlicht wurden, bevor sie von den KI-Konzernen aus dem Internet gestohlen und als 'Vergleichswerte' missbraucht wurden. Und selbst dann müssen noch rund 420 Mio. Menschen die menschengemachten Texte so 'aufbereiten', dass Maschinen sie halbwegs als 'Daten' verarbeiten können. Unter der 'Motorhaube' der KI-Maschinen stecken also vor allem Leistungen, die von Menschen erbracht wurden. Der Anteil der Programmierung der KI-Software ist dabei verschwindend gering. Dasselbe gilt für die Beteiligung der Maschinen an den Inhalten der Outputs, die sie generieren. Die Betreiber der KI-Plattformen erzählen dagegen gerne das Märchen, ihre Maschinen hätten menschliche Fähigkeiten, mit denen sie ihre 'Outputs' ganz alleine erzeugten.
Aus der operationalen Beschränktheit auf die Ebene der Syntax erwächst eine erste von mehreren Absurditäten, die sich beim Einsatz dieser Technologie beobachten lassen: die Maschinen werfen in interaktiven Prozessen formal korrekte Texte aus, die inhaltlich aber im Schnitt schon zu 40% falsch oder unsinnig sind. Das maschinelle Hin- und Herschieben von Zeichen ist kein Garant für richtige, vollständige und brauchbare Inhalte. Das wird auch so bleiben, weil die Ergebnisse nicht auf 'Sinnhaftigkeit' beruhen und sich oft nicht einmal reproduzieren lassen, denn die statistischen Wahrscheinlichkeiten ändern sich ständig mit der Datenbasis der grossen Sprachmodelle, dem Herzstück der KI-Systeme.
Für 2026 wird erwartet, dass die Inhalte des Internets bereits zu 90% mit KI generiert sein werden. Rein mathematisch wird dann bereits mehr als ein Drittel der Internet-Inhalte falsch oder unsinnig sein. KI entwertet und zerstört über kurz oder lang das Internet als Wissensquelle. Andererseits sinkt seit Jahrzehnten das Bildungsniveau, da seit den 90er Jahren kaum noch in das öffentliche Bildungssystem investiert wurde. Seine Aufgaben für Individuum und Gesellschaft kann es schon länger nicht mehr erbringen, und wenn Sie sich fragen, wohin die Steuergelder stattdessen geflossen sind, dann hilft ein Blick auf das Ranking der Milliardäre, in dem Deutschland inzwischen Platz 4 belegt.
Als unmittelbare Folge können immer weniger Menschen lesen, also die Inhalte von Texten erfassen. Viele andere beherrschen diese elementare Kulturtechnik zwar noch, können das Gelesene aber nicht mehr überprüfen oder beurteilen, weil ihnen dazu das nötige Wissen fehlt. Sie lassen sich ganz einfach von der perfekten Form blenden. Was gut aussieht, muss doch auch gut und richtig sein. So kann selbst der grösste Unsinn verfangen… und sei es auch nur als Quelle der Inspiration.
Die Fehlerquote der Outputs 'degenerativer KI' nimmt zu, weil die falschen und die unsinnigen 'synthetischen Inhalte' auch in die Datenbasis der grossen Sprachmodelle einfliessen und dort die von Menschen erdachten und verfassten 'sinnhaften Inhalte' immer weiter zurückdrängen. Das perfekte Aussehen der Outputs lenkt zugleich davon ab, dass die Maschinen – ohne Zugang zu den Bedeutungen – ihren eigenen Datenmüll nicht erkennen und herausfiltern können, auch weil die Outputs bewusst nicht als 'KI-Produkte' gekennzeichnet werden.
Das wäre auch kontraproduktiv, denn Menschen, die ihre Texte von KI schreiben oder 'überarbeiten' lassen, möchten gerade nicht, dass dies erkennbar ist. Sie möchten die synthetischen Texte als ihr eigenes geistiges Eigentum ausgeben. KI soll ihre Defizite nicht bloss kompensieren, sondern vor allem kaschieren. Manche Menschen stecken absurderweise mehr Energie in die Vertuschung eigener Defizite als erforderlich wäre, um diese Defizite aus der Welt zu schaffen. Doch wer sich auf die Krücken der KI einlässt, ist damit nicht aus dem Schneider. Zunächst einmal muss man zumindest in der Lage sein, die generierten Texte inhaltlich zu beurteilen, wenn man sie schon nicht selber schreiben kann. Und dann sind da noch die 'auferlegten Relevanzen', mit denen man sich befassen muss…
Neuerdings sehen sich Texte, egal ob sie von Menschen oder Maschinen verfasst wurden, dem Verdacht ausgesetzt, mit KI generiert worden zu sein. Formale Perfektion, bestimmte Formulierungen und bestimmte Satzzeichen sollen klare Indizien sein. Damit zieht KI uns immer mehr auf die einzige Ebene menschlicher Sprache, auf die sie selbst Zugriff hat: die Ebene der Syntax. Als Reaktion auf den KI-Verdacht 'tunen' Menschen nun die Erscheinungsform ihrer Texte, bauen bewusst Rechtschreibfehler ein und orientieren sich bei ihren Formulierungen an den vermeintlichen Erkennungsmerkmalen maschineller 'Outputs'. Parallel wird auch an den Algorithmen gearbeitet, um bewusst Fehler auf der Zeichenebene einzustreuen, die dem KI-Verdacht vorbeugen sollen. Die Inhalte werden somit der Form untergeordnet – und eventuell sogar geopfert. Neu daran ist nur das Ausmass. Zuvor schon wurde die Optimierung von Webseiten für Suchmaschinen von dieser Logik angetrieben. Damit Webseiten – besser – gefunden werden, sollten sie bestimmten formalen Kriterien entsprechen. Wichtige Begriffe – etwa – sollten so oft wie möglich im Text untergebracht werden. Dadurch rückten sie möglicherweise im Ranking der Suchergebnisse nach oben, doch inhaltlich und sprachlich wurden sie entwertet.
Die Reaktionen auf KI-Verdachtsmomente bilden eine zweite Absurdität, die grösser nicht sein könnte. Selbst Menschen, die ihre Texte ohne Hilfsmittel verfassen, sehen sich auf einmal zu Rechtfertigungen und Gegenmassnahmen gezwungen. In einer Welt, in der Menschen mit wenig Bildung eine wachsende Mehrheit darstellen, erklären uns neuerdings Psychologen und Menschen, die sich dafür halten, Fehlerfreiheit mache misstrauisch, Perfektion sei keine Leistung mehr, auf den 'menschlichen Makel' käme es an, Mängel machten attraktiv (cf. Beitrag von Daniel Rettig). Was für ein Unsinn…
Endlich hat man einen Vorwand gefunden, warum man das, wozu man noch nie in der Lage war, nun auch gar nicht mehr können möchte. Auch das ist ein alter psychologischer Mechanismus. Wer – etwa – seinen Kindern keine Privatschule zahlen kann, findet Privatschulen oft schlecht. Und wer möchte seine Kinder schon auf eine schlechte Schule schicken… Was ich nicht kann, das will ich auch nicht. Menschen, die ihre eigenen Defizite nun positivieren oder gar glorifizieren – und damit aus ihrer Not eine Tugend machen möchten -, versuchen sogar, die Deutungshoheit an sich zu reissen. Und paradoxerweise können sie tatsächlich Menschen beeindrucken, die menschliche Sprachen in mündlicher und schriftlicher Form bestens beherrschen.
Was natürlich nicht besagt, dass sich Texte, die ohne fremde Hilfe verfasst wurden, alleine deshalb schon von synthetischen Texten unterscheiden. So erinnere ich mich an einen Post auf LinkedIn, in dem eine Frau ganz verzweifelt war, weil eine Überprüfung ihrer Texte, die sie schon Jahre vor dem KI-Hype geschrieben hatte, zu dem Ergebnis gekommen war, dass diese 'mit 100% Wahrscheinlichkeit mit KI verfasst worden' seien. Daraufhin liess ich meine Blog-Beiträge ebenfalls auf einem solchen KI-Portal überprüfen. Skurril daran war im Rückblick nicht, dass meinen Texten bescheinigt wurde, 'mit 0% Wahrscheinlichkeit mit KI verfasst worden' zu sein, sondern dass ich das als Kompliment empfand… als Kompliment von einer Maschine!
Abgesehen von einer kurzen, intensiven Testphase, in der ich 2023 die Grenzen von ChatGPT und DeepL bei menschlicher Sprache aufzeigen wollte und auch nachweisen konnte, setze ich 'degenerative KI' nicht ein, sondern schreibe nur noch darüber, um aufzuklären und zu warnen. Alle KI-Funktionen und digitalen Sprachassistenten, die nun überall vorinstalliert sind oder ungefragt installiert werden, sind bei uns deinstalliert oder zumindest deaktiviert, sofern dies überhaupt noch möglich ist.
Viele Menschen, die KI ebenfalls nicht verwenden, sehen sich nun gleichwohl veranlasst, auf den KI-Verdacht zu reagieren. Sie bestätigen meine Einstufung dieser Technologie als Pandemie, die psychische und physische Auswirkungen hat und alles verändert, was mit ihr direkt oder indirekt in Berührung kommt. Mikroplastik hat einen ähnlichen pandemischen Charakter: es setzt sich in unseren Körpern fest, ohne dass wir es verhindern könnten. Es sind nach meiner Kenntnis die ersten beiden 'Seuchen', die ohne Viren und Bakterien auskommen, und in beiden Fällen wissen wir noch gar nicht, wie das enden wird. Anlass zu Optimismus geben aber wohl beide nicht.
Wie wir von Paul Watzlawick gelernt haben, 'ist es nicht möglich, nicht zu kommunizieren'. Selbst wenn wir nichts sagen, sagen wir damit etwas aus. Mit 'degenerativer KI' ist es ähnlich: man kommt an ihr nicht vorbei, selbst wenn man sich nicht auf sie einlässt. Sie motiviert uns zu absurden Reaktionen, wenn wir sie ernstnehmen oder uns dazu veranlasst sehen. Und doch gibt es einen grundlegenden Unterschied: auf Kommunikation werden wir tatsächlich niemals wieder verzichten können.
Ob sich 'degenerative KI' mit ihren grossen Sprachmodellen halten wird, ist längst nicht ausgemacht. Für mich handelt es sich um eine riesige Blase, die jederzeit platzen kann. Diese Technologie, die bereits in den 80ern an menschlicher Sprache scheiterte und wieder in der Versenkung verschwand, wird vermutlich niemals rentabel werden. Mit Billionen Fremdkapital im Rücken lässt sich ein Konkurs allerdings eine ganze Weile verschleppen. Die überwiegende Mehrheit zahlt kein Geld für die Nutzung der KI-Plattformen, weshalb jetzt Werbung eingeblendet werden soll, um wenigstens auf diesem Wege zu Einnahmen zu kommen. Sollten die grossen Sprachmodelle weiter mit synthetischen Inhalten geflutet und kontaminiert werden, werden auch diese Einnahmen wegbrechen. Denn die Zunahme der falschen und unsinnigen 'Outputs' wird die grossen KI-Systeme unbrauchbar machen.
Auch die Gerichte haben bezüglich der Zukunft dieser Technologie ein Wörtchen mitzureden. Eigentums-, Urheber- und Persönlichkeitsrechte werden millionenfach verletzt… und das jeden Tag. Und wegen des horrenden Wasser- und Energieverbrauchs der gigantischen KI-Rechenzentren, deren Bau nun – sogar mit Kreisgeschäften – extrem vorangetrieben wird, schwebt über dieser Technologie das Damoklesschwert weitreichender politischer Verbote. Hinzu kommt, dass irgendwann der Fokus stärker darauf gerichtet sein wird, was 'degenerative KI' mit uns Menschen macht, vor allem mit Kindern und Jugendlichen. Die Befunde sind so schwerwiegend, dass es nicht mehr lange dauern wird, bis es auch aus dieser Richtung politische Antworten geben muss.
Ob es bei gesetzlichen Regulierungen und deren Durchsetzung bleiben oder sogar auf die Zerschlagung der weltgrössten Technologiekonzerne hinauslaufen wird, ist noch nicht ausgemacht. Die technologisch vorangetriebene, immer grössere Konzentration von Macht und Geld bedroht klar unsere demokratischen Rechtsstaaten, von denen es einige schon nicht mehr gibt. Die Verschiebung – der Begründung – der Machtverhältnisse von der 'Stärke des Rechts' hin zum 'Recht des Stärkeren' in unseren Demokratien und zwischen den Staaten muss gestoppt werden. Die weltgrössten Konzerne und ihre digitalen Technologien sind für diese Entwicklung massgeblich verantwortlich.
Sie kommen bisher vor allem deshalb damit durch, weil wir uns fast ausschliesslich damit beschäftigen, was man mit der Digitalisierung und der KI-Technologie alles machen kann, ohne zu erkennen, dass wir die Rechnung, die uns später dafür präsentiert werden wird, gar nicht werden bezahlen können. Phänomene wie der 'KI-Verdacht' bei Texten, die gar nicht mit KI erstellt wurden, sollten uns auf jeden Fall nachdenklich stimmen.
'Degenerative KI' hat bereits den Status einer dauerhaften 'auferlegten Relevanz' erlangt. Allein deshalb ist sie schon jetzt mehr 'Fluch' als 'Segen', auch wenn die meisten Menschen das noch nicht so wahrnehmen oder nicht wahrhaben wollen…
Mir ist es völlig egal, ob Menschen meine Texte mit dem Bannstrahl eines KI-Verdachts belegen. Darauf habe ich sowieso keinen Einfluss. Wer in ihnen ein inhaltliches Angebot erkennt, wird sie auch in Zukunft lesen, und wer sich bereits an ihrer Form aufhängt, wird zu den Inhalten sowieso nicht durchdringen. Ich wünschte mir aber mehr Menschen mit einem Selbstbewusstsein, das sich noch aus Fähigkeiten und Leistungen speist und daher nicht bei jedem Anwurf gleich implodiert. Ein Selbstbewusstsein, das sich – etwa – in dem Statement manifestiert: 'Ich suche mir die Leute aus, die mich – oder meine Texte – beleidigen können'.