Nebenwirkungen sind stets unerwünscht und nie beabsichtigt. Sie können bei Produkten, Prozessen und Handlungen auftreten, lassen sich oft gar nicht verhindern. Mal fallen sie harmlos aus und bleiben fast unbemerkt, mal erweisen sie sich als schädlich oder sogar lebensbedrohlich. Um Schaden abzuwenden, werden – wo möglich – im Vorfeld Rahmenbedingungen definiert und obligatorische Schutzmassnahmen etabliert, etwa der Nachweis von Qualifikationen, komplexe Bewilligungsverfahren oder regelmässige Qualitätskontrollen. Bei Verstössen drohen Sanktionen, bis hin zu Freiheitsentzug.
Produkte mit gefährlichen Nebenwirkungen benötigen eine Zulassung, dürfen nur unter bestimmten Bedingungen verwendet und können aufgrund neuer Erkenntnisse jederzeit wieder vom Markt genommen werden. Je gravierender die Auswirkungen sein können, desto grösser sind die zu erwartenden Vorbehalte gegenüber einem Produkt. Vielleicht finden Nebenwirkungen ja deshalb ihre gesetzlich vorgeschriebene Erwähnung meistens nur im Kleingedruckten von Beipackzetteln, das mit blossem Auge kaum zu entziffern ist. Werbung für Arzneimittel muss dagegen immer klar und deutlich dazu auffordern, zu Risiken und Nebenwirkungen einen Arzt oder Apotheker zu konsultieren.
Manche Nebenwirkungen können so dominant werden, dass sie die beabsichtigte Wirkung zunichtemachen und paradoxerweise sogar das exakte Gegenteil bewirken. Wenn etwa Umweltschützer mit ihren Aktionen den dramatisch schlechten Zustand unseres Planeten ins kollektive Bewusstsein rücken, um die Menschheit zu warnen und zu retten. Und wenn die Menschen dann – zugespitzt – dennoch aussterben, weil sie keine Kinder mehr in eine solche Welt setzen (möchten), deren Zukunft so hochgradig bedroht ist, wie sie nun dank der Arbeit der Umweltaktivisten in allen Details wissen.
Zu den gefährlichsten Nebenwirkungen zählen zweifellos diejenigen, die noch nicht entdeckt wurden und – im schlimmsten Fall – viel zu spät erkannt werden. Bis zur Verfügbarkeit und Wirksamkeit von Gegenmitteln oder Gegenmassnahmen kann dann sehr viel Zeit vergehen und ein immenser, mitunter irreversibler Schaden entstehen. Um Ansprüche auf Entschädigung abzuwehren, werden kausale Zusammenhänge in der Regel erst einmal abgestritten, bevor sie dann in langwierigen Verfahren vor Gericht einer Klärung zugeführt werden.
Es ist tatsächlich oft nicht einfach, den Nachweis bestimmter Nebenwirkungen zu führen. Diese Erfahrung mache ich, seitdem ich mich mit den Nebenwirkungen der Digitalisierung befasse, von denen die meisten in ihrer ganzen Tragweite noch kaum begriffen wurden. Die vierte industrielle Revolution hat in der sachlichen wie in der sozialen Dimension bereits so tiefgreifende und so weitreichende Veränderungen bewirkt und in der zeitlichen Dimension ein so atemberaubendes Tempo erreicht, dass das menschliche Gehirn bei der Verarbeitung der Entwicklungen zunehmend an seine Grenzen stösst, selbst bei den Architekten dieser schönen neuen Welt.
Darin unterscheidet sie sich im wesentlichen von den vorangegangenen industriellen Revolutionen. Zur Beschreibung der aktuellen Situation wird bereits der Aphorismus 'Die Revolution frisst ihre eigenen Kinder' bemüht, der einem Anwalt namens Pierre Vergniaud im Angesichte seiner Hinrichtung in den Wirren der ersten Jahre nach der Französischen Revolution zugeschrieben wird. Er wird dann allerdings primär auf die Vermutung bezogen, Künstliche Intelligenz könne schon bald einen Grossteil ihrer Programmierer überflüssig machen.
Einzelne Bereiche der Digitalisierung und die dort beobachtbaren Nebenwirkungen habe ich in früheren Beiträgen eingehend behandelt, so dass ich nachfolgend nur darauf verlinken und die wichtigsten Erkenntnisse noch einmal zusammenfassen werde…
1. Lesefähigkeit, Schreibfähigkeit und Lernfähigkeit bleiben auf der Strecke
Die zu frühe, intensive Nutzung digitaler Medien durch Kinder und Jugendliche führt in die digitale Demenz. Aktuelle Studien belegen, dass bereits 25% der Schüler am Ende der Grundschule (Iglu 2023) bzw. im Alter von 15 Jahren (Pisa 2019) nicht lesen können. Wer sich nicht mehr konzentrieren und nicht lesen kann, kann auch nicht schreiben, ist in seiner Lernfähigkeit stark eingeschränkt, weiss nur noch so wenig, dass es für das Erkennen und Herstellen komplexerer Zusammenhänge und abstraktes Denken nicht mehr reicht. Die Schulabgänger ohne Abschluss bewegen sich seit 2011 auf konstant hohem Niveau (in Deutschland knapp 50.000 pro Jahr). Die Lehrbetriebe und die Universitäten beklagen seit Jahren, dass die Auszubildenden und die Studienanfänger die notwendigen Voraussetzungen nicht mehr mitbringen… und reagieren auf die denkbar schlechteste Weise, indem sie die Anforderungen immer weiter absenken. Gelernt wird allenfalls noch für Prüfungen ('Bulimie-Lernen'), nicht mehr aus Neugier. Die digitalen Medien erweisen sich als regelrechte Zeitvernichter in der wichtigsten Lernphase des Lebens. Wenn die Entwicklung des Gehirns mit spätestens Mitte 20 abgeschlossen ist, lassen sich die Versäumnisse nicht mehr nachholen. Darüber hinaus ist nachgewiesen, dass die Digitalisierung der Klassenzimmer schlechten Schülern massiv schadet, während sie guten Schülern keine Vorteile bringt. Wie aber will man Kindern und Jugendlichen Medienkompetenz vermitteln, wenn sie kaum noch etwas wissen und nicht einmal mehr die wichtigsten Kulturtechniken der Gegenwart beherrschen, zu denen längst auch die Fähigkeit zählt, sich selbständig in neue Wissensgebiete einzuarbeiten?
2. Grenzenlose Manipulierbarkeit
Menschen mit niedrigem Bildungsniveau fehlt das Wissen und die Urteilskraft, um existierende und ständig hinzukommende Methoden der Manipulation im Internet zu erkennen und erfolgreich abzuwehren. Sie sind schnell gefangen in Echokammern, die Algorithmen aus ihren Datenspuren erstellen, werden dadurch unbemerkt abgeschnitten von den Quellen der Meinungsbildung. Die chinesische Social Media-Plattform TikTok braucht ganze 30 Minuten Nutzungszeit, um von einem neuen Nutzer ein komplettes Profil zu erstellen, das danach die Auswahl sämtlicher eingeblendeten Inhalte steuert. So werden jetzt schon Wahlen manipuliert, was mittelfristig unsere Demokratien zerstören wird. Verstärkt wird dieser Prozess durch die Smartphones, über die selbst ungebildete, funktionale Analphabeten rein mündlich kommunizieren und besonders leicht manipuliert werden können.
3. Narzissmus, Hass und Hetze in völlig neuen Dimensionen
Da das Internet weitestgehend mündlich genutzt werden kann und damit allen offensteht, können auch Menschen mit niedrigem Bildungsniveau, die oft in prekären Situationen leben, anonym Hass und Hetze verbreiten. Durch die 'Likes' von anderen erzielen sie Reichweiten, die ohne das Internet undenkbar wären. Mit Selfies und Videos, die zum Teil Millionen Menschen teilen, werden sogenannte 'Influencer' mit einer Bedeutsamkeit aufgeladen, die in keinem Verhältnis zu dem steht, was sie anzubieten haben. Insgesamt fördert die überdimensionale Resonanz von Photos und Videos, auf denen Individuen sich als Mittelpunkt inszenieren, Egozentrik und Egoismus, bis hin zu Egomanie. Im selben Masse geht in dieser im doppelten Wortsinn 'verrückten Welt' der Gemeinsinn verloren.
Da jeder alles im Internet verbreiten kann, können auch Lügen und Unsinn in den Status von 'Wahrheiten' erhoben werden, wenn sie nur von genügend Menschen weiterverbreitet werden. Darüber hinaus können Abbilder der Wirklichkeit (Photos, Videos, Dokumente) so täuschend echt verfälscht werden, dass die Grenzen verschwimmen und eine Unterscheidung nicht mehr möglich ist. Die Identitäten von Personen im Internet können gestohlen oder erfunden sein, so dass wir nicht mehr wissen können, mit wem wir es jeweils tatsächlich zu tun haben. Als Nebenwirkung dieser Entwicklungen müssen wir künftig damit leben, dass wir uns auf nichts mehr verlassen können. Alles könnte immer auch ganz anders sein, als wir es wahrnehmen und verstehen. Damit zerfällt aber der 'sinnhafte Aufbau der sozialen Welt' (Alfred Schütz), der unser Überleben gesichert hat, seit wir im Laufe der Evolution die Orientierung durch Instinkte verloren haben. Was das mit uns machen wird, zumal das individuelle Wissen und die Fähigkeiten tendentiell immer weiter zurückgehen, kann noch niemand abschätzen, aber Anlass zu Optimismus besteht wohl eher nicht.
5. Ideologisierung der Gesellschaft
Da es nicht mehr die eine Wahrheit gibt, auf die wir uns gesellschaftlich verständigen können, sondern zahlreiche unterschiedliche und gegensätzliche 'Wahrheiten' im Umlauf sind, die durch Millionen Anhänger vermeintlich ins Recht gesetzt werden, verzeichnen wir mittlerweile viele ideologische Grabenkämpfe, bei denen verschiedene Wahrheiten unversöhnlich bei jeder sich bietenden Gelegenheit aufeinanderprallen. Als Nebenwirkung der Digitalisierung nimmt also nicht nur der Egoismus zu, sondern schwindet zugleich der gesellschaftliche Zusammenhalt. Dialoge finden kaum noch statt, allenfalls aneinander vorbeilaufende Monologe, während die Versuche, die eigene Wahrheit gegen alle Widerstände durchzusetzen, immer rücksichtslosere und unzivilisiertere Züge annehmen.
6. Vernichtung auch künftig dringend benötigter Berufe
Die vermeintlich grössten Fortschritte – und die derzeit vielleicht am meisten unterschätzten Nebenwirkungen – der Digitalisierung verzeichnen wir im Bereich der Künstlichen Intelligenz (KI), und zwar bei dem Versuch, menschliche Sprache zu simulieren. Auf den ersten Blick sind die Ergebnisse beeindruckend, welche Online-Werkzeuge wie DeepL bei der Übersetzung von Texten und neuerdings ChatGPT bei der Beantwortung von Fragen und Aufforderungen in menschlicher Sprache produzieren. Nun wird in den höchsten Tönen davon geschwärmt, KI könne denken und menschliche Sprache verstehen… Und die Spekulationen überschlagen sich, wo überall KI künftig Menschen ersetzen und deren Arbeit besser und schneller erledigen werde. Man wird ja wohl noch träumen dürfen von den ganz grossen Geschäften, die sich da am Horizont abzeichnen. Da kann es doch keine Rolle spielen, dass viele Menschen ihre Arbeit verlieren und ganze Berufsgruppen verschwinden werden…
Spielt es doch, wenn schon absehbar ist, dass die Träume von einer KI mit menschlichen Fähigkeiten in der Zukunft platzen werden, die vollmundigen Ankündigungen und die distanzlos euphorische Berichterstattung darüber in den Medien aber jetzt schon die Berufswahl junger Menschen negativ beeinflussen. Was dazu führen kann, dass zu dem Zeitpunkt, wenn endlich begriffen wird, dass KI bei der Simulation menschlicher Sprache masslos überschätzt wurde, die Ausbildung zu weiterhin dringend benötigten Berufen mangels Nachfrage bereits eingestellt wurde. Der daraus resultierende Fachkräftemangel wird dann viele Jahre lang nicht mehr aufzufangen sein.
Doch warum sollte der Traum platzen, wenn doch jetzt überall herausgestrichen wird, KI stünde bei der Simulation menschlicher Sprache erst am Anfang? Ganz einfach: weil die Programmierer der Algorithmen und alle anderen, die KI nun menschliche Fähigkeiten andichten, noch nicht begriffen haben, dass natürliche Sprachen grundsätzlich anders funktionieren als Programmiersprachen, ausser vielleicht auf dem Sprachniveau von Kleinkindern oder auf dem Niveau, auf dem Erwachsene mit ihren Haustieren und ihren Navigationsgeräten sprechen.
Der alles entscheidende Unterschied natürlicher Sprachen besteht in ihrer prinzipiellen Mehrdeutigkeit. Während Computer gigantische Datenmengen speichern und blitzschnell verarbeiten können, nimmt die Kapazität des menschlichen Gehirns eher ab und ist generell ziemlich begrenzt. Sprachgenies wie James Joyce verfügen über einen aktiven Wortschatz von ca. 20.000 Wörtern, bei durchschnittlicher Bildung sind es noch 5.000, und die Dockarbeiter im Hafen von London sollen mit 500 Wörtern durchs Leben kommen. Der passive Wortschatz ist um ein Vielfaches grösser, soll bis zu 100.000 Wörter umfassen, steht aber für die aktive Produktion sprachlicher Äusserungen nicht zur Verfügung.
Aus diesem Grunde besitzen viele Begriffe ('Mutter') und sogar ganze Sätze ('Sie sind verliebt in Paris') mehrere Bedeutungen, von denen in jeder konkreten Situation – von unendlich vielen – meistens nur eine zutrifft bzw. gemeint ist. Da die Situation aber fast nie Teil der Äusserungen ist, mit denen KI gefüttert wird, bilden die Mehrdeutigkeiten das unüberwindliche Hindernis. Schlechte Übersetzungsprogramme präsentieren dann willkürlich eine Bedeutung und unterschlagen die andere(n), gute Übersetzungsprogramme listen alle möglichen Bedeutungen in der Zielsprache auf. Dennoch sind beide Programme gleichermassen ohne den Sachverstand und die Sprachkompetenz der Anwender völlig unbrauchbar. Die ausgeworfenen Ergebnisse können nämlich lediglich der Aktivierung des passiven Wortschatzes, dem 'Wiedererkennen von Bekanntem' dienen.
KI scheitert ebenso grandios an Metaphern und Ironie, die grundsätzlich mehrdeutig sind. Die Situation entscheidet darüber, ob ich gerade tatsächlich auf einem Schlauch stehe oder nur etwas nicht so ganz verstehe. Und das Lob 'Das hast Du ja wieder ganz toll hinbekommen' meint meistens, aber eben nicht immer das genaue Gegenteil. Die Mehrdeutigkeit sprachlicher Äusserungen, deren Kontext unbekannt ist, stellt ein generelles Problem von Schriftkulturen dar. Die Bibelexegese oder die Interpretation in den Literaturwissenschaften sind aufwendige und oft nur mässig überzeugende Versuche, den Kontext der Entstehung eines Textes zu rekonstruieren und dem Text damit eine eindeutige Bedeutung zuzuordnen. Da KI kein Bewusstsein hat und weder denken, noch sprachliche Äusserungen verstehen kann, hat sie keinen Zugang zu den Bedeutungen (in konkreten Situationen). Wozu KI bei menschlicher Sprache in der Lage ist, hat der Sprachphilosoph Jean Searle auf den Punkt gebracht: sie schiebt Zeichen hin und her.
Das ist nicht nur der Grund für das zwangsläufige Scheitern von KI bei natürlichen Sprachen, sondern auch dafür, dass ChatGPT neben den brauchbaren auch viele falsche und unsinnige Antworten liefert.
Doch warum gibt es dann so viele Menschen, die sich von KI beeindrucken und einschüchtern lassen? Ganz einfach: weil die vielen unbrauchbaren Ergebnisse gerne verschwiegen werden, um die positiven Ergebnisse in einem umso grelleren Licht erstrahlen zu lassen. Man möchte sich ganz auf die Chancen konzentrieren, die man sich von KI im Bereich der Simulation menschlicher Sprache erhofft. Dabei ist den meisten nicht einmal bewusst, dass sie ständig die Ergebnisse von KI beurteilen und alles ausblenden, was den schönen Schein trüben würde. Wenn KI bei der Simulation menschlicher Sprache aber immer auch falsche Ergebnisse und auch blanken Unsinn erzeugen wird und deshalb nur im Zusammenspiel mit der Urteilskraft kompetenter Anwender überhaupt ihre Daseinsberechtigung behaupten wird, dann kann sie viel weniger Berufen gefährlich werden als befürchtet.
Wer etwa der Meinung ist, KI könnte künftig bei Übersetzungen den Grossteil der Arbeit übernehmen, und Übersetzer würden dann nur noch als Lektoren mit einem Bruchteil des Aufwandes (und des Honorars) das Ergebnis prüfen und in die endgültige Form bringen, der zeigt damit nur eines: dass er vom Übersetzen nicht die geringste Ahnung hat. Tatsächlich wird der Aufwand insgesamt grösser, denn die Korrekturlektüre einer Übersetzung bedeutet immer eine komplette Neuübersetzung. Und je nach dem, wieviele Fehler die maschinelle Übersetzung enthält, kann eine Korrektur viel aufwendiger ausfallen als die losgelöste Neuübersetzung durch einen Profi. Beim Buchdruck spricht man von 'Neusatz', wenn es kostengünstiger ist, einen Text komplett neu zu erfassen als extrem viele Fehler in einem bereits erfassten Text zu korrigieren.
Fehleinschätzungen hinsichtlich der Ersetzbarkeit von Menschen durch Technik gab es auch früher schon, und dabei spielte die Sprache ebenfalls die entscheidende Rolle. Lernprogramme für PCs und Lernvideos auf VHS sollten Anfang der 90er Jahre in den Firmen traditionelle Schulungen ersetzen und die Ausbildungskosten reduzieren. Heute spricht niemand mehr davon, weil man einen entscheidenden Punkt übersehen hatte: während Dozenten Sachverhalte auf unterschiedliche Weise erklären können, bis sie verstanden worden sind, kommt man in einem Lernvideo oder Lernprogramm bei einer schlechten Erklärung nicht weiter, denn sie wird nicht dadurch verständlich, dass man sie wieder und wieder anschaut.
Ein bizarres Verständnis von menschlicher Sprache lassen auch die Empfehlungen zur Optimierung von Webseiten für Suchmaschinen erkennen. Früher sprach man von einem – ästhetisch – gelungenen Werk, wenn die Form optimal den Inhalt zur Geltung brachte. Bei Webseiten soll stattdessen der Inhalt an die für Suchmaschinen optimale Form angepasst werden, etwa durch den mehrfachen Einbau derselben Suchbegriffe in den Text. Im besten Fall wird eine solche Seite dann sofort gefunden, bewegt sich inhaltlich aber auf dem Niveau von Kleinkindern.
Die unterschätzten Nebenwirkungen der Digitalisierung müssen, das wollte ich verdeutlichen, dringend bewusstgemacht werden, einerseits um Gefahren abzuwenden, die sich erst dann manifestieren werden, wenn es für eine Korrektur zu spät sein wird, etwa bei der digitalen Demenz, und andererseits um Entwarnung zu geben, wo Entwicklungen falsch eingeschätzt werden, um einem Teil der Verunsicherung und der Ängste zu begegnen, die vor allem gerade von der Euphorie um Künstliche Intelligenz geschürt werden.
Diese dringend benötigte Aufklärung betrifft eigentlich alle, insbesondere aber – werdende – Eltern, Lehrer, Schulleiter, Dozenten, Entscheidungsträger im Bildungswesen, in der Bildungspolitik, in den Berufsverbänden und in der Wirtschaft. Sie justiert die Perspektiven und bewahrt vor falschen Entscheidungen im Prozess der Digitalisierung, dem sich nach und nach kein Bereich der Gesellschaft wird entziehen können. Mein Beitrag sollte zugleich klarstellen, dass diese wichtige Aufklärung nicht von denjenigen erwartet werden kann und nicht denjenigen überlassen werden darf, die für die – Weiterentwicklung der – Digitalisierung mit allen ihren Nebenwirkungen massgeblich verantwortlich sind und dabei ihre eigene Agenda verfolgen. Antworten sind eher aus den Humanwissenschaften zu erwarten, denen sich auch mein Wissen verdankt, und aus der Medizin, wenn es um die Auswirkungen digitaler Medien auf die Entwicklung des kindlichen und jugendlichen Gehirns geht. Ein weiterer Aspekt, der in den Kulturwissenschaften gut erforscht ist und der bei der Simulation von menschlicher Sprache durch Künstliche Intelligenz eine zusätzliche – wie ich meine unüberwindliche – Hürde darstellt, sind die gewaltigen Unterschiede zwischen mündlicher Sprache und Schriftsprache, auf die ich in früheren Beiträgen bereits eingegangen bin.
Auslöser für diesen Beitrag war die schockartige Erkenntnis, dass die euphorische Berichterstattung über eine Künstliche Intelligenz mit angeblichen menschlichen Fähigkeiten wie Denken und Verstehen ab sofort die Berufswahl beeinflussen wird, so dass Berufe, die in der Zukunft noch dringend gebraucht werden, plötzlich vom Aussterben bedroht sind. Offenbar habe ich einen Teil der Nebenwirkungen der Digitalisierung trotz aller Einblicke unterschätzt, weshalb ich mich künftig noch eingehender mit dieser Thematik befassen werde…