KI erobert das Internet – und die Plattformen tun nichts

Das Internet ist seit Jahren tot – bloss hat das noch niemand gemerkt. Das behauptet die «Dead internet theory». 2021 pseudonym gepostet, besagt sie, dass sich das Internet inzwischen «steril» und so leer wie ein Heissluftballon anfühle. Schuld seien Regierungen: eine Verschwörungstheorie.

Doch zwei Computerwissenschaftler konstatieren, die Wirklichkeit sei noch viel düsterer. Sie monieren den versteckten Einfluss von Bots und KI-Systemen. Der Zweck: Propaganda zu verbreiten und die öffentliche Meinung zu manipulieren. Die Forscher aus Unis in Sydney und Melbourne halten fest, dass die Social-Media-Unternehmen in der Lage wären, einen grossen Teil der Aktivitäten dieser Bots zu unterdrücken – wenn sie nur wollten.

Was KI-Bots produzieren, wird heute oft «AI Slop» genannt: «KI-Matsch». Dieser «Schmodder» ist in der Ära der künstlichen Intelligenz das Pendant des E-Mail-Spams. Wie bei den Werbemails gibt es kein Entkommen. Es existieren zwar keine Zahlen, wie gross der «Slop»-Anteil bereits ist. Doch der Eindruck verfestigt sich: Der Matsch ist längst überall.

Eben erst ist aufgeflogen, dass The Velvet Sundown ein «synthetisches Musikprojekt» sei. Die vermeintliche Band hat 1,3 Millionen monatliche Plays auf Spotify. Vor einem Jahr wurde die Flut von KI-generierten Büchern bei Amazon beklagt. Bei Facebook wird die KI exzessiv von Engagement-Farmern genutzt. Das sind Leute, die mit KI-Inhalten Aufmerksamkeit und Einnahmen generieren.

Einzelne Plattformen ergreifen Massnahmen. Youtube aktualisiert die Richtlinien und bezahlt künftig nur noch für «originale und authentische Inhalte». Rein KI-generierte Videoclips erhalten keine Umsatzbeteiligung mehr. Youtube senkt den Anreiz, die Plattform mit KI-Massenware zu fluten. Doch der nächste Konflikt ist absehbar, weil sich KI auch originell und sinnvoll einsetzen lässt.

Auch Deezer will den «Slop» beseitigen. Im April informierte der französische Musikstreamingdienst, inzwischen würden pro Tag über 20’000 KI-generierte Musiktitel hochgeladen, 18 Prozent des gesamten Anteils an neuer Musik. Der Entwicklungschef Aurelien Herault sieht diese Entwicklung nicht nur negativ. Doch für die Fans müsse Transparenz herrschen. Die KI-generierten Titel werden vom Algorithmus nicht mehr empfohlen.

Deezer versieht die KI-Songs auch mit einem Label. «Betrügerische Streams» erhalten keine Tantiemen mehr. Die EU schreibt Transparenz für KI ab August 2026 vor – und zwar für künstlich erzeugte Audios, Bilder, Videos und Texte, wenn sie nicht redaktionell geprüft und freigegeben wurden.

Die Betreiber wirken überfordert. Bei Meta dagegen drängt sich der Eindruck auf, der «Slop» komme gelegen. Die KI-Bilder sind rührselig, kitschig oder idealisiert und bilden ein Gegengewicht zu politischen und kontroversen Postings. Sie fördern Metas höchstes Ziel: Die Leute verweilen länger bei Facebook.

Aus Sicht der Nutzerinnen und Nutzer ist ein KI-Label der Mindeststandard. Das hilft zwar nicht direkt gegen die Gefahr von Propaganda und Manipulation, vor der die australischen Wissenschaftler warnen. Aber sie ist eine wichtige Grundlage, damit wir User souverän entscheiden können, mit welchen Inhalten wir uns beschäftigen und mit welchen nicht.

Das Label ist auch im Interesse der Plattformen. Denn auch wenn die «Dead Internet Theory» zu verschwörerisch daherkommt, spricht sie ein echtes Problem an. KI verändert Streaming, Video und Social Media fundamental. Dass wir Menschen uns dort noch willkommen fühlen, ist nicht mehr garantiert.

Matthias Schüssler ist Digitalredaktor der SonntagsZeitung.