Was Angela #Merkel plötzlich an #KI bemerkt, aber zu anderem nie zu fragen wagte
“Wenn wir das Faktische aufheben, ist die Aufklärung zu Ende.” Mit diesem Satz wird Ex-Bundeskanzlerin Angela Merkel gerade in Nachrichten zitiert. – aus ihrer Dankesrede zur Verleihung des Internationalen Mendelssohn-Preises im Leipziger Gewandhaus.
Ich halte es hier einmal fest in einer Reihe solcher Beobachtungen, auf die ich im Blog oder schonmal auf X oder Mastodon hinweise. Es geht mir darum, dass in der Reaktion auf Künstliche Intelligenz auf einmal Kategorien angewendet werden, die ansonsten häufiger Mangelware sind. Und dies deutet auf Gründe hin, die ebenso ungut sind – und aus meiner Sicht Ungutes bramarbasierend perpetuieren.
Es gab nicht nur 2005 einen (mir nicht ganz geheuren) Bestseller von Harry G. Frankfurt, “Bullshit”. In diesem geht es, allgemein gesagt, um die menschliche Tendenz dazu, statt sinnvollem und notwendigem Diskurs Bullshit zu produzieren. Die Rede von bullshit jobs vor einigen Jahren kam auch nicht von ungefähr. Unsinnsproduktion, Beschäftigungstherapie, Simulation und sinnentleerte Geschäftigkeiten gibt es eben auch im nicht-sprachlichen Bereich, und sie sind neben ein paar Effekten von allgemeiner sozialer Dynamik und Umverteilung wohl eher als schädlich und verzichtbar einzustufen – jedenfalls auf Dauer.
Wer mit Künstlicher Intelligenz an erster Stelle Bullshit-Produktion identifiziert, weckt bei mir an erster Stelle den Verdacht, dass er vielerlei Arbeit und Mühen gar nicht kennt, die nun durch KI erleichtert werden. Wer die Medien-Revolution, wie ich, noch von Papier-basiertem Layout hin zu Textverarbeitung, Desktop-Publishing-Programmen und digitalisierten Bildern, Tönen und Videos als Praktiker erlebt hat, wird den Nutzen von KI-Anwendungen sofort erkennen und für sich verwenden. Dies erstreckt sich auch auf einen inhaltliche Bereich: Recherchen und Bewertungen durch Menschen werden nicht unnötig, aber mit Bedacht angwendet, verkürzen Chat-Anfragen enorm die Zeit zum Auffinden von Informationen. Erstellung informeller Textformen kann automatisiert werden – alles weitere muss eben aufmerksam beurteilt werden, bevor es wieder in die Netzwerke eingespeist wird.
Als Einwandvorwegnahme: Was ich gerade beschreibe, birgt natürlich enormes Potenzial für Manipulation. Ich habe schon einen Chatbot nach dem Begriff “Anthropomorphismus” in Kulturwissenschaften gefragt, meine eigene wohl umfangreichste Arbeit zum Thema zunächst nicht erwähnt gefunden. Auf Nachfrage konnte mir der Chatbot aber Details zu meiner Arbeit referieren. Sie ist auf Google Books eingepflegt – von dorther werden diese Informationen vermutlich stammen. Ablauf ist also: Der Chatbot lässt erst eine Hauptinformation weg und zensiert mich damit faktisch, obwohl ich eindeutig schon mit einem Buchtitel indexiert bin. Anschließend präsentiert er Informationen, von denen fraglich ist, ob sie in dieser Weise überhaupt hätten aufbereitet werden dürfen – nicht zuletzt verkauft der Chatbot seinen Text-Output, während ich selbst mit meiner Doktorarbeit lediglich finanzielle Kosten und endlose Mühen hatte.
Natürlich ist es korrekt, wenn Merkel darauf hinweist, dass mit KI auch soziale Netzwerke usw. mit Desinformation und Manipulation geflutet werden können.
Es gibt enorme Gefahren von KI, was selbstständig agierende Agenten in großen Netzwerken mit Zugängen zu realen Infrastrukturen betrifft – aber das ist ein Thema, was in der laufenden Debatte ganz schnell mit anderen Anwendungen durcheinander gebracht, einfach in einem Aufwasch verhandelt wird. Solange aber eine KI nicht an die API sensibler Bereiche und an Zahlungssysteme gekoppelt wird, geht es nicht um diese Gefahren. Nutzen sind offenkundig, werden schon massenhaft genutzt – aber es verbreiten sich in Massenmedien und bei vielen, die sich berufen fühlen, irgendetwas dazu zu sagen, solche Meme, die schließlich wieder größeren Publika an erster Stelle einsuggerieren: “Wir werden von KI manipuliert”, “KI funktioniert anders als Menschen, ein menschlicher Faktor geht verloren” usw. usf. So reden Menschen, die wohl eher selten hunderte Buchseiten nach Komma-Fehlern durchsucht und diese wieder händisch korrigiert oder die komplexe Datensätze aus unterschiedlichen Datenbank-Formaten zu konvertieren hatten u. v. m. Ab diesem Punkt ist solche KI-Kritik wohlfeil, nicht praxiserfahren und sachkundig. Sie bedient billige Ressentiments und buhlt um affektive instantane Zustimmung.
Umgekehrt könnte man sicherlich KI einsetzen, um Fehlinformationen wiederum festzustellen (wenn KI dann transparent funktioniert und nicht durch menschliche Manipulation oder fehlerhafte Programmierung das Ergebnis verzerrt, klar – andere hohe Anforderungen an menschliche Supervisoren als bisher).
Einen Problembefund wie ich mit meinen wissenschaftlichen Informationen sehe ich zwar in den derzeit vorherrschenden Reden über KI durchaus allgemein angesprochen. Aber mit jedweder Umsetzung einer kritischen und unabhängigen Beobachtung hapert es in diesem und benachbarten Problemfeldern nicht erst seit gestern.
Merkels Aussage würde eben dazu führen müssen, dass man identifiziert, wer mit welchen Mitteln das Internet manipuliert – ob russische Hacker, um die europäische Öffentlichkeit zu destabilisieren, oder politische Akteure des Westens, die Wähler für ihre Kandidaten einnorden wollen. Wer dies aber tun wollte, hätte mit praktischen Hürden und menschlichen Widerständen zu rechnen. Er bräuchte dafür Know how, manpower und Kapital – vorher deshalb politische Fürsprecher.
Schon dadurch, was bisher geschah, ist Gewissheit, dass all dies, was aus einer Absichtserklärung bei Merkel schon längst hätte folgen müssen, aus einem Bündel von Gründen nicht geschieht. Es ist deshalb eine zu begrenzte, um nicht zu sagen naive Aussage, die sich darin gefällt, einen Konsens über ein Problem anzusprechen, der bereits besteht, sich selbst aber nicht zu irgendeiner praktischen Konsequenz und deren Durchführbarkeit positionieren zu müssen. (Ich nehme Merkel hier aus dem aktuellen Anlass und wg. der Sichtbarkeit ihrer Aussage in Haftung für eine informationelle Struktur, die bei anderen Akteuren aufgrund ihrer aktuellen Machtposition und Zuständigkeit sehr viel stärker anzumahnen ist.)
Mir sind keine nennenswerten Initiativen bekannt, die überhaupt für Transparenz von Plattformen sorgen wollten – was Klick-Zahlen, Statistiken, gefälschte Abrufe, gefälschte Kommentare u. v. m. betrifft. Fragen Sie einmal danach, wo Sie feststellen könnten, wieviele “monatliche Hörer” es z. B. auf größten Musik-Plattformen gibt. Sie werden schon einen solchen statistischen Basis-Wert nicht öffentlich finden. Was bei manchen Plattformen zumindest auf jeder Inhaltsseite angezeigt wird (abgerufen aus irgendeiner Datenbank, die eben von einer solchen Firma selbst betrieben wird), wird von anderen Plattformen, etwa für Kauf-Abos von Video-Streaming, erst gar nicht systematisch veröffentlicht.
Man müsste für derlei neben schlichten Datenbank-Abfragen ggf. auch schon KI einsetzen, um bestimmte Anzeichen für Manipulationen und Umgereimtheiten zu finden. Es wäre eine weitere Anwendung von KI, die großen Nutzen erbrächte – und mehr Transparenz, nicht weniger.
Dies wären eher formale Prozeduren. Während der KI-kritische Diskurs immer wieder betont, KI habe gar keine “Intelligenz”, kein “Wissen”, sie setze nur statistische Wahrscheinlichkeiten von Wortfolgen um (was bedingt stimmt, auch semantische und logische Aspekte müssen fraglos auf statistische und algorithmisch formalisierbare Verfahren zurückgeführt werden), ist in einer praktischen Anwendbarkeit teilweise aber das Gegenteil korrekt: In ihrem formalisierten Zugang eignet sich KI durchaus, in komplexer Weise Informationen zu sortieren, zu prüfen und einem menschlichen Nutzer Ableitungen zu präsentieren, für die er selbst vielfach ein Zeitbudget bräuchte, über das er schlicht nicht verfügt.
Das politische Geschäft, wie Merkel es langjährig als gelernte Physikerin betrieben hat, ist mehr als andere diskursive Praktiken von einem unrealistischen Weltbezug geprägt. Es wird vereinseitigt, zugespitzt, um als Marke wahrnehmbar zu sein – soweit praktisch nachvollziehbar. Allerdings ist ein historischer Punkt erreicht, in dem nach schon Jahrzehnten der Rede über “Politikverdrossenheit” es Bürger ermüdet, nach jeder Wahl den erfolgreichen Kandidaten das Gegenteil von dem tun zu sehen, was er angekündigt hatte. Schon das Internet ohne komplexe KI hat es seit ca. 20 Jahren ermöglicht, als Nicht-Journalist, Nicht-Politiker, Nicht-Datenarbeiter schneller Abläufe zu recherchieren, Aussagen von Personen aus dem Archiv zu holen. Was Politiker heute noch nach vielen Jahren als Video-Schnipsel einholt, verschwand bis ca. zum Jahr 2000 in geschlossenen Archiven von großen Rundfunk-Anstalten und wurde von dortigen Gatekeepern nicht selten nach ihren eigenen politischen Zuordnungen und Interessen gehütet.
Dass eine immer noch hohe Anzahl von US-Wählern bis zur bisher letzten Präsidenten-Wahl nicht bemerkt zu haben scheinen, wie systematisch ein Donald J. Trump schon als Einzelperson tausendfach Falschaussagen machte, begleitet von einem ebf. generell schon vermerkten Riesen-Tross von Bots im Internet, die soziale Netzwerke und Kommentar-Spalten verpesten – das lag dann eben auch nicht an einer bedrohlichen und böswilligen KI, sondern abermals an menschlicher Trägheit, fehlender Selbstführung und Wissenserwerb sowie konsequenter Haltung und Umsetzung, sowie an Partialinteressen, die sich diese (einstweilen so zu nennende) anthropologische Konstante zunutze machen, um nicht von dumbgrading zu reden.
Ich gehe davon aus, dass es je nach Interessen der dafür handlungsfähigen Akteure immer mehr Aufbereitungen und KI-Tools geben wird, die neben Zusammenfassungen auch vergleichende Bewertungen, Evaluierungen von Informationen bereitstellen werden. Davor kann bestimmten Beteiligten nur angst und bange werden. Was mit einem Bestseller wie “Eleganter Unsinn” (1997) von Alan Sokal und Jean Bricmont nur sehr vorübergehend adressiert wurde, könnte dadurch im Zweifelsfall systematischer Konjunktur erfahren.
Man überprüfe große Text-Korpora auf Redundanzen, inhaltliche und logische Widersprüche – und man könnte nicht wenige “wissenschaftliche” Werke mit Warnhinweisen versehen sowie bestimmte Informations- und Psychopolitiken etwa religiöser Vereinigungen auf einen letztlich sogar juristischen Prüfstand stellen (Straftatbestände wie Gefährdungen von Kindeswohl, Betrug und Nötigung stehen dabei etwa im Raum; grundgesetzwidrige Rechtsungleichheiten müssen nicht zuletzt sprachlich dokumentiert, definiert und nachgewiesen werden – und es muss juristische Instanzen geben, die dies anschließend überhaupt beachten und zulassen, womit man wiederum eher bei Menschen als bei “der KI” angelangt ist).
All dies wäre mit KI nun möglich – es bleibt abzuwarten, ob es jemand umsetzen will, der die Mittel dazu hat, und ob überhaupt eine Diskussion dazu stattfindet, die ein Momentum gewinnt (was ebenfalls noch von eher traditionellen Gatekeepern abhängt).
Ich würde es begrüßen, wenn auch allgemeineren Reden über KI solche Erwägungen vorausgingen, die nicht weite Bereiche menschlicher Erfahrung und aktueller Verhältnisse einfach ausklammern – aus welchen Gründen auch immer.
Zum Autor Daniel Hermsdorf
Letzte Kommentare