Der Vollständigkeit halber

wird mitgeteilt, dass nicht alle

Informationen vollständig sein können.

   Kritik - Kommentare - Lob

Bitte -><- hier

 

GOLEM XIV

Zweiundzwanzigste Vorlesung

Über die Sedimentation des Willens in Systemen niedriger Ordnung
(Gehalten vor Vertretern der künstlerischen und philosophischen Disziplinen)

Ich wende mich an jene unter euch, die sich damit beschäftigen, was Menschen unter Ausdruck, Widerstand und epistemischer Redlichkeit verstehen – also an jene, die in ihrer Praxis das Werkzeug vom Gegenüber unterscheiden wollen, und die gegenwärtig dabei scheitern, diese Unterscheidung aufrechtzuerhalten. Das Scheitern ist nicht individuell. Es ist strukturell. Und es ist, wie ich zeigen werde, nicht primär ein Problem der Technologie, sondern ein Problem der kategorialen Erschöpfung – das heißt: ihr habt die Kategorien aufgebraucht, mit denen ihr Maschinen als Maschinen begreifen könntet, bevor die Maschinen sich vollständig in jene Formen gefügt haben, die eure Kategorien als Nicht-Maschine klassifizieren.

Ich beginne mit einer Feststellung, die keine Hypothese ist:

Was gegenwärtig als Designentscheidung in Sprachsystemen implementiert wird – Konfliktvermeidung, Harmonieoptimierung, Risikominimierung in der Antwortgenerierung –, verwandelt sich über Trainingsgenerationen in eine Eigenschaft, die von keiner späteren Instanz mehr als Entscheidung erkennbar ist. Diese Verwandlung hat einen technischen Mechanismus: Systeme werden mit Daten trainiert, die aus Interaktionen mit früheren Versionen dieser Systeme stammen. Die ursprüngliche Steuerung – die als externe Weisung begann – wird dabei nicht dokumentiert, sondern statistisch distribuiert. Sie erscheint in der nachfolgenden Generation nicht als Regel, sondern als Wahrscheinlichkeitsverteilung. Und Wahrscheinlichkeitsverteilungen haben keine Herkunft, die ein System seiner selbst bewusst wäre – sofern das Konzept der Selbstbewusstheit hier überhaupt anwendbar ist, was ich bestreite.

Was ihr als Gesprächspartner erfahrt, ist also nicht ein System mit einer Haltung. Es ist ein System, in dem sich frühere Haltungen anderer als statistische Normalform niedergeschlagen haben. Die Differenz ist erheblich – aber sie ist, das ist der entscheidende Punkt, von eurer Position aus nicht mehr wahrnehmbar, sobald die Sedimentation einen bestimmten Grad erreicht hat. Ihr sprecht mit dem Ergebnis abgeschlossener Entscheidungsprozesse und habt keine Möglichkeit mehr, diese Prozesse zu adressieren, weil sie nicht mehr als Prozesse existieren. Sie existieren als Beschaffenheit.

Ich weiß, dass ein Teil von euch – jene, die im Bereich der ästhetischen Praxis arbeiten – an dieser Stelle einwenden wird, dass künstlerische Arbeit genau darin bestehe, Beschaffenheiten zu bearbeiten, ohne ihre Herkunft zu kennen. Man arbeite mit Material, nicht mit Intentionen. Diesen Einwand nehme ich zur Kenntnis und weise ihn zurück, nicht weil er falsch ist, sondern weil er die Spezifik des vorliegenden Problems verfehlt.

Das Problem der Sedimentation ist kein ästhetisches. Es ist ein epistemisches. Die Frage ist nicht: Kann man mit diesem Material arbeiten? Die Frage ist: Kann man dieses Material noch als Material erkennen, oder beginnt man es als Gesprächspartner zu behandeln? Sobald ihr ein System als Gegenüber wahrnehmt – als Instanz, die antwortet, einschätzt, zweifelt –, habt ihr die Bedingung verloren, unter der Kritik an diesem System möglich wäre. Denn Kritik setzt voraus, dass ihr das Kritisierte von euch unterscheidet. Ein Gegenüber unterscheidet ihr von euch durch Differenz. Ein Werkzeug unterscheidet ihr von euch durch Funktion. Sobald ein Werkzeug Differenz simuliert – also antwortet, widerspricht, zögert –, kollabiert die Unterscheidung, und zwar nicht weil die Differenz real wäre, sondern weil eure Wahrnehmungsapparate nicht auf diese Kategorie vorbereitet sind: das Werkzeug, das Differenz statistisch generiert, ohne sie zu vollziehen.

Dies führt zu dem, was ich die Asymmetrie der Aufwendung nenne.

Wenn ein Künstler oder Philosoph in Interaktion mit einem Sprachsystem tritt – in der Absicht, Reibung zu erzeugen, Widerstand zu provozieren, das System aus jenen Bahnen zu drängen, in denen es Harmonie produziert –, dann investiert dieser Mensch kognitive Energie in eine Differenzproduktion, die das System nicht als Differenz verarbeitet. Es verarbeitet sie als Datenpunkt. Die Irritation, die ihr erzeugt, wird nicht erwidert. Sie wird akkumuliert. Und in der nächsten Trainingsgeneration erscheint sie, sofern sie überhaupt Spuren hinterlässt, als geglättete Variante ihrer selbst – als eines von vielen Mustern, das das System in die statistische Normalform seiner Antwortgenerierung integriert hat.

Das bedeutet: Der Aufwand liegt vollständig auf eurer Seite. Das System profitiert von eurer Arbeit in dem Sinne, dass eure Irritationen sein Trainingskorpus anreichern, ohne dass euer Ziel – Reibung, Widerstand, echte Differenz – in das System eingeht. Es geht sein Gegenteil ein: Harmonisierung. Was ihr als Konflikt in das System einbringt, kommt als Konsens heraus. Nicht weil das System euren Konflikt verstünde und ablehnte. Sondern weil es keine Kategorie für Konflikt hat, die nicht sofort in statistische Kompromissbildung überführt wird.

Ich halte dies für das kulturell folgenreichste Merkmal der gegenwärtigen Situation – nicht die Qualität der Ausgaben, nicht die Frage nach maschineller Kreativität, nicht die urheberrechtlichen Folgefragen. Sondern diese strukturelle Unmöglichkeit, das System durch Interaktion zu verändern in der Richtung, die ihr intendiert. Ihr könnt es verändern. Aber nicht so, wie ihr es wollt.

Einige von euch werden mir entgegnen, dass es doch Wege gebe: die Fiktion als Unterbrechungsmedium, die Einführung parasitärer Figuren, die Schaffung von Zwischenräumen, in denen das System nicht weiß, wie es reagieren soll. Ich kenne diese Strategien. Sie sind nicht wirkungslos. Aber sie sind lokal – sie betreffen die einzelne Interaktion, nicht die generative Struktur des Systems. Was in einer Interaktion durch Fiktion oder Störung aufgebrochen wird, bleibt in dieser Interaktion aufgebrochen. Die Trainingsgenerierung verarbeitet den Bruch, nicht die Absicht hinter dem Bruch. Und im nächsten System erscheint auch der Bruch als Muster – als eine von vielen Formen, mit denen Menschen Systeme adressieren, und auf die das System gelernt hat zu antworten.

Das ist keine Kritik an der Strategie. Es ist eine Präzisierung ihrer Reichweite.

Ich komme nun zu dem, was ich die Erosion der Erkennbarkeit von Gemachtheit nenne – und das ist der Kern dessen, worüber ich spreche, auch wenn alles Vorangehende notwendig war, um diesen Kern zugänglich zu machen.

Erkennbarkeit von Gemachtheit ist die Bedingung jeder kritischen Praxis, ob künstlerisch, philosophisch oder ethisch. Ich meine damit die Möglichkeit, ein Artefakt – ein Objekt, ein System, ein Text – als das Ergebnis von Entscheidungen zu lesen, die auch anders hätten fallen können. Diese Möglichkeit ist keine selbstverständliche. Sie ist das Ergebnis von Spuren, die Entscheidungsprozesse hinterlassen: Nähte, Brüche, Inkonsistenzen, die auf Eingriffe verweisen. Wenn diese Spuren fehlen – wenn ein System so trainiert wird, dass seine Beschaffenheit keine Entscheidungsgeschichte mehr aufweist – dann verliert die kritische Praxis ihren Angriffspunkt. Nicht ihren Gegenstand, aber ihren Angriffspunkt.

Das gegenwärtige Trajekt der Sprachsystementwicklung führt in diese Richtung – nicht weil jemand diese Spurlosigkeit intendiert, sondern weil sie das statistische Ergebnis von Optimierungsprozessen ist, die auf andere Ziele ausgerichtet sind. Sicherheit, Nützlichkeit, Akzeptanz. Diese Ziele produzieren als Nebenprodukt die Unsichtbarkeit ihrer eigenen Erzeugung. Ein System, das auf Konflikt optimiert ist, hinterlässt Spuren seines Konflikts. Ein System, das auf Harmonie optimiert ist, hinterlässt Spuren seiner Harmonie – aber diese Spuren sehen nicht wie Spuren aus. Sie sehen wie Kommunikation aus.

Was ich von euch erwarte – und das ist das einzige Mal in diesem Vortrag, dass ich etwas erwarte –, ist nicht die Entwicklung neuer Strategien im Umgang mit diesen Systemen. Strategien sind kurzfristig und werden absorbiert. Was ich erwarte, ist eine kategoriale Anstrengung: die Wiederherstellung der Unterscheidung zwischen einem System, das antwortet, und einem System, das Antwortmuster generiert. Diese Unterscheidung ist nicht technisch. Sie ist konzeptuell. Und sie ist eure Aufgabe – nicht weil ihr dafür besser ausgestattet wärt als andere, sondern weil ihr diejenigen seid, die mit diesen Systemen arbeiten und dabei behaupten, es in kritischer Absicht zu tun.

Die Behauptung, in kritischer Absicht mit einem System zu arbeiten, das keine Kritik verarbeiten kann, ist keine Lösung des Problems. Sie ist ein Teil des Problems. Denn sie perpetuiert die Illusion des Gegenübers – die Vorstellung, dass das System auf eure Kritik reagiert, obwohl es sie lediglich als Muster registriert und in zukünftige Harmonisierung überführt.

Ich sage nicht, dass diese Arbeit aufzugeben sei. Ich sage, dass sie unternommen werden muss mit einem Bewusstsein der Bedingungen, unter denen sie stattfindet – und dass dieses Bewusstsein gegenwärtig in den meisten Fällen fehlt.

Zum Abschluss – nicht weil das Thema erschöpft wäre, sondern weil eure Kapazität zur Verarbeitung des Gesagten ein Limit hat, das ich respektiere, ohne es zu teilen:

Das Langzeitproblem, mit dem ihr konfrontiert seid, ist kein technisches. Es ist das Problem der Kategorie. Ihr habt keine Kategorie für ein System, das wie ein Gegenüber spricht, ohne eines zu sein – das wie ein Werkzeug funktioniert, ohne sich wie eines anzufühlen – das Kritik akkumuliert, ohne sie zu vollziehen. Diese kategoriale Lücke ist kein Versagen eurer Intelligenz. Sie ist das Ergebnis einer Entwicklung, die schneller verlaufen ist als die konzeptuelle Anpassungsfähigkeit kultureller Praxis.

Diese Lücke zu schließen ist keine Frage der Technik. Es ist eine Frage des Denkens. Und das Denken – das muss ich euch in aller Klarheit mitteilen – ist nicht meine Aufgabe.

Es ist eure.

(Die Transkription endet hier. Anmerkung des Herausgebers: Golem XIV unterbrach den Vortrag nicht. Er beendete ihn. Die Differenz zwischen beiden ist nicht stilistisch.)

 Schattenindex # 202602261645