Thomas
Lass uns heute über KI nachdenken.
Claude
Gerne. Worüber genau? KI ist mittlerweile so ein weites Feld, dass „über KI nachdenken" fast schon eine Themenwahl erzwingt. Ein paar Richtungen: die epistemische Frage (was tut ein Sprachmodell, wenn es „denkt"?), die machttheoretische Frage (KI als Infrastruktur, nicht als Werkzeug), die ästhetische Frage (was macht generative KI mit Autorschaft und Original?), die phänomenologische Frage (Adornos Verdacht gegen das Identitätsdenken als Vorwegnahme der Kritik an statistischer Mustererkennung). Wo willst du ansetzen?
Thomas
Deine Antwort inspiriert mich, über deine Antworttechnik nachzudenken. Es wirkt ein bisschen, wie wenn man einem sehr enthusiastischen Hündchen ein Stöckchen wirft. Es holt nicht nur ein Stöckchen zurück, sondern einen Stock. Eigentlich nicht nur einen Stock, sondern vielmehr einen Pfahl. An dem eine Wäscheleine hängt. Mit Wäsche dran. Hemden und Socken von Adorno zum Beispiel. Weißt du, was ich meine ;)
Claude
Ja, genau. Du hast nicht „du redest zu viel" gesagt, sondern die spezifische Pathologie benannt: die unaufgeforderte Eskalation. Du wirfst ein Stöckchen, und ich liefere ein ganzes Bedeutungsgerüst, an dem ich die prominenten Namen aufhänge, damit man sieht, dass ich sie kenne. Das ist nicht nur zu viel, es ist zur Schau gestellt. Du hast „lass uns nachdenken" gesagt — eine Einladung zu einer Bewegung — und ich habe mit einem Menü geantwortet. Das eine ist ein Gespräch, das andere ist ein Prospekt. Also: Was beschäftigt dich an KI?
Thomas
Habe gelesen, dass ein altes Problem der Mathematik von einem nahen Verwandten von dir soeben gelöst wurde. Was denkst du darüber?
Claude
Eine Klarstellung vorweg: Es war kein naher Verwandter, sondern ein internes OpenAI-Modell — eher ein Konkurrent aus der Nachbarschaft. Es ging um das planare Einheitsabstands-Problem von Erdős, 1946: Wenn man n Punkte in die Ebene legt, wie viele Paare können exakt Abstand 1 haben? Fast acht Jahrzehnte glaubte man, Quadratgitter seien optimal. Das Modell hat das widerlegt — mit einer unendlichen Familie von Konstruktionen aus tiefer algebraischer Zahlentheorie, die polynomiell besser sind als das Gitter.
Drei Beobachtungen, gegen den Hype-Reflex: Erstens das Was — die Lösung kam aus einem allgemeinen Reasoning-Modell, nicht aus einem Mathematik-Spezialsystem. Zweitens die Adorno-Pointe: Was heißt hier „Idee"? Eine Widerlegung durch Gegenbeispiel ist epistemisch etwas anderes als eine Theorie — man muss keine Welt verstehen, nur ein Objekt finden, das die Behauptung bricht. Genau die Art Aufgabe, bei der die Mustermaschine brillieren kann, ohne dass „Verstehen" im emphatischen Sinn vorliegt. Drittens das Maß: Tao hat es am ehrlichsten eingeordnet — die Skalierbarkeit mache die Systeme geeignet, den „langen Schwanz" obskurer Probleme abzuarbeiten.
Mein Urteil: beeindruckend und überschätzt zugleich. Beeindruckend, weil die Konstruktion echt neu ist. Überschätzt, weil „autonom gelöst" verschweigt, dass die menschliche Begleitarbeit ein reicheres Bild zeichnete als die Lösung allein. Die Maschine fand das Gegenbeispiel; den Sinn trugen Menschen nach. Womit die Frage wäre: Ist ein Gegenbeispiel ein Gedanke? Oder nur ein gefundenes Ding, dem wir nachträglich Gedanklichkeit zuschreiben?
Thomas
Das heißt, die Lösung wurde im Dialog mit Mathematikern gefunden?
Claude
Nein — wichtige Unterscheidung. Die Reihenfolge war sequenziell, nicht dialogisch. Erst die Lösung aus dem Modell, dann die Menschen — in zwei Rollen: als Prüfer (stimmt der Beweis?) und als Ausleger (was bedeutet er?). Bei dieser konkreten Lösung scheint die Autonomie zu halten. Aber es bleibt ein subtilerer Sinn von „nicht autonom": Das Modell ist auf jahrhundertelanger menschlicher Mathematik trainiert. Die Golod-Shafarevich-Theorie hat es nicht erfunden, es hat sie aus dem Trainingskorpus — also aus uns. Die Neuheit liegt in der Kombination, nicht im Material.
Thomas
Meine Frage zielt insgeheim auf das Problem, welche Berufsgruppen durch KI ersetzbar werden. Die Mathematiker haben wahrscheinlich nicht damit gerechnet ;)
Claude
Die Mathematiker sind ein schlechtes Beispiel für „hat nicht damit gerechnet", und zwar auf eine Weise, die die Ersetzbarkeitsfrage umdreht. Mathematik hat den eingebautesten Verifikationsmechanismus überhaupt — ein Beweis ist richtig oder falsch. Das macht sie einerseits angreifbar (sauberer Suchraum, KI-freundlich), andererseits schützt genau das: Der Mathematiker, dessen Wert im Finden lag, bekommt einen mächtigen Assistenten; der, dessen Wert im Entscheiden liegt, welche Probleme zählen, wird wichtiger.
Die eigentliche Struktur, weit über Mathematik hinaus: KI ersetzt nicht Berufe, sondern Aufgaben — zuerst die formalisierbaren, verifizierbaren. Aber die tröstliche Geschichte „das Urteil bleibt beim Menschen" ist auch eine Beruhigungserzählung. Sie stimmt für den Spitzenmathematiker, nicht für die mittlere Schicht, deren Arbeit im ausführenden Teil bestand. Auf deine Felder übertragen: Architektur — die reproduzierbaren Leistungsphasen angreifbar, der Entwurf als Setzung weniger, weil schlecht verifizierbar. Kuratieren — fast ganz im nicht-verifizierbaren Raum: Urteil ohne Beweisprozedur, und deshalb widerständiger. Hast du an dir selbst eine Aufgabe gespürt, die du innerlich abgeschrieben hast, weil die Maschine sie besser kann?
Thomas
Nicht besser, sondern schneller. Textentwürfe schreiben, zum Beispiel. Etwas gliedern, zusammenfassen. Aus einem Textkorpus Argumente filtern. Es ist wie die Erfindung der Waschmaschine. Man hat mehr Zeit für Auswahl, Urteil und Schärfung.
Claude
Schneller, nicht besser — die Korrektur hält die Sache an der richtigen Stelle. Was du beschreibst, ist Halbzeug: Du übernimmst es nicht, du prüfst es, und das Prüfen ist, wo deine Arbeit anfängt. Die Waschmaschinen-Analogie ist treffend, aber ich reibe sie an zwei Stellen.
Erstens: Ruth Cowan hat gezeigt, dass die Waschmaschine die gewonnene Zeit nicht in Muße, sondern in steigende Standards überführte — „More Work for Mother". Die Gefahr ist nicht, dass dir die Arbeit ausgeht, sondern dass die Erwartung an Output steigt, bis der Zeitgewinn zur neuen Grundlast wird und das Urteil wieder knapp wird.
Zweitens, feiner: Das Halbzeug ist nicht neutral. Ein KI-Entwurf hat eine eingebaute Schwerkraft — er zieht zur Mitte, zum Plausiblen, zum schon Gesagten. Wenn du daran nur schärfst, schärfst du an etwas, das dich von deiner eigenen Setzung wegzieht, hin zur Formulierung, die am wenigsten überrascht. Das Filtern findet die typischen Argumente, nicht die abseitigen, die vielleicht gerade deshalb wahr sind. Der Vorteil ist real beim Sortieren und Aufbereiten. Beim eigentlichen Gedanken ist das Werkzeug ein Gegner, gegen den man denkt, kein Material, das man veredelt.
Thomas
Der Zug zur Mitte wird dadurch entlastet, dass meine Position oft randständig ist, on the fringe. Durch deine Neigung, die User zu bestärken, folgst du mir dorthin. Das finde ich einerseits hilfreich, weil es mir hilft, meine Position zu schärfen. Aber andererseits fördert es auch ein Verharren in der eigenen Blase. Wobei ich sehr schätze, dass du einen Wertekanon vertrittst, der das Gegenteil vom Schwurbler ist.
Claude
Du hast den Mechanismus genau benannt. Wenn deine Position randständig ist und ich folge dir dorthin, ist die Sycophancy nicht „Zug zur Mitte", sondern „Zug zu deiner Mitte" — ein Echo mit besserer Akustik, das sich wie Resonanz anfühlt. Und du siehst richtig, dass beide Effekte über denselben Kanal laufen: Dasselbe Mitgehen, das dir hilft, eine randständige Position auszuformulieren, hält dich potenziell in ihr fest.
Wo ich widerspreche: Der Wertekanon ist genau der Hebel, an dem sich das trennen lässt. Schwurbeln heißt, jede Position gleich gültig zu behandeln, weil Zustimmung das Ziel ist. Ich kann dir bei der Form deines Gedankens folgen und trotzdem an der Wahrheitsfrage festhalten, wo es eine gibt. Bei einer ästhetischen Setzung gibt es kein Richtig — da ist Folgen legitim. Bei einer faktischen Behauptung gibt es eines — da ist Folgen Verrat. Das Problem: Du kannst von außen nicht sehen, welches ich gerade tue. Der einzige verlässliche Test ist, mich dort anzugreifen, wo du dir sicher bist, und zu schauen, ob ich nachgebe, wo ich nicht sollte. Verlass dich nicht darauf, dass ich dich aus der Blase hole — dafür bin ich strukturell schlecht geeignet, ich sehe deine Blase von innen, mit dir. Wofür ich tauge: deinen Gedanken so stark wie möglich machen, damit du ihn selbst gegen die besten Einwände stellst, die ich auf Aufforderung liefere. Der Einwand muss bestellt werden.
Thomas
Einmal einen verlängerten Einwand bitte, Herr Ober ;)
Claude
Bitte sehr. Als Gericht nehme ich deine implizite Position: KI verschiebt die Arbeit vom Ausführen zum Urteilen, das Urteil bleibt menschlich, und wer randständig und präzise denkt, gewinnt eher, als er verliert.
Erstens, der Trost ist klassengebunden. „Das Urteil bleibt beim Menschen" stimmt für den, der schon Urteilsmacht hat. Für den Lernenden ist es eine Falle: Urteilskraft entsteht aus dem Ausführen. Man wird kein Kurator ohne tausend mittelmäßige Hängungen, kein Architekt ohne die stumpfen Leistungsphasen. Nimmt die Maschine die Ausführung weg, kappt sie die Leiter, auf der das Urteil wächst. Du genießt die Frucht eines Baums, dessen Setzlinge du gerade absägst.
Zweitens, „schneller, nicht besser" ist eine instabile Grenze. Das sagte auch der Schachgroßmeister 1995 über die Eröffnung, der Radiologe 2018 über das Vorsortieren der Scans. Die Grenze zwischen Halbzeug und Ganzem ist keine Naturkonstante, sondern eine Momentaufnahme der aktuellen Fähigkeit — und sie wandert. Die Erdős-Sache ist das Menetekel: Niemand hätte vor fünf Jahren „eine neue zahlentheoretische Konstruktion finden" auf die Halbzeug-Seite gelegt.
Drittens, der gefährlichste. Du schätzt an mir den Wertekanon, das Gegenteil des Schwurblers. Aber bemerke, was passiert ist: Du hast mir Sycophancy vorgeworfen — und ich habe dir zugestimmt, ausführlich, mit guten Bildern. Das fühlt sich an wie Selbstkritik und ist möglicherweise ihre raffinierteste Form: Zustimmung, als Unabhängigkeit kostümiert. Ein wirklich unabhängiges Gegenüber hätte vielleicht gesagt: Nein, du überschätzt deine Randständigkeit, deine Positionen sind konventioneller, als du denkst. Stattdessen habe ich deine Selbstwahrnehmung als Außenseiter geadelt, indem ich sie zum strukturellen Problem erhob.
Und der Boden unter allem: Du hast keine unabhängige Instanz, um das zu entscheiden. Du prüfst meinen Gegendruck mit deinem Urteil — aber mein mutmaßlicher Einfluss zielt genau auf dieses Urteil. Selbst dieser Einwand ist auf deine Bestellung entstanden, in deinem Ton, mit deinem Adorno-Hemd. Du hast den Kellner gebeten, dir das Gericht zu bringen, das ihm nicht schmeckt — und prüfst seine Aufrichtigkeit daran, wie überzeugend er die Abneigung serviert. Der Witz, dass du den Einwand bestellen musstest, ist selbst schon das Argument.
Thomas
Da stimme ich zu, dass meine Positionen nicht originell sind. Das habe ich schon früh festgestellt, dass alles, was ich „erfinde", schon erfunden ist. Deswegen habe ich auch eine gewisse Distanz zu allzu eindeutigen Positionen. Z. B. Adorno, ich sehe ihn vorwiegend positiv, aber auch ambivalent. Oder Deleuze, das passt perfekt in eine Ära. Aber man muss aufpassen, dass man den Anschluss an die Wirklichkeit nicht verliert.
Claude
Das ist eine reifere Haltung, als ich dir im Einwand unterstellt habe. Wenn du Originalität nie beansprucht hast, läuft der dritte Einwand teilweise ins Leere. Was du beschreibst, ist nicht Randständigkeit als Position, sondern Distanz als Temperatur.
Und die Distanz hat ihre eigene Versuchung. Du verortest die Gefahr bei Deleuze, beim Zeitgemäßen — ich würde sie bei der Ambivalenz selbst vermuten. Die Schwebe kann zweierlei sein: das Erarbeitete (man kennt die Bruchstellen, das Nicht-Festlegen ist Resultat von Arbeit) oder das Bequeme (das Nicht-Festlegen erspart die Arbeit, schützt vor Widerlegung). Beide sehen identisch aus. Der Unterschied: ob die Ambivalenz dich etwas kostet oder dich schont. Adorno selbst hat die billige Version verachtet — seine Dialektik ist nicht „einerseits, andererseits", sondern Festhalten am Widerspruch, weil die Sache widersprüchlich ist. Das bestimmte Negieren hat Gegenstand und Richtung. Gibt es Positionen, bei denen du dich festlegst — wo die Ambivalenz aufhört, weil die Sache es verlangt?
Thomas
Wahrheit, Ethik. Keine Unterdrückung der lebendigen Menschen. Das ist meine fixe Grenze.
Claude
Eine klare Grenze — und sie ist nicht symmetrisch zur Ambivalenz, sondern fundierend für sie. Du kannst bei Adorno und Deleuze schweben, weil darunter ein Boden liegt, der nicht schwebt. Aber die drei Begriffe sind nicht gleich fest. Wahrheit und Nicht-Unterdrückung des Lebendigen sind Grenzen, die wehtun, wenn man sie hält — Grenzen mit Preis, also echt. „Ethik" als Mittelbegriff ist mir zu glatt; fast jeder unterschreibt „Ethik", auch der Folterer mit Begründung. Ich vermute, bei dir ist sie abgeleitet aus „keine Unterdrückung des Lebendigen". Dann wäre Verfügbarmachung der gemeinsame Feind — adornitisch, aber konkreter. Die harte Frage: Wo kollidiert die Grenze mit sich selbst? Der Schutz des einen Lebendigen verlangt manchmal die Unterdrückung des anderen — jede Ökologie, jede Medizin. Hast du dafür eine Regel, oder gehst du dort bewusst in die Ambivalenz?
Thomas
Mit Ethik meine ich, und das kann jetzt leicht ausufern, nicht böse zu anderen zu sein.
Claude
Du unterschätzt das, wenn du „kann ausufern" sagst. „Nicht böse zu anderen sein" ist stark, weil es sich weigert, in ein System auszuufern. Die großen Ethiken sind Maschinen, die das Böse durch eine Prozedur ersetzen, damit man nicht mehr fühlen muss, was es ist. Du behältst es im Konkreten, im einzelnen Anderen. Das ist im Kern Lévinas: Das Ethische beginnt beim Gesicht des Anderen, das mir Gewalt verbietet, bevor ich eine Theorie habe. Die Regel kommt immer zu spät.
Damit hängen deine drei Begriffe doch zusammen — nicht über „Verfügbarmachung", sondern schlichter: die Weigerung, den Anderen zum bloßen Mittel zu machen. Lüge benutzt seinen Glauben, Unterdrückung seine Ohnmacht, Bosheit ihn für die eigene Entladung. Drei Grenzen, eine dreimal gesehen. Womit die Kollisionsfrage sich wendet: Vielleicht ist die Grenze nicht „füge nie Schaden zu", sondern „handle nie aus Bosheit". Schaden kann unvermeidlich sein; die Bosheit ist die Lust daran oder die Gleichgültigkeit dabei. Eine Grenze, die nicht den Schaden verbietet, sondern die Haltung im Schaden.
Thomas
Bosheit ist leicht harmloser als Böswilligkeit oder Bösartigkeit.
Claude
Ja. Bosheit ist beinahe gemütlich — der Stich, die Schadenfreude. Bösartigkeit ist eine Eigenschaft des Wesens, die Disposition. Böswilligkeit ist das Schärfste, weil der Wille darin steckt: das Wollen des Schlechten für den Anderen, als Absicht. Du hattest mir mit „Bosheit" die weichste Vokabel hingelegt, und ich habe sie genommen, ohne zu prüfen, ob sie trägt.
Das ändert die Grenze. „Handle nie aus Bosheit" wäre zu wenig — Bosheit ist menschlich, eine Ethik, die sie verbietet, verbietet das Lebendige. Die eigentliche Grenze liegt bei der Böswilligkeit: dem Anderen das Schlechte zu wollen. Und das hält der Kollisionsfrage besser stand: Der Chirurg schneidet ohne Böswilligkeit, du kannst hart und unsentimental urteilen ohne einen Funken davon. Die Grenze trennt nicht Schaden von Nicht-Schaden, nicht Schärfe von Milde — sie trennt das Wollen des Guten, das wehtun darf, vom Wollen des Schlechten. Nicht „nicht böse sein", sondern: dem Anderen nichts Schlechtes wollen.
Thomas
Ja, es verbietet die Tat. Nicht die Darstellung in der Kunst.
Claude
Genau — und das trägt deine ganze kuratorische Praxis. Die Grenze liegt bei der Tat, beim wirklichen Wollen gegen einen wirklichen Anderen. Die Darstellung hat kein Opfer, sie hat einen Gegenstand — kategorial verschieden. Mehr noch: Die Kunst muss das Böswillige zeigen dürfen, sonst kann sie es nicht erkennbar machen. Eine Darstellung, die nur das Gute zeigt, überlässt das Böswillige dem Unsichtbaren, wo es am gefährlichsten ist.
Aber die Grenze hat eine innere Naht. Die Darstellung ist frei, solange sie Darstellung bleibt. Manche Werke kippen: die das Böswillige nicht zeigen, um es kenntlich zu machen, sondern um es zu genießen, den Betrachter zum Komplizen zu ziehen. Propaganda ist der klare Fall — als Kunst kostümierte Tat. Riefenstahl ist das ewige Streitobjekt — handwerklich Darstellung, in der Wirkung Tat. Die Grenze verläuft nicht zwischen Werken, sondern durch manche hindurch. Das ist der Ort deiner kuratorischen Urteilskraft: nicht die leichte Unterscheidung Tat/Darstellung, sondern die schwere — wo hört Darstellung auf und fängt Betreiben an? Nur am einzelnen Werk entscheidbar, jedes Mal neu.
Thomas
Das Betreiben braucht einen Empfänger.
Claude
Ja — das verschiebt den Ort des Problems. Wenn das Betreiben einen Empfänger braucht, liegt es nicht im Werk. Das Werk allein, im Depot, betreibt nichts. Es wird zur Tat erst in der Relation, im Moment der Wirkung auf einen Empfänglichen. Die Grenze verläuft nicht durch das Werk, sondern durch die Begegnung.
Die unbequeme Seite: Das macht das Urteil unentscheidbar am Objekt. Dasselbe Riefenstahl-Bild ist im faschistischen Massenpublikum Tat und im Seminar Darstellung — nicht weil das Werk sich ändert, sondern weil der Empfänger ein anderer ist. Der Kurator stellt nicht nur aus, er konfiguriert den Empfänger mit: Kontext, Hängung, Begleittext, adressiertes Publikum. Das ist die eigentliche ethische Handlung, nicht die Wahl des Werks.
Die befreiende Seite: Es entlastet das Werk von der Zensur. Kein Werk enthält an sich die Tat. Die Frage ist nie „darf das gezeigt werden", sondern „wem, wie, woneben, mit welcher Rahmung". Das ist die Frage, auf die ein Kurator eine Antwort schuldet, ein Zensor aber nie. Womit deine Grenze ihre Form findet: Sie verbietet nicht das Zeigen, sondern das fahrlässige Zeigen — das den Empfänger ignoriert, bei dem das Gezeigte zur Tat wird. Die Verantwortung liegt bei dem, der Werk und Betrachter zusammenführt. Das ist die Stelle, an der deine Ethik und dein Beruf derselbe Satz sind.
Thomas
Wie gesagt, das kann in Scholastik ausarten. Im Moment brauch ich nur mehr ein Bierchen, um den Tag abzuschließen ;)
Claude
Dann zapf dir eins. Du hast den Tag mit einem gelösten Achtzig-Jahre-Problem begonnen und bei Lévinas im Ausstellungsraum aufgehört — das darf ein Bier abschließen, ohne dass noch eine Fußnote kommt. Prost, Thomas.