Es ist Brückentag und ich bin noch nicht wieder ganz fit nach einem Infekt. Daher wird der Artikel kurz. Ich schreibe ihn trotzdem, weil ich für mich und für Sie/Euch, liebe Leser:innen, einen Artikel festhalten möchte, der im Journal AI & SOCIETY erschienen ist: „Stochastic parrot or not, it is less of a turkey than the colleague two desks over“ von Andrea Falegnami, Andrea Tomassi, Michele Levorato und Francesco Costantino.
Die Autor:innen greifen die Debatte um KI als „stochastic parrot“ auf, die ja gerade in den ersten Monaten nach dem Launch von ChatGPT sehr verbreitet war. Diese Metapher sei als Warnung vor Bias, Desinformation und fehlender epistemischer Absicherung weiterhin sinnvoll. Sie trage nur nicht weit genug, wenn aus ihr eine Generalabwertung epistemischer Nützlichkeit wird. Falegnami und Mitautor:innen verschieben den Fokus deshalb auf das soziotechnische System, in dem ein Sprachmodell eingesetzt wird: Sobald ein LLM in Arbeitsabläufe, Dokumente, Schnittstellen, Rollen und Governance eingebettet ist, wirkt es aus ihrer Sicht als Mediator.
Damit hängt die zweite Verschiebung zusammen. Die Frage danach, ob generative KI die Artefakte, mit denen sie gefüttert wird, ‚versteht‘, wird in diesem Paper nicht als Ja-Nein-Frage behandelt. Die Autor:innen fassen Verstehen funktional, als Beteiligung an Semiose. Ein Sprachmodell kann in diesem Sinn epistemisch nützlich sein, weil es begriffliche Artefakte erzeugt, umformuliert und zirkulieren lässt, die Menschen aufnehmen, prüfen und institutionell weiterverarbeiten. Das ist für Wissensarbeit ein wichtiger Aspekt, denn es geht ja genau um jene Texte, Zusammenfassungen, Entwürfe und Strukturierungen, über die Organisationen Komplexität überhaupt erst bearbeitbar machen.
Falegnami und Mitautor:innen argumentieren, dass der Engpass in der Zusammenarbeit mit großen Sprachmodellen häufig bei menschlicher Unter-Spezifikation, schwacher Problemformulierung und unklaren Anforderungen liegt. Viele Ausgaben, die vorschnell als Beleg für fehlendes Verstehen gelesen werden, spiegeln damit oft einfach die Unschärfe organisationaler Kommunikation zurück. Prompting erscheint in dieser Perspektive als sichtbares Requirements Engineering. Das passt ziemlich gut zu der inzwischen ja als no brainer behandelten Beobachtung, dass KI-Adoption ohne Kultur- und Organisationswandel kosmetisch bleibt.
Wichtig ist auch die Beschreibung von LLMs als Komponenten gemeinsamer kognitiver Systeme. Ihr Wert liegt laut dem Artikel besonders dort, wo Organisationen explizite begriffliche Artefakte brauchen: bei Zusammenfassungen, Entwürfen, Strukturierungen, Übersetzungen zwischen verschiedenen Arbeitsrepräsentationen, bei der Verdichtung komplexer Dokumenträume und bei der Externalisierung impliziten Wissens. Halluzinationen oder unpassende Ausgaben gelten laut dieser Perspektive weniger als Beweis fehlenden Verstehens, sondern eher als Hinweis auf schwache Rahmung, mangelnde Validierung und schlechte soziotechnische Gestaltung.
Der Artikel ist ein polemisches Positionspapier und kein empirischer Nachweis dafür, dass Sprachmodelle die besseren Kolleg:innen sind. Er liefert damit trotzdem einen guten Denkrahmen, mit dem sich viele aktuelle Debatten über KI in Wissensarbeit schärfer sortieren lassen. Für Organisationen folgt daraus am Ende eine ziemlich konkrete Gestaltungsagenda. LLMs sollten weder als autonome Subjekte noch als passive Tools behandelt werden, sondern als Mediatoren in soziotechnischen Arrangements. Daraus ergeben sich sehr praktische Fragen: Wie wird validiert? Wer autorisiert was? Welche Audit-Trails gibt es? Wie klar sind Rollen, Eskalationslogiken und Qualitätsmaßstäbe? Wie werden Menschen dafür trainiert? Und hier beginnt dann die eigentliche Arbeit, um KI sinnvoll und sinnstiftend im organisationalen Alltag einzusetzen.
