Der Mensch ist der Flaschenhals

Es ist Brückentag und ich bin noch nicht wieder ganz fit nach einem Infekt. Daher wird der Artikel kurz. Ich schreibe ihn trotzdem, weil ich einen Artikel festhalten möchte, der im Journal AI & SOCIETY erschienen ist: „Stochastic parrot or not, it is less of a turkey than the colleague two desks over“ von Andrea Falegnami et al.

Die Autor:innen greifen die Debatte um KI als „stochastic parrot“ auf. Diese Metapher sei als Warnung vor Bias, Desinformation und fehlender epistemischer Absicherung weiterhin sinnvoll. Sie trage nur nicht weit genug, wenn aus ihr eine Generalabwertung epistemischer Nützlichkeit wird. Falegnami und Mitautor:innen verschieben den Fokus deshalb auf das soziotechnische System, in dem ein Sprachmodell eingesetzt wird.

Damit hängt die zweite Verschiebung zusammen. Die Frage danach, ob generative KI die Artefakte, mit denen sie gefüttert wird, ‚versteht‘, wird in diesem Paper nicht als Ja-Nein-Frage behandelt. Die Autor:innen fassen Verstehen funktional, als Beteiligung an Semiose. Ein Sprachmodell kann in diesem Sinn epistemisch nützlich sein, weil es begriffliche Artefakte erzeugt, umformuliert und zirkulieren lässt.

Falegnami und Mitautor:innen argumentieren, dass der Engpass in der Zusammenarbeit mit großen Sprachmodellen häufig bei menschlicher Unter-Spezifikation, schwacher Problemformulierung und unklaren Anforderungen liegt. Viele Ausgaben, die vorschnell als Beleg für fehlendes Verstehen gelesen werden, spiegeln damit oft einfach die Unschärfe organisationaler Kommunikation zurück. Prompting erscheint in dieser Perspektive als sichtbares Requirements Engineering.

Wichtig ist auch die Beschreibung von LLMs als Komponenten gemeinsamer kognitiver Systeme. Ihr Wert liegt besonders dort, wo Organisationen explizite begriffliche Artefakte brauchen: bei Zusammenfassungen, Entwürfen, Strukturierungen, Übersetzungen zwischen verschiedenen Arbeitsrepräsentationen und bei der Externalisierung impliziten Wissens.

Der Artikel ist ein polemisches Positionspapier und kein empirischer Nachweis. Er liefert trotzdem einen guten Denkrahmen, mit dem sich viele aktuelle Debatten über KI in Wissensarbeit schärfer sortieren lassen. Für Organisationen folgt daraus eine ziemlich konkrete Gestaltungsagenda: Wie wird validiert? Wer autorisiert was? Welche Audit-Trails gibt es? Wie klar sind Rollen, Eskalationslogiken und Qualitätsmaßstäbe?