Diese Woche hatte ich mal wieder eine KI-Erfahrung der anderen Art, die in die Kategorie „vielleicht sollten Sie Ihren KI-Einsatz hier nochmals überdenken“ fällt. Ich habe lange überlegt, ob ich die Organisation, um die es sich handelt, hier nennen soll oder nicht. Am Ende habe ich mich dagegen entschieden, da ich niemanden vorführen möchte (wenngleich ich die Erfahrung wirklich daneben fand).
Was war passiert? Ich hatte mich für ein einstündiges Webinar angemeldet, um etwas über ein Thema zu lernen, in dem ich bislang noch gar nicht bewandert bin. Zum entsprechenden Zeitpunkt wählte ich mich ein, wobei die Webinar-Plattform schon mal keine der gängigen war (also kein Teams, kein Zoom etc.). Auf meinem Bildschirm sah ich dann einen Mann, der an einem Schreibtisch saß; man sah seinen kompletten Körper von der Seite. Die Kameraeinstellung fand ich etwas merkwürdig, aber gut – „mal etwas anderes“ dachte ich. Ich konnte ihm zusehen, wie er auf seiner Tastatur tippte und auf seinen Bildschirm schaute. Nach ca. einer Minute drehte er der Kamera den Oberkörper zu, sodass nun erstmals sein Gesicht komplett zu sehen war. Hier war nichts auffällig. Doch als er anfing, in die Kamera zu sprechen, dachte ich direkt „das ist doch eine KI-generierte Stimme“. Bild und Ton passten auch nicht 100 % zueinander; der Ton kam ein kleines bisschen zeitversetzt zu den entsprechenden Mundbewegungen. Gut, dachte ich, von mir aus, dann halt KI-generiert. Es klang nur ziemlich geschliffen; kein „äh“ oder „öh“ war eingebaut, keine syntaktischen Abbrüche oder andere Elemente, die mündliche Sprache simulieren würden. Schon bei der Begrüßung fand ich es schwer, zuzuhören und mich zu konzentrieren – Konserveninhalte fehlt einfach die Spontaneität, die Synchronizität, ich weiß es nicht. Während der Mann bzw. die KI also sprach, klickte ich mich durch den Chat, quasi auf der Suche nach Ablenkung. Es gab die üblichen Phrasen „Hallo aus Hamburg“, „Hallo aus München“ etc. Es gab aber auch Beiträge im Chat, die ich irgendwie merkwürdig fand. Beispiele? „So cool, den Guru des Themas X mal live zu sehen“. „Was der mit X schon geschafft hat, ist echt krass“ oder „Ich hab gehört, der hat mal X – ob er davon später berichtet?“ Irgendwie irritierend. Außerdem waren die ‚Nicknames‘ der Chattenden teilweise schräg, manche nach dem Muster „Biene86“ oder „BinHierUndercover“. Ich selbst fand aber keine Möglichkeit, selbst einen Namen für mich zu wählen. Nach fünf Minuten schrieb dann jemand im Chat „Könnt ihr mal aufhören, hier zu chatten? Kann mich gar nicht konzentrieren“. Ich würde behaupten, dass ich echt schon viele Webinare besucht habe, doch ein solcher Kommentar war mir noch nie begegnet. Nach ein paar weiteren merkwürdigen Kommentaren im Chat beschloss ich, mich selbst auch einzubringen. Ich schrieb (auch wenn es nicht der Wahrheit entsprach): „Manchmal ist der Ton bei mir weg. Geht es jemand anderem auch so?“ Normalerweise reagiert auf eine solche durchaus standardmäßige Bemerkung immer irgendjemand. Doch niemand reagierte darauf. Stattdessen ging es mit merkwürdigen Chatnachrichten weiter. So langsam aber sicher hatte ich das Gefühl, dass auch dieser Chat KI-generiert sei – quasi ein sorgfältig inszeniertes Theaterstück, das ich da sah. Deshalb startete ich nochmals einen Anlauf und schrieb in den Chat „Das hier ist doch alles KI-generiert und Ihr seid alle nicht echt“. Das war nun also mein Lackmustest. Und was soll ich sagen? Auch darauf reagierte niemand. Was die KI-Stimme aus der Dose sagte, hatte ich schon längst nicht mehr mitbekommen – stattdessen hatte ich eine Art ‚Detektionswut‘ entwickelt und wollte die Farce, die mir hier vorgespielt wurde, entlarven. Ich schloss das Browser-Fenster und klickte nochmals neu auf den Link aus der Mail. Und tada: Alle Chat-Nachrichten der ‚anderen‘ waren noch da, nur meine beiden waren verschwunden. So ein Zufall aber auch … Das Ende des Liedes war, dass ich das Webinar nach 12 Minuten endgültig verließ und mich emotional irgendwo zwischen wütend, verärgert, verstört und belustigt befand.
Was nehme ich daraus nun mit? Zum einen werde ich mich sicher nicht mehr an diese Organisation wenden und würde sie auch niemandem weiterempfehlen. Sie haben also eine (potenzielle) Kundin dadurch verloren (das Webinar war kostenlos, es hätte sich vielleicht aber auch mehr daraus ergeben). Zum anderen merke ich, dass ich mich richtig getäuscht fühle und mich dies nicht kalt lässt. Wenn ich mich frage, warum ich mich so getäuscht fühle, kommt direkt die Antwort: weil alles mir eine Realität suggerieren sollte, die so gar nicht existierte. Der Fake-Chat hat dem noch die Krone aufgesetzt. Und ich frage mich natürlich, weshalb sich der Anbieter dafür entschieden hat. Warum nicht einfach das Webinar einmal durchführen, aufzeichnen, und dann zur Verfügung stellen? Und wenn schon KI-generiert, dann doch bitte nicht so schlecht hinsichtlich ‚Tonauthentizität‘ und erst recht nicht hinsichtlich gefaktem Chat.
Gerade bei Lernformaten im KI-Zeitalter ist das für mich ein wichtiger Punkt. Wenn ich an einem Webinar teilnehme, dann will ich nicht nur Informationen ‚entgegennehmen‘. Ich will mich auf eine Person einstellen können. Ich will merken, ob jemand einen Gedanken gerade entwickelt oder nur abspult. Ich will hören, wo jemand unsicher wird, abschweift, etwas präzisiert oder auf eine Nachfrage reagiert. Genau darin liegt ja oft der eigentliche Wert solcher Formate. Sonst kann ich auch einen Text lesen oder mir ein zusammengeschnittenes Video anschauen. Im Falle des von mir besuchten Webinars wurde KI nicht dafür eingesetzt, ein Lernangebot besser, zugänglicher oder effizienter zu machen, sondern dafür, den Eindruck von Echtheit künstlich herzustellen.
Ich finde das auch deshalb ärgerlich, weil es so unnötig ist. Es wäre doch überhaupt kein Problem gewesen, offen zu sagen: Das hier ist ein aufgezeichnetes Format. Oder: Das ist ein KI-gestützter Avatar, der Inhalte standardisiert vermittelt. Man hätte dann immer noch entscheiden können, ob man das nützlich findet oder nicht. Der Unterschied wäre nur gewesen: Ich wäre nicht getäuscht worden. Transparenz ist an dieser Stelle für mich die Mindestvoraussetzung dafür, dass überhaupt Vertrauen entstehen kann.
Für Lernformate heißt das aus meiner Sicht: KI kann dort sinnvoll sein, wo sie Zugang erleichtert, Inhalte strukturiert, Material personalisiert oder Wiederholungsschleifen ermöglicht. Schwierig wird es in dem Moment, in dem sie Beziehung fälscht. Denn Lernen ist eben nicht Informationsübertragung, sondern hat Aufmerksamkeit, Vertrauen und einer als echt wahrgenommenen Ansprache zu tun.
Und wo wir beim Thema „Ehrlichkeit über die Herstellungsweise von Produkten“ sind: In einer Runde mit HR-Verantwortlichen diese Woche berichtete eine Person, dass bei ihnen im Unternehmen inzwischen immer häufiger nach dem Weg zum Ergebnis gefragt wird. Also nicht nur danach, ob ein Text, eine Präsentation oder ein sonstiges Produkt gut ist, sondern auch danach, wie es zustande kam, welches KI-Produkt dafür genutzt wurde, wie der Prompt lautete. Ich fand das sehr bemerkenswert, weil sich hier gerade ein Interesse am Prozess zeigt, das es in dieser Form lange nicht gab.
Vielleicht schwappt hier tatsächlich etwas aus dem Hochschulkontext in die Wirtschaft über. Dort ist die Frage nach der Genese eines Ergebnisses ja naheliegend: Wer hat was selbst gedacht, selbst formuliert, selbst strukturiert? Im Unternehmenskontext war das bislang viel seltener bis kaum Gegenstand expliziter Nachfragen. Vor KI hat mich jedenfalls kaum jemals jemand gefragt, wie ich genau einen Text geschrieben oder eine PowerPoint gebaut habe. Am Ende zählte das Produkt. Jetzt scheint sich das zu verschieben und plötzlich interessiert man sich auch außerhalb von Prüfungsformaten für den Entstehungsprozess.
Ich glaube, dahinter steckt mehr als bloße Neugier. Es gibt offenbar ein sehr menschliches Bedürfnis, nachvollziehen zu können, wie ein Ergebnis zustande gekommen ist, wenn eine künstliche Intelligenz daran beteiligt war. Vielleicht, weil man Qualität besser einschätzen will, vielleicht, weil man Verantwortlichkeit klären will. Vielleicht auch, weil man spürt, dass sich die Beziehung zwischen Person, Werkzeug und Ergebnis gerade grundlegend verändert. Sobald KI im Spiel ist, reicht das fertige Produkt vielen offenbar nicht mehr als ‚letzte Wahrheit‘. Ich bin jedenfalls gespannt, wie hier die Entwicklung weitergeht.
