Manchmal frage ich mich, ob mein Hintergrund als Datenanalystin mich davor schützt, auf den Marketing-Hokuspokus rund um Künstliche Intelligenz hereinzufallen, oder ob er mich im Gegenteil daran hindert, die vermeintliche „Magie“ hinter KI und KI-Agenten zu sehen. Diese Ambivalenz begleitet mich seit Jahren. Und selten wurde sie mir so deutlich vor Augen geführt wie in den letzten Wochen.
Ein aktuelles Beispiel: Die Plattform „Rent A Human“. Als ich zum ersten Mal davon hörte, war ich irritiert. Die Story klang so absurd, dass ich sofort misstrauisch wurde. KI-Agenten, die angeblich echte Menschen „mietet“, um Aufgaben zu erledigen? Das roch nach einem PR-Stunt oder einem schlechten Scherz. Also habe ich recherchiert – und tatsächlich einen ARD-Podcast dazu gefunden. Eine seriöse Quelle, dachte ich. Wenn sogar öffentlich-rechtliche Journalistinnen und Journalisten darüber berichten, muss doch etwas dran sein.
Aber nein. Auch sie waren einem Fake aufgesessen. Hinter „Rent A Human“ stecken vor allem Humans, die sich als KI-Agenten ausgeben, wie DIE ZEIT berichtete.
Dieser Moment war für mich ein Déjà-vu: Wieder einmal zeigt sich, wie leicht selbst erfahrene Profis auf gut gemachte KI-Mythen hereinfallen. Und wie wichtig es ist, nicht nur technische Kompetenz zu haben, sondern vor allem Datenkompetenz – die Fähigkeit, einzuordnen, wie KI-Systeme funktionieren, was sie können und was eben nicht.
Genau hier setzt Katharina Zweigs neues Buch „Weiß die KI, dass sie nicht weiß?“ an. Und es kommt zur richtigen Zeit.
Zweig schafft es wie kaum eine andere, die Mechanik hinter großen Sprachmodellen (LLMs) und KI-Agenten verständlich zu erklären – ohne technische Vorkenntnisse vorauszusetzen und ohne in Alarmismus oder Euphorie zu verfallen. Sie nimmt die Leserinnen und Leser mit hinter die Kulissen der Systeme, die heute so selbstverständlich wirken, aber im Kern erstaunlich simpel funktionieren.
Was mir besonders gefällt: Sie entzaubert KI, ohne sie kleinzureden. Sie zeigt, wie beeindruckend die Ergebnisse sein können – und gleichzeitig, warum diese Systeme trotzdem nicht „wissen“, was sie tun. Genau diese Kombination aus Bewunderung und kritischer Distanz fehlt in vielen öffentlichen Debatten.
Nach der Lektüre musste ich wieder einmal feststellen: Ja, auch ich bin oft überrascht, wie gut KI-generierte Texte klingen. Manchmal so gut, dass man fast vergisst, wie sie entstehen. Aber ich bin ebenso erstaunt, wie viele Menschen LLMs immer noch zutrauen, inhaltlich korrekte Arbeit zu leisten. Dabei sind sie dafür schlicht nicht gebaut. Und deshalb halte ich auch nichts vom beliebten Argument, dass es nur „NOCH NICHT“ ginge. Es suggeriert, dass es nur eine Frage der Zeit sei, bis KI zuverlässig und fehlerfrei wird – doch das ignoriert grundlegende technische Prinzipien.
Ein besonders spannender Teil des Buches widmet sich der Frage, ob KI-Systeme zu echtem Reasoning fähig sind. In der Forschung herrscht darüber Uneinigkeit. Manche sehen in den Modellen bereits erste Anzeichen von logischem Denken, andere halten das für eine Illusion, erzeugt durch statistische Muster und gigantische Datenmengen.
Zweig positioniert sich klar: Sie führt Argumente an, warum LLMs zu keinem echten Reasoning fähig sind – und zeigt gleichzeitig auf, welche Argumente den Pro-Reasoning-Verfechtern ihrer Meinung nach fehlen. Diese Differenzierung ist wohltuend in einer Debatte, die oft von Extremen geprägt ist: Die einen sehen KI kurz vor dem Bewusstsein, die anderen halten sie für glorifizierte Autovervollständigung.
Die Wahrheit liegt, wie so oft, dazwischen. Und Zweig hilft, diese Mitte zu erkennen.
Ein weiterer wichtiger Punkt im Buch ist das große Missverständnis zwischen Informatikerinnen und Informatikern auf der einen Seite und „dem Rest der Welt“ auf der anderen. Begriffe wie „Intelligenz“, „Lernen“ oder „Verstehen“ haben in der Informatik eine völlig andere Bedeutung als im Alltag. Doch Marketingabteilungen nutzen diese Mehrdeutigkeit gern aus – und plötzlich glauben Menschen, KI könne Dinge, die sie nie versprochen hat.
Meine persönliche Anmerkung dazu: Das ist kein reines Informatikproblem. In der Forschung können wir immer nur einen Ausschnitt der Realität abbilden. Begriffe müssen eng definiert werden, damit sie messbar und operationalisierbar sind. Doch sobald diese Begriffe in den Alltag wandern, verlieren sie ihre Präzision – und schaffen Raum für Missverständnisse.
Das Beispiel „Rent A Human“ zeigt, wie schnell wir auf KI-Mythen hereinfallen können – selbst dann, wenn wir uns eigentlich gut auskennen. Und Zweigs Buch zeigt, warum Datenkompetenz die Grundlage jeder KI-Kompetenz ist. Wer versteht, wie Daten entstehen, wie Modelle trainiert werden und wo ihre Grenzen liegen, ist weniger anfällig für Hype, Angst oder Wunschdenken.
Zu der Frage, ob man KI-Agenten jemals seine Kreditkartennummer geben sollte, hat Katharina Zweig eine klare Meinung. Allerdings möchte ich diese an dieser Stelle nicht verraten – denn dieser Erkenntnismoment gehört den Leserinnen und Lesern des Buches selbst.
Was ich aber verraten kann: Dieses Buch ist ein wichtiger Beitrag zu einer Debatte, die uns alle betrifft. Denn KI wird nicht verschwinden, aber unser Umgang damit entscheidet, ob sie uns stärkt oder schwächt.
Eure Carina
