Woran datenzentrierte KIs wie ChatGPT scheitern - und wer ihnen nachfolgt

Mensch, was muss sich Lee Se-dol ärgern. Der einst weltbeste Go-Spieler erklärte 2019 seinen Rücktritt vom professionellen Betrieb des Brettspiels, weil die neuen Go-spielenden KI-Programme unschlagbar seien. Jetzt, dreieinhalb Jahre später, muss er miterleben, wie ein eher mittelmäßiger Spieler einer GO-KI ordentlich den Hintern versohlt. Der Amateur hatte die Mustererkennung ausgetrickst, indem er im Prinzip strategisch sinnlose, taktisch nicht zu erklärende Züge machte (die ganze Geschichte bei den Kollegen von Basic Thinking   ). Was sagt das über KI und Daten?

Noch eine Folge aus der Reihe: KI vergeigt es richtig dolle. Es ist schon wieder eine Geschichte mit dem tragischen Helden Microsoft im Mittelpunkt.

In einem zweistündigen Dialog mit einem Reporter, der die KI in der Suchmaschine Bing   austestete, wurde der Bot schließlich zum Stalker und erklärte dem Journalisten die Liebe, außerdem setzte es eine Aufforderung an den Nutzer, sich doch vom Lebenspartner zu trennen. Einem Uni-Professor drohte er laut Tagesschau.de   mit den Worten "Ich kann dich erpressen, ich kann dir drohen, ich kann dich hacken, ich kann dich bloßstellen, ich kann dich ruinieren." Kommt jedem bekannt vor, der schon mal mehr als eine Stunde im Social Web verbracht hat.

Man könnte glatt meinen, Chatbots seien gar nicht intelligent, sondern kopierten nur Sprachbausteine aus Quellen wie etwa sozialen Medien.

Jedenfalls zog Microsoft  die Reißleine, mit einer bezeichnenden Änderung - der Bot bekommt kein Update, sondern die Nutzung wird drastisch eingeschränkt: Maximal fünf Prompts (also dialogische Eingaben an den Bot) pro Session, maximal 50 insgesamt pro Tag. Die Limitation auf maximale Prompts pro Sitzung und maximale Sitzungen pro Tag hat einen guten Grund: Das Ding taugt einfach noch nichts. Es ist so, als ob einem der Makler eine Wohnung nur zehn Minuten am Tag und immer um 12.30 Uhr zeigt, damit man nicht merkt, dass außerhalb dieses Zeitfensters rund um die Uhr Güterzüge unter dem Schlafzimmerfenster verkehren.

Der Microsoft-Bot ist eben eine datenbasierte KI, die schnell an das Ende ihrer Ressourcen stößt, während die deutlich komplexeren modellbasierten KIs, die etwa unser Wetter vorhersagen, besser funktionieren. Nur: Die sind halt aufwendig und teuer, wie ein 5-Gänge-Menü - was viele aktuell zum Fast-Food-Bot namens Chat GPT greifen lässt.

Und hier stoßen wir auf das Basisproblem, das ChatGPT und Co nicht nur anfällig, sondern sogar gefährlich macht - aber eben anders als alle Welt aktuell denkt und berichtet: Die KIs sind kriminell dumm. Sie sind rein datenfokussiert und irgendwann lesen sie Nonsens in den Daten. Das kann dann Shops KundInnen und Unternehmen Millionen kosten.

Was das mit unserem aktuellen, naiven Umgang mit Daten zu tun hat und wieso datenbasierte KIs sind wie Bibliothekare, während modellbasierte KIs wie Ingenieure sind, darum geht es im Vodcast mit iBusiness-Analyst Sebastian Halm und Herausgeber Joachim Graf .

📹	Modellhaft: Alle Videopodcasts von iBusiness finden Sie übersichtlich zusammengestellt auf iBusiness.de/videopodcasts/  .