Der Geldverbrenn-Algorithmus. Oder: Warum bei KI das Problem vor dem Monitor sitzt

"Tools sind gefährlich. Zumindest dann, wenn diese nicht kontrolliert werden können", argumentieren iBusiness-Analyst Sebastian Halm und iBusiness-Herausgeber Joachim Graf . Vor allem eben im Hinblick auf Magie, Zauberei beziehungsweise im aktuellen Marketingsprech: "Künstliche Intelligenz". Ihre Begründung für diese These? "Lösen Sie doch mal im Leerlauf die Handbremse Ihres Autos, wenn es am Berg steht und steigen Sie aus."

Maschinen (und dazu zählen auch digitale Maschinen) sind nur so gut wie der Mensch, der sie kontrolliert. Das gilt um so mehr, je komplexer die Abläufe sind, die besagte Maschine durchführen will. Das Problem: Die Marketingabteilungen sind gar nicht dafür ausgelegt, komplexe Maschinen zu steuern. Geschweige denn sind die Verantwortlichen mehrheitlich in der Lage, zu verstehen, was ihre Maschinen treiben - egal, ob sie diese Maschinen "KI", "AI" oder "Machine-Learning-Systeme" nennen.

Im Videopodcast präsentieren wir aktuelle KI-Fallstricke. Wir analysieren, warum das Problem von Künstlicher Intelligenz vor allem in seinem biodynamischen Interface liegt - also außerhalb der digitalen Welt. Und wir besprechen die fünf Probleme beim Einsatz integrierter KI-gestützter Marketingsysteme:

1. Das Excel-Desaster: Wer schon einmal mit einer Excel-Tapete gearbeitet hat, kennt das Problem. Man entwickelt Formeln und Formeln, die mit Formeln arbeiten. Über Zeilen, Spalten, Arbeitsblätter, Dateien hinweg. Und nach vielen Stunden oder Tagen stellt man beim konsolidierenden Balkendiagramm fest: Das kann nicht sein. Negative Personentage? Umsatzrekorde bei nicht lieferbaren Produkten? Minderjährige, die schwerpunktmäßig Zigarren oder Rollatoren bestellen? Dann sucht man über Zeilen, Spalten, Arbeitsblätter, Dateien hinweg, wo Korrelationen vertauscht sind, Vorzeichen falsch eingegeben oder Zähler und Nenner vertauscht wurden. Gut, wenn man den gesunden Menschenverstand angeschaltet hatte. Schwieriger allerdings ist es, wenn alles scheinbar richtig ist. Dann greift:
   
   
2. Der Confirmation BIAS: Ich erwarte, dass meine SEA-Kampagne erfolgreich ist. Wenn die Maschine genau dieses von mir erwartete (und erwünschte) Ergebnis ausspuckt - warum soll ich dann noch den wohlmeinenden Algorithmus kontrollieren?
   
   
3. Die Wohlmeinenden-Illusion: Vor allem digital affine Menschen sitzen oft dem Irrglauben auf, dass ein auf Ratio optimierter Algorithmus objektiv richtige Ergebnisse liefern muss. Wäre das so, dann würde Google stets die Seiten oben in der SERP anzeigen, die besonders relevant sind - und nicht die, für die besonders viel SEO-Budget ausgegeben worden ist.
   
   
4. Die Tools-Tourette: Es ist die Mantra der Digitalen Transformation, dass - wer einen Scheißprozess digitalisiert - eben einen digitalen Scheißprozess bekommt. Warum dieselben Leute dann glauben, dass ein Tool strukturelle Probleme beseitigt (statt sie nur zu beschleunigen) - das wird sich mir nie erschließen.
   
   
5. Die Hidden Agendas: Doch auch die einsetzenden Menschen können zum Problem werden. Wenn der Confirmation-BIAS als Karriere-Boost eingesetzt wird. Wenn eine Maschine (für das Unternehmen) falsche Ergebnisse liefert, die aber durchaus (von den Zuständigen) so erwünscht sind, weil sie zum Beispiel Erfolge vorgaukeln - dann müssten die Vorgesetzten wissen, wie die Maschinen arbeiten. Sehr komisch, so eine Vorstellung.

Das Fazit der beiden: Je mehr intransparente Tools, um so gravierender werden sich Auswirkungen bemerkbar machen. Die Aufgabe wird künftig sein, hier Problembewusstsein zu vermitteln.

📹	Alle Videopodcasts von iBusiness finden Sie ab sofort übersichtlich zusammengestellt auf iBusiness.de/videopodcasts/  .