Wird 2024 das Jahr, in dem Künstliche Intelligenz in Unternehmen produktiv wird?

(01.02.2024) Drei Aspekte werden die Entwicklung der künstlichen Intelligenz in diesem Jahr prägen. Aber nur einer davon entscheidet darüber, wie Unternehmen sie einsetzen werden.

Das Ende der KI, wie wir sie kennen

(09.01.2024) Wenn man sich die aktuelle KI-Wasserstandsmeldungen allein in den ersten Tagen dieses Jahres liest, sieht man, wie wichtig Qualitätskontrolle künftig sein wird.

Das Ende der KI, wie wir sie kennen

(09.01.2024) Wenn man sich die aktuelle KI-Wasserstandsmeldungen allein in den ersten Tagen dieses Jahres liest, sieht man, wie wichtig Qualitätskontrolle künftig sein wird.

Wer in den Homecomputerzeiten der 80er und 90er Jahren des vergangenen Jahrhunderts aufgewachsen ist, der erinnert sich vielleicht noch an die Diskussionen über den damaligen Megatrend "Computergrafik". Kaum ein Zeitschriftenbericht, kaum ein Vortrag über Computertechnik kam ohne die Beschreibung über die neuen Superfähigkeiten des zu beschreibenden Produkts in Sachen Computergrafik aus. Kann man sich heute kaum vorstellen - Computer ohne Grafik gibt es schließlich nicht mehr.

Mit dem Thema "Künstliche Intelligenz" wird sich das genauso verhalten - und das Jahr 2024 wird der Kipppunkt werden. 2024 werden wir über KI-Anwendungen sprechen, nicht länger über KI-Technik. Wer Ende dieses Jahres seine Software anpreist mit "die kann auch KI" wird vermutlich von der Mehrheit genau so komisch angesehen, wie die Vertriebsleute, die versuchen, ihre Software mit dem Alleinstellungsmerkmal "internetfähig" zu verkaufen. Oder mit Computergrafik.

Die Diskussion über KI dieses Jahr wird also nicht von glänzenden Verkäuferaugen bestimmt, sondern von dem Nutzen, den (Mustererkennungs-)Algorithmen für Unternehmen tatsächlich haben. Egal, ob diese "künstlich" (nein) oder "intelligent" (auch nein) sind. In diesem Zusammenhang sind zwei Forschungsergebnisse spannend, die diese Woche veröffentlicht worden sind:

• Nicht intelligent: Eine aktuelle Studie der DHBW Stuttgart am Studienzentrum Dienstleistungsmanagement hat die Fähigkeit der Künstlichen Intelligenz (KI) zur Erkennung diskriminierender Inhalte in Bildern und Werbeanzeigen untersucht. Dabei wurde der KI Werbeanzeigen vorgelegt, die der Deutsche Werberat in der jüngeren Vergangenheit als diskriminierend gerügt hatte. Diese Sexualisierung und Stereotypen hat die KI erkannt. An die Grenzen stieß die KI jedoch bei der Identifizierung komplexerer Formen der Diskriminierung, wie der Objektivierung, der Respektlosigkeit sowie des Machtmissbrauchs. Trainierte Muster also ja, Ableitungen davon also nein - Mustererkennungsalgorithmen sind eben nicht intelligent.
  
  
• Nicht künstlich: KI-basierende Sprachmodelle enthalten implementierte Moral- und Wertevorstellungen, allerdings in der Regel nicht transparent. Das haben Forschende der Universität Mannheim und des Leibniz-Instituts für Sozialwissenschaften in einer neuen Studie anhand einer Reihe von offen verfügbaren LLMs aufgezeigt. Die Studie zeigt, dass man psychometrische Tests, die seit Jahrzehnten erfolgreich bei Menschen angewendet werden, auch auf KI-Modelle übertragen kann. Die Forschenden konnten beispielsweise bestätigen, dass manche Modelle genderspezifische Vorurteile reproduzieren, was bei KI-basierten Bewerbungsverfahren zur Verfestigung von Rollenvorurteilen führen könne. Weil KI eine gesellschaftliche Relevanz über die Kontexte bekommt, in denen sie eingesetzt werden, müssen die von Menschen eingebauten potenzielle Verzerrungen in der KI jetzt ausgemerzt werden.

KI wird wohl nicht deswegen gefährlich, weil sie sich vom Menschen emanzipiert - sondern weil sie menschliche Fehler viel schneller und effektiver wiederholt. 2024 wird auch das Jahr, in der wir über KI-Kontrolle sprechen müssen. Allerdings anders, als die Terminator-Träumer uns weismachen wollen.
Ihr Joachim Graf

PS: iBusiness Executive Briefing ist ein exklusiver Service von iBusiness und erscheint Dienstag und Donnerstag. Sie können es auch als Webversion lesen

Warum der "Brüssel-Effekt" bei der KI-Regulierung funktionieren wird

(14.12.2023) Mit einem risikobasierten Ansatz will die EU Licht in die Blackboxen der Künstlichen Intelligenz bringen. Das reiht sich ein in den Ansatz, der auch schon bei DSGVO und zuletzt beim Schufa-Urteil deutlich wurde. Und er wird wohl gelingen.

Warum der "Brüssel-Effekt" bei der KI-Regulierung funktionieren wird

(14.12.2023) Mit einem risikobasierten Ansatz will die EU Licht in die Blackboxen der Künstlichen Intelligenz bringen. Das reiht sich ein in den Ansatz, der auch schon bei DSGVO und zuletzt beim Schufa-Urteil deutlich wurde. Und er wird wohl gelingen.
Der vergangene Woche von der EU auf den Weg gebrachte Artificial Intelligence Act ist das erste seiner Art in der Welt (Details dazu hat mein Kollege Sebastian Halm hier zusammengestellt: "Das steht im Artificial Intelligence Act der EU").

"Ein historischer Moment" nannte es Kommissionspräsidentin Ursula von der Leyen {Ursula von der Leyen}. Mit dem KI-Gesetz würden "die europäischen Werte in eine neue Ära überführt".

Auch wenn man es rhetorisch gerne eine Nummer kleiner möchte: Die Richtung stimmt schon. Mit dem Gesetz soll die Nutzung und Herstellung von KI-Systemen abhängig von ihrem Risiko für Menschen EU-weit Regelungen unterliegen. Je gefährlicher für die Gesellschaft und je größer das Unternehmen, um so strikter sollten diese ausfallen.

Im Kern ist es eine gute Entscheidung. Der vorgesehene risikobasierte Regulierungsansatz ist richtig, der KI anhand ihres Risikos für Sicherheit, Gesundheit und Grundrechte kategorisiert. Er wird erlauben, Grenzen und Verbote zu definieren, ohne Forschung und Entwicklung zu strangulieren. Oder wer möchte schon, dass in Europa ein chinesisches "Social Scoring" legal wird - oder eine Richter-KI wie in den USA?

Mit diesem Ansatz löst die EU auch das Problem, wie man mit General-Purpose-KIs umgehen soll und den darauf aufsetzenden Anwendungen. Das abgestufte Regelkonzept in Abhängigkeit vom systemischen Risiko setzt auf dem Primzip auf "entscheidend ist, was hinten rauskommen kann". Die für alle General-Purpose-KIs geplanten Transparenz- und Dokumentationspflichten sind wichtig, weil sie das Primat der Politik von Unternehmen in einem Feld zurückgewinnen, der für das Funktionieren der Gesellschaft unabdingbar ist.

Mit diesen im Gesetz schon sehr frühzeitig festgezurrten Leitlinien wird das eintreten, was man bei der DSGVO schon beobachten konnte: Ein globaler Brüssel-Effekt, der dafür sorgt, dass sich aktuell die Vorstellung von sehr vielen Ländern an dem europäischen Datenschutzkonzept orientiert. Dadurch setzt sich das Recht auf informelle Selbstbestimmung auch in Ländergesetzgebungen durch, für die dieser Aspekt bislang nicht im Kern der gesellschaftlichen Diskussion stand.

Die KI-Einigung zeigt im übrigen in dieselbe Richtung wie das Urteil des EuGH zum Schufa-Scoring am Tag davor. Der EuGH hatte geurteilt, dass das Scoring dann gegen europäisches Datenschutzrecht verstößt, wenn der Algorithmus die einzige Grundlage für die Entscheidung darstellt, zum Beispiel einen Kredit abzulehnen. In beiden Fällen ist es EU-Rechtsmeinung, dass es immer ein Mensch sein muss, der eine Entscheidung trifft - nie eine Maschine. Und diese Rechtsmeinung wird sich wohl international durchsetzen - wie man nach den Erfahrungen mit der DSGVO vermuten darf.

Ihr Joachim Graf
Herausgeber

PS: Das iBusiness Executive Briefing als Webversion enthält weitergehende Links und Charts.

Die aufgeblasene KI-Revolution: Was vom ChatGPT-Update zu halten ist

(10.11.2023) Turbo! Eigene Bots programmieren! 300 Seiten prompten! Alles wird anders! Gebt uns euer Geld, damit wir euch beraten! Hype, hype, Hurra! - Okay: Was bedeuten die Updates, die OpenAI vornimmt, wirklich?

KI-Systeme bedrohen die IT-Sicherheit. Oder eher im Gegenteil?

(02.11.2023) Mehr als jedes dritte Unternehmen ist überzeugt, KI kann Cyberangriffe abwehren. Andererseits glauben 57 Prozent der Unternehmen, dass Angreifer aus dem Internet dank KI noch stärker werden.