Angst vor Schatten-KI hemmen KI- Einführung
Kein Bot auf KI? Bedenken hinsichtlich Schatten-KI und Regularien verzögern Einführung von GenAI-Tools
Rechtliche Unsicherheiten und Richtlinien behindern die Einführung von GenAI in DACH-Unternehmen
Nur 3 Prozent der Unternehmen im DACH-Raum beschreiben sich als fortgeschritten bei der Einführung generativer KI (GenAI). Das zeigt eine aktuelle Lünendonk-Studie. Trotz hohem Potenzial und zahlreichen Anwendungsfeldern ist die Skepsis gegenüber der neuen Technologie bei Anwendern wie Entscheidern hoch. Unsicherheit und die Angst vor Schatten-KI hemmen die Einführung. Gleichzeitig erhofft sich jedes zweite Unternehmen durch GenAI Hilfe bei der digitalen Transformation. Für Handelsunternehmen sind vor allem Anwendungen im Umfeld von E-Commerce und Marketing relevant. Das IT-Beratungshaus KPS sieht in aktivem Change-Management und der strukturierten Einführung den Schlüssel, um Potenziale von GenAI zu heben.
Fast jeder zweite CIO (46 Prozent) erachtet generative KI als relevant. Das größte Potenzial sehen die Befragten im konzeptuellen Arbeiten (85 Prozent), der Datenanalyse und Prognosen (80 Prozent), in digitalen Services (71 Prozent) sowie Chatbots (68 Prozent). Die Anwendungsfälle sind jedoch häufig noch Zukunftsmusik. Die Hälfte der befragten Unternehmen steht noch am Anfang bei der Identifizierung von Use Cases. "Unternehmen, die aktiv mit KI arbeiten, werden Unternehmen abhängen, die keine KI einsetzen. Gleichzeitig gehen mit der Implementierung viele Herausforderungen einher, von einer Schatten-KI bis hin zu Compliance-Fragen. Dieses Spannungsfeld von Risiken und Regularien gilt es abzubauen", ordnet Paul Anderie, Head of AI & Data Activation bei der KPS AG, ein.
Risiko einer Schatten-KI: Unstrukturierte Einführung und unbegrenzter Zugriff
Die Einführung von KI-Tools erfolgt selten zentral gesteuert durch die Geschäftsleitung (28 Prozent) oder einem CIO und der IT (19 Prozent); 15 Prozent sehen die Verantwortung in den einzelnen Fachbereichen. In nur sieben Prozent liegt die Verantwortung bei einem dedizierten Chief Data oder Chief Digital Officer. Bei einem Drittel der befragten Unternehmen fällt diese Aufgabe einzelnen Mitarbeitenden zu. "In der DACH-Region wird generative KI weniger strategisch gedacht als vielmehr ‚einfach gemacht‘. Das ermächtigt die Fachabteilungen, öffnet aber auch komplexe Fragestellungen hinsichtlich der Zugriffsrechte", so Paul Anderie. Auch bei internen Regularien zeigt die Studie deutliche Unterschiede auf: 35 Prozent der Unternehmen gestatten nur ausgewählten Bereichen und Funktionen Zugriff auf GenAI-Tools, während in einem Drittel der Unternehmen jeder Mitarbeitende uneingeschränkten Zugriff hat.
"Gerade die Kombination aus uneingeschränktem Zugriff für alle Mitarbeitenden und dem Fehlen einer strategischen, top-down-getriebenen Implementierung mit festgelegten Regeln und Schulungen für die Mitarbeitenden kann zu einer Schatten-KI führen. Das birgt Risiken wie Anwendungsfehler und falsche Ergebnisse, aber auch Verstöße gegen Compliance-Richtlinien oder die Data-Governance. Gleichzeitig sollte der Innovationsgeist von engagierten Mitarbeitenden nicht erstickt werden", weiß Paul Anderie.
KI-Skepsis vorherrschend: Fehlendes Vertrauern als Hemmschwelle
Tatsächlich zeigt die Studie diese Aspekte als größte Bedenken in Hinblick auf GenAI auf: In 59 Prozent der Unternehmen haben die Mitarbeitenden geringes oder sehr geringes Vertrauen in die durch GenAI-Tools erzeugten Ergebnisse, nur 7 Prozent vertrauen voll und ganz darauf. Gleichzeitig beobachtet über die Hälfte der Befragten derzeit nur geringe Produktivitätssteigerungen durch die Technologie. Anwendern ist der Nutzen der Technologie häufig noch nicht klar.
Führungspersonal (CIO, IT-Leiter, Vorstände, Geschäftsleitung, Fachbereichsleiter) hat vor allem rechtliche Bedenken über die Konsequenzen falscher KI-generierter Ergebnisse (71 Prozent) und fürchtet Haftungsrisiken gegenüber Entscheidungen durch die KI (70 Prozent). Auch unzureichende Data Governance (54 Prozent) und eigene Compliance-Vorgaben (43 Prozent) beschäftigen Führungspersonen. In Summe ist in 13 Prozent aller Unternehmen der Einsatz von generativer KI nicht zugelassen – der überwiegende Hauptgrund dafür ist mit 58 Prozent Compliance und Regulatorik.
"Viele unserer Kunden berichten von fehlendem Wissen darüber, welche regulatorischen Bestimmungen gelten oder wie mit Datenschutzfragen umgegangen wird. Gesetze wie der EU AI Data Act bieten die Chance, klare Regeln für den Einsatz von KI-Technologien in der EU aufzustellen und Sicherheit und Vertrauen für Unternehmen zu schaffen. Auch im Unternehmen sind Richtlinien wichtig, um das Vertrauen der Mitarbeitenden in die Ergebnisqualität zu stärken und Probleme wie Data-Governance-Verletzungen zu vermeiden. Hier stehen wir in manchen Branchen jedoch noch am Anfang. Ganze 40 Prozent der befragten Handelsunternehmen kennen zum Beispiel den EU AI Data Act nicht, nur 8 Prozent arbeiten an der Umsetzung."
GenAI im Handel: Der Mensch im Mittelpunkt
Dabei bietet vor allem die Branche Handel viele Anwendungsfelder für GenAI. Zu den Top drei Anforderungen zählen eine bessere Kundenzentrierung, mehr Agilität und Flexibilität und die Beschleunigung der Transformation. "Besonders beliebte Use Cases für Handelsunternehmen finden sich im E-Commerce und im Marketing. Beispiele sind personalisierte, KI-gestützte Produktempfehlungen, automatisch generierter Content oder Predictive Pricing", ordnet Paul Anderie ein. "Die Branche steht GenAI aktuell jedoch noch skeptisch gegenüber, nur ein Bruchteil traut sich an die Entwicklung eigener trainierter Modelle heran."
Ein gutes Drittel (36 Prozent) der befragten Unternehmen im Handel sieht eine gewisse Relevanz von GenAI für ihre Branche, die Restlichen schätzen die Relevanz als niedrig oder sehr niedrig ein. Zudem lässt ein im Branchenvergleich hoher Anteil von 24 Prozent aller Handelsunternehmen die Nutzung von GenAI bisher gar nicht zu. Ein Grund dafür ist das zu erwartende hohe Investment in GenAI-Projekte, deren Return on Investment aktuell noch nicht klar ist. Zudem sehen 24 Prozent die Technologie als Gefahr für das eigene Geschäftsmodell. Mit klar definierten Startprojekten und Proofs of Concepts (PoC) können Unternehmen einen Mehrwert schaffen und Erfahrungswerte sammeln, weiß beispielsweise die Baumarktkette Globus, ein Kunde der KPS AG.
"KI ist allgegenwärtig und jeder hat bereits erste Berührungspunkte, aber der Nutzen lässt sich noch nicht genau quantifizieren, weshalb viele – nicht zuletzt aufgrund der Investitionen, die mit der Einführung von KI verbunden sind – doch noch skeptisch sind", kommentiert Christian Becker, Fachbereichsleiter Solution Architecture, Koordination GLOBUS Holding GmbH & Co. KG. "Wir sind bewusst mit einem PoC rund um GenAI gestartet, um die Thematik griffiger zu machen, die Mehrwerte herauszuarbeiten und die ersten Schritte zu initiieren, bevor wir es in die Fachabteilungen tragen."
"Der Einsatz von neuen Technologien führt immer dazu, dass Mitarbeiter sich – bewusst oder unbewusst – fragen, welchen Einfluss das auf sie und ihren Arbeitsplatz haben wird und somit immer eine gewisse Skepsis gegenüber den Neuerungen mitschwingt," so Bert Middendorb, Director E-Commerce bei GALERIA Karstadt Kaufhof GmbH i.I., über den Einsatz von GenAI.
"Die wichtigsten Erfolgsfaktoren für die erfolgreiche Implementierung sind ein strukturiertes Vorgehen und gutes Change-Management: Man muss die Menschen mitnehmen, die aktuell für die Prozesse zuständig sind. Am Ende geht es meist weniger um die Technologie, sondern viel mehr um den Menschen dahinter. Mit unserer langjährigen Erfahrung in IT-Change-Management-Prozessen unterstützen wir Unternehmen auf ihrer GenAI-Reise. Dabei geht es zum Beispiel darum, auf allen Ebenen Bedenken ernst zu nehmen und Skepsis abzubauen: Für Mitarbeitende ist es wichtig zu verstehen, dass GenAI sie unterstützen, nicht ersetzen wird. Entscheider müssen den konkreten Wert erkennen, den die Technologie für ihre Branche und ihr Business bedeutet", so Paul Anderie.
Über die Studie:
Die Studie entstand in Kooperation mit FT, KPS, Protiviti, Randstad Digital, Reply und Senacor. Es wurden 150 IT- und Business-Führungskräften aus Unternehmen und Behörden im deutschsprachigen Raum befragt. Diese stammen aus dem produzierenden Gewerbe, dem Handel, dem Energiesektor, dem Healthcare-Bereich und der Automobilindustrie sowie den regulierten Branchen Banken, Versicherungen und dem öffentlichen Sektor. Bei der Auswahl der Interviewpartnerinnen und -partner wurde auf ein ausgewogenes Verhältnis von Führungskräften aus dem Business und der IT geachtet. (KPS: ra)
eingetragen: 02.08.24
Newsletterlauf: 20.09.24