Sie sind hier: Startseite » Markt » Studien

Angst vor Schatten-KI hemmen KI- Einführung

Kein Bot auf KI? Bedenken hinsichtlich Schatten-KI und Regularien verzögern Einführung von GenAI-Tools
Rechtliche Unsicherheiten und Richtlinien behindern die Einführung von GenAI in DACH-Unternehmen

Nur 3 Prozent der Unternehmen im DACH-Raum beschreiben sich als fortgeschritten bei der Einführung generativer KI (GenAI). Das zeigt eine aktuelle Lünendonk-Studie. Trotz hohem Potenzial und zahlreichen Anwendungsfeldern ist die Skepsis gegenüber der neuen Technologie bei Anwendern wie Entscheidern hoch. Unsicherheit und die Angst vor Schatten-KI hemmen die Einführung. Gleichzeitig erhofft sich jedes zweite Unternehmen durch GenAI Hilfe bei der digitalen Transformation. Für Handelsunternehmen sind vor allem Anwendungen im Umfeld von E-Commerce und Marketing relevant. Das IT-Beratungshaus KPS sieht in aktivem Change-Management und der strukturierten Einführung den Schlüssel, um Potenziale von GenAI zu heben.

Fast jeder zweite CIO (46 Prozent) erachtet generative KI als relevant. Das größte Potenzial sehen die Befragten im konzeptuellen Arbeiten (85 Prozent), der Datenanalyse und Prognosen (80 Prozent), in digitalen Services (71 Prozent) sowie Chatbots (68 Prozent). Die Anwendungsfälle sind jedoch häufig noch Zukunftsmusik. Die Hälfte der befragten Unternehmen steht noch am Anfang bei der Identifizierung von Use Cases. "Unternehmen, die aktiv mit KI arbeiten, werden Unternehmen abhängen, die keine KI einsetzen. Gleichzeitig gehen mit der Implementierung viele Herausforderungen einher, von einer Schatten-KI bis hin zu Compliance-Fragen. Dieses Spannungsfeld von Risiken und Regularien gilt es abzubauen", ordnet Paul Anderie, Head of AI & Data Activation bei der KPS AG, ein.

Risiko einer Schatten-KI: Unstrukturierte Einführung und unbegrenzter Zugriff
Die Einführung von KI-Tools erfolgt selten zentral gesteuert durch die Geschäftsleitung (28 Prozent) oder einem CIO und der IT (19 Prozent); 15 Prozent sehen die Verantwortung in den einzelnen Fachbereichen. In nur sieben Prozent liegt die Verantwortung bei einem dedizierten Chief Data oder Chief Digital Officer. Bei einem Drittel der befragten Unternehmen fällt diese Aufgabe einzelnen Mitarbeitenden zu. "In der DACH-Region wird generative KI weniger strategisch gedacht als vielmehr ‚einfach gemacht‘. Das ermächtigt die Fachabteilungen, öffnet aber auch komplexe Fragestellungen hinsichtlich der Zugriffsrechte", so Paul Anderie. Auch bei internen Regularien zeigt die Studie deutliche Unterschiede auf: 35 Prozent der Unternehmen gestatten nur ausgewählten Bereichen und Funktionen Zugriff auf GenAI-Tools, während in einem Drittel der Unternehmen jeder Mitarbeitende uneingeschränkten Zugriff hat.

"Gerade die Kombination aus uneingeschränktem Zugriff für alle Mitarbeitenden und dem Fehlen einer strategischen, top-down-getriebenen Implementierung mit festgelegten Regeln und Schulungen für die Mitarbeitenden kann zu einer Schatten-KI führen. Das birgt Risiken wie Anwendungsfehler und falsche Ergebnisse, aber auch Verstöße gegen Compliance-Richtlinien oder die Data-Governance. Gleichzeitig sollte der Innovationsgeist von engagierten Mitarbeitenden nicht erstickt werden", weiß Paul Anderie.

KI-Skepsis vorherrschend: Fehlendes Vertrauern als Hemmschwelle
Tatsächlich zeigt die Studie diese Aspekte als größte Bedenken in Hinblick auf GenAI auf: In 59 Prozent der Unternehmen haben die Mitarbeitenden geringes oder sehr geringes Vertrauen in die durch GenAI-Tools erzeugten Ergebnisse, nur 7 Prozent vertrauen voll und ganz darauf. Gleichzeitig beobachtet über die Hälfte der Befragten derzeit nur geringe Produktivitätssteigerungen durch die Technologie. Anwendern ist der Nutzen der Technologie häufig noch nicht klar.

Führungspersonal (CIO, IT-Leiter, Vorstände, Geschäftsleitung, Fachbereichsleiter) hat vor allem rechtliche Bedenken über die Konsequenzen falscher KI-generierter Ergebnisse (71 Prozent) und fürchtet Haftungsrisiken gegenüber Entscheidungen durch die KI (70 Prozent). Auch unzureichende Data Governance (54 Prozent) und eigene Compliance-Vorgaben (43 Prozent) beschäftigen Führungspersonen. In Summe ist in 13 Prozent aller Unternehmen der Einsatz von generativer KI nicht zugelassen – der überwiegende Hauptgrund dafür ist mit 58 Prozent Compliance und Regulatorik.

"Viele unserer Kunden berichten von fehlendem Wissen darüber, welche regulatorischen Bestimmungen gelten oder wie mit Datenschutzfragen umgegangen wird. Gesetze wie der EU AI Data Act bieten die Chance, klare Regeln für den Einsatz von KI-Technologien in der EU aufzustellen und Sicherheit und Vertrauen für Unternehmen zu schaffen. Auch im Unternehmen sind Richtlinien wichtig, um das Vertrauen der Mitarbeitenden in die Ergebnisqualität zu stärken und Probleme wie Data-Governance-Verletzungen zu vermeiden. Hier stehen wir in manchen Branchen jedoch noch am Anfang. Ganze 40 Prozent der befragten Handelsunternehmen kennen zum Beispiel den EU AI Data Act nicht, nur 8 Prozent arbeiten an der Umsetzung."

GenAI im Handel: Der Mensch im Mittelpunkt
Dabei bietet vor allem die Branche Handel viele Anwendungsfelder für GenAI. Zu den Top drei Anforderungen zählen eine bessere Kundenzentrierung, mehr Agilität und Flexibilität und die Beschleunigung der Transformation. "Besonders beliebte Use Cases für Handelsunternehmen finden sich im E-Commerce und im Marketing. Beispiele sind personalisierte, KI-gestützte Produktempfehlungen, automatisch generierter Content oder Predictive Pricing", ordnet Paul Anderie ein. "Die Branche steht GenAI aktuell jedoch noch skeptisch gegenüber, nur ein Bruchteil traut sich an die Entwicklung eigener trainierter Modelle heran."

Ein gutes Drittel (36 Prozent) der befragten Unternehmen im Handel sieht eine gewisse Relevanz von GenAI für ihre Branche, die Restlichen schätzen die Relevanz als niedrig oder sehr niedrig ein. Zudem lässt ein im Branchenvergleich hoher Anteil von 24 Prozent aller Handelsunternehmen die Nutzung von GenAI bisher gar nicht zu. Ein Grund dafür ist das zu erwartende hohe Investment in GenAI-Projekte, deren Return on Investment aktuell noch nicht klar ist. Zudem sehen 24 Prozent die Technologie als Gefahr für das eigene Geschäftsmodell. Mit klar definierten Startprojekten und Proofs of Concepts (PoC) können Unternehmen einen Mehrwert schaffen und Erfahrungswerte sammeln, weiß beispielsweise die Baumarktkette Globus, ein Kunde der KPS AG.

"KI ist allgegenwärtig und jeder hat bereits erste Berührungspunkte, aber der Nutzen lässt sich noch nicht genau quantifizieren, weshalb viele – nicht zuletzt aufgrund der Investitionen, die mit der Einführung von KI verbunden sind – doch noch skeptisch sind", kommentiert Christian Becker, Fachbereichsleiter Solution Architecture, Koordination GLOBUS Holding GmbH & Co. KG. "Wir sind bewusst mit einem PoC rund um GenAI gestartet, um die Thematik griffiger zu machen, die Mehrwerte herauszuarbeiten und die ersten Schritte zu initiieren, bevor wir es in die Fachabteilungen tragen."

"Der Einsatz von neuen Technologien führt immer dazu, dass Mitarbeiter sich – bewusst oder unbewusst – fragen, welchen Einfluss das auf sie und ihren Arbeitsplatz haben wird und somit immer eine gewisse Skepsis gegenüber den Neuerungen mitschwingt," so Bert Middendorb, Director E-Commerce bei GALERIA Karstadt Kaufhof GmbH i.I., über den Einsatz von GenAI.

"Die wichtigsten Erfolgsfaktoren für die erfolgreiche Implementierung sind ein strukturiertes Vorgehen und gutes Change-Management: Man muss die Menschen mitnehmen, die aktuell für die Prozesse zuständig sind. Am Ende geht es meist weniger um die Technologie, sondern viel mehr um den Menschen dahinter. Mit unserer langjährigen Erfahrung in IT-Change-Management-Prozessen unterstützen wir Unternehmen auf ihrer GenAI-Reise. Dabei geht es zum Beispiel darum, auf allen Ebenen Bedenken ernst zu nehmen und Skepsis abzubauen: Für Mitarbeitende ist es wichtig zu verstehen, dass GenAI sie unterstützen, nicht ersetzen wird. Entscheider müssen den konkreten Wert erkennen, den die Technologie für ihre Branche und ihr Business bedeutet", so Paul Anderie.

Über die Studie:
Die Studie entstand in Kooperation mit FT, KPS, Protiviti, Randstad Digital, Reply und Senacor. Es wurden 150 IT- und Business-Führungskräften aus Unternehmen und Behörden im deutschsprachigen Raum befragt. Diese stammen aus dem produzierenden Gewerbe, dem Handel, dem Energiesektor, dem Healthcare-Bereich und der Automobilindustrie sowie den regulierten Branchen Banken, Versicherungen und dem öffentlichen Sektor. Bei der Auswahl der Interviewpartnerinnen und -partner wurde auf ein ausgewogenes Verhältnis von Führungskräften aus dem Business und der IT geachtet. (KPS: ra)

eingetragen: 02.08.24
Newsletterlauf: 20.09.24

Meldungen: Studien

Lückenhafte Datensicherung birgt Risiken
Hycu hat die Ergebnisse einer aktuellen Studie veröffentlicht, die unter Anwaltskanzleien und Fachleuten aus dem Rechtsbereich durchgeführt wurde. Während Anwaltskanzleien zunehmend auf Cloud-basierte Anwendungen umsteigen, zeigen die Ergebnisse der neuen globalen Umfrage, dass es erhebliche Wissenslücken hinsichtlich der Verantwortlichkeiten im Bereich Datensicherung gibt. Laut dem in Kürze erscheinenden Bericht "State of SaaS Resilience 2025" glauben 85 Prozent der IT-Entscheidungsträger im Bereich Unternehmens- und freiberufliche Dienstleistungen, einschließlich Rechtsdienstleistungen, dass native SaaS-Plattformen wie iManage Cloud, Microsoft 365, DocuSign und Box eine umfassende Datensicherung bieten.
Skepsis gegenüber SaaS
Die IT-Modernisierung zählt seit Jahren zu den Top-Prioritäten von CIOs - allerdings gibt es aufgrund der hohen Komplexität oft nur geringe Fortschritte. Der Druck zur IT-Modernisierung ist jedoch höher denn je, denn je häufiger veraltete Anwendungslandschaften auf moderne digitale Technologien treffen, desto stärker werden ihre technischen und wirtschaftlichen Grenzen sichtbar. Management und Fachbereiche erkennen daher zunehmend die Notwendigkeit von Modernisierungsmaßnahmen.
Cloud-Angriffe werden schneller und intelligenter
Sysdig, Anbieterin von Cloud-Sicherheit in Echtzeit, hat ihren aktuellen Cloud Defense Report 2025 veröffentlicht. Der Bericht enthält Erkenntnisse und Prognosen über die entscheidende Rolle von KI, Open Source und Transparenz durch Runtime Insights (Laufzeit-Analysen) im Kontext aktueller Cloud-Bedrohungen. Die Datengrundlage stammt aus einer sorgfältigen und methodisch fundierten Analyse von Millionen von Cloud-Konten und Kubernetes-Containern, die Sysdig-Kunden täglich betreiben und sichern. Die repräsentative Stichprobe umfasst eine Vielzahl von Cloud-affinen Branchen auf der ganzen Welt.
Interne IT-Dienstleister: Umsätze steigen
Interne IT-Dienstleister von Unternehmen und Organisationen in Deutschland verzeichnen 2024 ein Wachstum von durchschnittlich rund 10 Prozent und gewinnen im Kontext der digitalen Transformation an Bedeutung. Im Fokus stehen dabei der Wandel zum datengetriebenen Unternehmen, die Entwicklung KI-basierter Anwendungen, die IT-Modernisierung, das Vorantreiben der Prozessautomatisierung sowie die Kompensation des Fachkräftemangels und des demografischen Wandels durch digitale Technologien.
Risiken im Zusammenhang mit KI kaum versichert
Künstliche Intelligenz (KI) ist längst in deutschen Unternehmen im Dienstleistungssektor voll angekommen - das zeigt eine aktuelle Umfrage zu Nutzung, Chancen und Risiken von KI, die im Auftrag von Hiscox durchgeführt wurde. Befragt wurden Anwendende sowie (Mit-) Entscheider über den Einsatz von KI.
Investitionen beginnen sich auszuzahlen
Rockwell Automation hat die deutschen Ergebnisse ihres 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in generative KI tätigt, aber immer noch mit Herausforderungen wie ungleichmäßiger Personalentwicklung und unzureichend genutzten Daten zu kämpfen hat.
Verständnis von systemischen Cyberrisiken
CyberCube und Munich Re, Anbieterin in ihren jeweiligen Gebieten, Modellierung und Rück-Versicherung, haben die wesentlichen Ergebnisse einer gemeinsamen Umfrage veröffentlicht. Gegenstand waren schwerwiegende Cyber-Kumulereignisse und die relative Widerstandsfähigkeit von Unternehmen gegenüber systemischen Ereignissen aufgrund wirksamer Maßnahmen zur Risikominderung.
Warum Echtzeitdaten für KI entscheidend sind
Daten waren für Unternehmen schon immer wichtig, das ist nichts Neues. Was sich jedoch verändert hat, ist die Geschwindigkeit, mit der sie verarbeitet werden müssen. Herkömmliche Datenarchitekturen stoßen zunehmend an ihre Grenzen, insbesondere wenn es darum geht, Entscheidungen auf Basis aktueller Daten in Echtzeit zu treffen.
Verantwortung für Datenschutz und Compliance
Fivetran, Anbieterin für Data Movement, präsentiert eine neue Studie. Sie zeigt: Nicht einmal die Hälfte (49 Prozent) der Technologie-Verantwortlichen in Unternehmen sind der Meinung, ihre derzeitige Datenarchitektur wäre den Anforderungen für den Einsatz von KI gewachsen. Gleichzeitig planen 89 Prozent noch dieses Jahr ihre eigenen Daten für das Training großer Sprachmodelle (LLMs) zu verwenden. Diese Diskrepanz verdeutlicht, wie schnell die Unternehmen den Einsatz von KI vorantreiben, obwohl sie gleichzeitig einräumen, dass ihre Datensysteme dafür noch nicht bereit sind.
Hybride oder Cloud-first-Umgebungen sind Standard
Keeper Security veröffentlichte ihren neuen Insight Report "Securing Privileged Access: Der Schlüssel zur modernen Unternehmensverteidigung". Da sich Unternehmen auf ein immer komplexeres Netzwerk von Benutzern, Anwendungen und Infrastrukturen verlassen, ist die Verwaltung privilegierter Zugriffe zur Verhinderung von Cyberangriffen sowohl kritischer als auch komplizierter geworden. Die rasche Einführung von Cloud-, Hybrid- und Multi-Vendor-Umgebungen in Kombination mit der zunehmenden Raffinesse und KI-gestützten Cyberangriffen erhöht den Bedarf an Lösungen, die sichere, skalierbare und zentralisierte Zugangskontrollen durchsetzen können.

IT-Sicherheit auf Top-Niveau bringen Generative KI: Revolution durch Echtzeitdaten