Sie sind hier: Startseite » Markt » Tipps und Hinweise

Herausforderungen von Edge AI


Diese vier Stolpersteine behindern den Weg zu Edge AI
Die meisten LLMs (Large Language Models) sind zu groß und benötigen zu viele Ressourcen, als dass ihr Einsatz am Edge sinnvoll wäre


Künstliche Intelligenz hat längst den Netzwerkrand erreicht. Um zeitkritischen Daten den Umweg über die Cloud und das Rechenzentrum zu ersparen, bringen Edge-AI-Lösungen Modelle direkt in die Anwendungen vor Ort. Dieser Weg bietet immense Vorteile – er ist aber auch mit einigen Stolpersteinen gepflastert, wie Couchbase, Anbieter einer Cloud-Datenbankplattform, zeigt.

Immer mehr Anwendungen direkt am Netzwerkrand sind auf leistungsfähige KI-Modelle und schelle Reaktionszeiten angewiesen – von Smart Homes über Angebote im Bereich Smart Security bis zu autonomen Fahrzeugen. Kommt es auf Millisekunden an, fällt die Wahl meistens auf eine Edge-AI-Architektur, die Rechenressourcen und Speicherkapazitäten direkt vor Ort bereitstellt. Diese Strategie ist allerdings kein Selbstläufer, Unternehmen sollten sich daher im Vorfeld der größten Herausforderungen von Edge AI bewusst werden – insbesondere die Wahl einer passenden Datenbank erhält dabei eine zentrale Bedeutung.

1. Stolperstein: Die lokale Datenverwaltung. Edge-Geräte verfügen in der Regel über eine limitierte Rechenleistung und stark begrenzten Speicherplatz, die den Einsatz einer leichtgewichtigen Datenbank notwendig machen. In der Praxis haben sich dabei NoSQL-Datenbanken bewährt, die sowohl Server- als auch Embedded-Versionen aus einer Hand anbieten und über ein flexibles Datenmodell verfügen.

2. Stolperstein: Die KI-Modelle. Die meisten LLMs (Large Language Models) sind zu groß und benötigen zu viele Ressourcen, als dass ihr Einsatz am Edge sinnvoll wäre. Es gibt jedoch eine wachsende Zahl von schlanken Modellen, die für die Ausführung auf mobilen und IoT-Geräten optimiert sind. Der Kompromiss besteht in der Regel darin, dass kleinere Modelle meist weniger genau sind als ihre Cloud-basierten Pendants. Der große Nutzen von Echtzeitperformance und Sicherheit, die eine lokale Verarbeitung erreicht, ist diesen Kompromiss allerdings in jedem Falle wert.

3. Stolperstein: Konnektivität und Bandbreitenbeschränkungen. In vielen Edge-Anwendungen, insbesondere in abgelegenen oder mobilen Umgebungen, kann die Netzwerkverbindung instabil oder die Bandbreite begrenzt sein. Edge-AI-Lösungen müssen daher in der Lage sein, ohne permanente Internetverbindung zu funktionieren, gleichzeitig die über das Netzwerk übertragene Datenmenge zu minimieren und über Offline-First-Funktionen verfügen.

4. Stolperstein: Die Synchronisation. Die Synchronisierung von Daten ist in einer verteilten Anwendung dringend erforderlich, um die Integrität zu wahren. Das gesamte App-Ökosystem muss also in der Lage sein, auf Änderungen zu reagieren. Die Replikation aller Inhalte treibt allerdings den Datenverkehr in astronomische Höhen und kann zu Schreibkonflikten führen. Die eingesetzte Datenbank sollte daher über die Fähigkeiten verfügen, nur ausgewählte Daten unabhängiger Datenbank-Cluster zu replizieren sowie Lese- und Schreibkonflikte selbstständig zu lösen.

"Edge AI ist ein Architekturansatz mit riesigem Potenzial, der Anwendungen schneller, sicherer und intelligenter machen kann – wenn Unternehmen ihn richtig umsetzen", sagt Gregor Bauer, Manager Solutions Engineering CEUR bei Couchbase. "Ganz oben steht dabei die Wahl der richtigen Datenbank. Mit ihr steht und fällt die Leistungsfähigkeit und Funktionalität der KI am Netzwerkrand." (Couchbase: ra)

eingetragen: 27.10.24
Newsletterlauf: 12.12.24

Couchbase: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Kostenloser PMK-Verlags-Newsletter
Ihr PMK-Verlags-Newsletter hier >>>>>>


Meldungen: Tipps und Hinweise

  • NIS2 trifft auf SaaS-Infrastruktur

    Die NIS2 (Network Information Security Directive)-Richtlinie zur Sicherheit von Netzwerken setzt neue Maßstäbe für die Cybersicherheit. Sie ist bekanntlich für öffentliche und private Einrichtungen in 18 Sektoren bindend, die entweder mindestens 50 Beschäftigte haben oder einen Jahresumsatz und eine Jahresbilanz von mindestens 10 Millionen Euro.

  • Sicher modernisieren & Daten schützen

    Viele Unternehmen haben die Cloud-Migration ihrer SAP-Landschaften lange Zeit aufgeschoben. ERP-Anwendungslandschaften, sind über viele Jahre hinweg gewachsen, die Verflechtungen vielfältig, die Datenmengen enorm und die Abhängigkeit der Business Continuity von diesen Systemen gigantisch. Dennoch: Der Druck zur ERP-Modernisierung steigt und viele Unternehmen werden 2025 das Projekt Cloud-Migration mit RISE with SAP angehen.

  • Was tun mit ausgedienten Rechenzentren?

    Rund um die Jahrtausendwende begann in Deutschland ein wahrer Bauboom für Datacenter und Colocation-Flächen. Viele dieser Anlagen befinden sich auch heute noch in Betrieb. Doch die rasante Entwicklung der Informationstechnologie führt dazu, dass Rechenzentren in immer kürzeren Abständen modernisiert oder ersetzt werden müssen. Denn wann immer ein Betreiber den Spatenstich für ein neues Datacenter feiert, dürfen die Begriffe "Nachhaltigkeit" und "Umweltschutz" nicht fehlen.

  • DevOps-Modell in der Cloud

    Software-Entwickler arbeiten heute meist nach dem DevOps-Modell in der Cloud - sehen sich dort aber einer steigenden Zahl von Cyberattacken ausgesetzt. Mit der Umstellung auf ein zeitgemäßes DevSecOps-Framework und der Implementierung robuster Cloud-Security lässt sich die Code-Sicherheit über den gesamten Entwicklungsprozess nachhaltig stärken. Controlware steht Unternehmen bei der Umsetzung ganzheitlicher Security-Modelle zur Seite.

  • Auf die SaaS-Backup-Lösung kommt es an

    Die NIS2 (Network Information Security Directive)-Richtlinie zur Sicherheit von Netzwerken setzt neue Maßstäbe für die Cybersicherheit. Sie ist bekanntlich für öffentliche und private Einrichtungen in 18 Sektoren bindend, die entweder mindestens 50 Beschäftigte haben oder einen Jahresumsatz und eine Jahresbilanz von mindestens 10 Millionen Euro. Nach Schätzungen sind bis zu 40.000 deutsche Unternehmen von der NIS2-Richtlinie betroffen.

  • SaaS: Umfassendes Datenmanagement hilft

    Ransomware ist und bleibt eines der höchsten Risiken für Unternehmen. Laut Aussagen von Security-Experten sind knapp 60 Prozent der Unternehmen Opfer eines Ransomware-Angriffs - Tendenz steigend. Nach Angaben von Microsoft haben Cyber-Bedrohungen, die es auf Software-as-a-Service (SaaS)-Umgebungen abgesehen haben, stark zugenommen. Demnach wurden 7.000 Passwort-Angriffe pro Sekunde blockiert (allein in Entra ID) und Phishing-Attacken sind um 58 Prozent gestiegen. Anders gesagt: SaaS-Daten sind durch Ransomware und andere Bedrohungen überproportional gefährdet.

  • Risiken der Workload-Migration

    Die Mobilität von Workloads, insbesondere die Verlagerung virtueller Maschinen (VMs) in verschiedene Umgebungen, ist eine wesentliche Fähigkeit für moderne IT-Prozesse. Ob es um die Migration von VMs zur Optimierung der Ressourcennutzung, die Gewährleistung der Geschäftskontinuität oder die Verlagerung von Workloads in die Cloud zur Skalierbarkeit geht - der Prozess ist mit Herausforderungen behaftet.

  • Sicher modernisieren & Daten schützen

    Viele Unternehmen haben die Cloud-Migration ihrer SAP-Landschaften lange Zeit aufgeschoben. ERP-Anwendungslandschaften, sind über viele Jahre hinweg gewachsen, die Verflechtungen vielfältig, die Datenmengen enorm und die Abhängigkeit der Business Continuity von diesen Systemen gigantisch. Dennoch: Der Druck zur ERP-Modernisierung steigt und viele Unternehmen werden 2025 das Projekt Cloud-Migration mit RISE with SAP angehen.

  • Was tun mit ausgedienten Rechenzentren?

    Rund um die Jahrtausendwende begann in Deutschland ein wahrer Bauboom für Datacenter und Colocation-Flächen. Viele dieser Anlagen befinden sich auch heute noch in Betrieb. Doch die rasante Entwicklung der Informationstechnologie führt dazu, dass Rechenzentren in immer kürzeren Abständen modernisiert oder ersetzt werden müssen. Denn wann immer ein Betreiber den Spatenstich für ein neues Datacenter feiert, dürfen die Begriffe "Nachhaltigkeit" und "Umweltschutz" nicht fehlen.

  • Tipps für MSPs im Jahr 2025

    Ob durch technologische Innovationen, geschicktes Marketing oder eine starke Unternehmenskultur - mit den richtigen Maßnahmen können MSPs im Jahr 2025 nicht nur ihre Wettbewerbsfähigkeit steigern, sondern auch langfristig wachsen. Hier sind acht Tipps, die ihnen dabei helfen, das Jahr erfolgreich zu gestalten.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen