Die Leistungsfähigkeit von Edge AI: Daten dort verarbeiten, wo sie entstehen

Edge AI verbindet Edge-Computing und künstliche Intelligenz (KI), um Daten genau dort zu verarbeiten, wo sie entstehen. Bei der Entwicklung leistungsstarker embedded KI-Lösungen geht es darum, das KI-Modell, die embedded Software und die Hardware so zu gestalten, dass sie nahtlos als ein einheitliches System effizient zusammenarbeiten. Das ist die Herausforderung, der wir uns stellen.

Herkömmliche cloudbasierte KI ist darauf angewiesen, große Datenmengen an zentrale Server zu übertragen – ein Ansatz, der Verzögerungen, Kosten und Sicherheitslücken mit sich bringt. Bei Edge-AI-Anwendungen muss die Intelligenz nah an der Datenquelle ausgführt werden.

Embedded KI bietet in diesen Szenarien erhebliche Vorteile: Geringe Latenz ermöglicht Echtzeitreaktionen für Robotik und Automatisierung. Datenschutz stellt sicher, dass sensible Informationen auf dem Gerät verbleiben. Energieeffizienz senkt den Stromverbrauch in mobilen und abgelegenen Systemen. Autonomie ermöglicht es Edge-Geräten, sicher ohne beständige Konnektivität zu arbeiten, während Informationsverdichtung die Datenübertragung auf die relevantesten Ereignisse beschränkt.

Aufbauend auf diesen Stärken haben wir die verbleibenden Integrationsherausforderungen, wie die Abstimmung von KI-Modellen, Software-Stacks und Hardware-Architekturen, durch die Entwicklung unserer Referenzdesign-Plattform angegangen. Diese Plattform ermöglicht die schnelle Anpassung von Embedded KI für den Einsatz in realen Anwendungen.

Die Fraunhofer EMFT-Gruppe Machine Learning Enhanced Sensor Systems hat eine Referenzdesign-Plattform entwickelt, um diese  Integrationsherausforderung zu meistern und Embedded KI schnell an reale Anwendungen anzupassen. Die Plattform adressiert zentrale Herausforderungen dezentraler Sensornetzwerke. Durch konfigurierbare Hardware- und Software-Bausteine unterstützt sie Entwicklung, Evaluierung und Deployment intelligenter Sensorsysteme – in Industrie und Forschung.

Unsere Plattform umfasst die folgenden Funktionen:

Vielseitige Hardware

Ein auf einem STM32-Mikrocontroller basierendes Embedded-System, das über verschiedene Schnittstellen generische Sensoranbindung bietet. Es kann als eigenständiger, batteriebetriebener drahtloser Knoten eingesetzt werden, der LTE-M/NB-IoT für eine energiesparende Kommunikation nutzt.

Fortschrittliche Vorverarbeitung

Anwendungsspezifische Vorverarbeitung ist ein zentraler Baustein für embedded KI. Da Edge-Geräte unter strengen Ressourcenbeschränkungen arbeiten, strukturiert und bereinigt unsere Pipeline Rohdaten aus Sensoren bereits vor der Inferenz systematisch, um die Leistung des Geräts optimal zu nutzen.

Skalierbare, optimierte Modelle

Die Plattform unterstützt vom einfachen linearen bis hin zu komplexen Deep-Neural-Network-Modell unterschiedliche Architekturen. Wir setzen Optimierungsmethoden wie Quantisierung und Pruning ein, um die Ressourcenbeschränkungen bei minimalen Einbußen der Genauigkeit zu bewältigen.

Vollständige Datenpipeline

Unser serverseitiges Backend ist eine vollständig auf Docker basierende Umgebung, die auf bewährter Open-Source-Software aufbaut. Es sammelt und speichert eingehende Sensordaten in einer Zeitreihendatenbank und bildet damit die Grundlage für die serverseitige Auswertung und die kontinuierliche Verbesserung der Embedded-Machine-Learning-Modelle.

Nutzen Sie unsere Expertise im Bereich Embedded KI und unsere modulare, kundenspezifische Referenzdesign-Plattform am Fraunhofer EMFT. Wir freuen uns darauf, gemeinsam mit Ihnen neue Wege zu gehen – kontaktieren Sie uns!