Edge-KI-Inferenz: Ein Deep Dive von Software zur Hardwarebeschleunigung

2025-07-04
Edge-KI-Inferenz: Ein Deep Dive von Software zur Hardwarebeschleunigung

Dieser Artikel befasst sich mit den Herausforderungen und Möglichkeiten der Ausführung von KI-Inferenz auf ressourcenbeschränkten Mikrocontrollern. Ausgehend von der Funktionsweise von TensorFlow Lite Micro analysiert der Autor die Softwareimplementierung und Hardwarebeschleunigungsschemata basierend auf ARM-Architekturerweiterungen für den Additionsoperator. Der Artikel behandelt auch die Verwendung der Arm Ethos-U NPU zur Beschleunigung von Modellen. Er zeigt, wie verschiedene Hardwarearchitekturen die Leistung der KI-Inferenz beeinflussen und wie Software- und Hardwareoptimierungen kombiniert werden können, um die Effizienz zu verbessern.

Mehr lesen
KI Edge-KI

Freischalten der USB-Serienschnittstellen des BG95-M3-Moduls auf dem RAK5010

2025-02-22
Freischalten der USB-Serienschnittstellen des BG95-M3-Moduls auf dem RAK5010

Dieser Beitrag beschreibt den Zugriff auf die drei seriellen Schnittstellen des Quectel BG95-M3-Moduls, das in die RAK5010-Entwicklungsplatine integriert ist. Der Autor hat nach Konsultation des Schaltplans vier Widerstände identifiziert und umgelötet, um die USB-Datenleitungen vom nRF52840 zum BG95-M3 umzuleiten. Trotz eines kleinen Zwischenfalls mit einem verlorenen Widerstand war die Modifikation erfolgreich und ermöglichte die direkte USB-Kommunikation mit dem Modem und den Zugriff auf seine drei seriellen Schnittstellen.

Mehr lesen
Hardware

Wi-Fi-Stationsmodus auf einem ressourcenbeschränkten MCU mit Thingy:91 X ausführen: Eine knappe Angelegenheit

2025-02-21
Wi-Fi-Stationsmodus auf einem ressourcenbeschränkten MCU mit Thingy:91 X ausführen: Eine knappe Angelegenheit

Dieser Beitrag beschreibt die Erfahrung des Autors beim Ausführen des Wi-Fi-Stationsmodus auf dem ressourcenbeschränkten Nordic Semiconductor nRF9151 MCU mit dem Thingy:91 X. Die begrenzten 256 KB RAM des nRF9151 stellten aufgrund der hohen Ressourcenanforderungen des Wi-Fi-Treibers eine große Herausforderung dar. Durch Deaktivieren von nrf_modem_lib und geschickte Verwendung von Overlay-Dateien und Devicetree-Konfiguration wurde eine Wi-Fi-Verbindung hergestellt, allerdings mit einer enormen RAM-Auslastung von 99,11 %. Der Beitrag analysiert die aufgetretenen Probleme detailliert, einschließlich des Ressourcenverbrauchs des Treibers, der Patch-Lademethoden und der Socket-Erstellung, und bietet Lösungen und wertvolle Einblicke für Embedded-Entwickler.

Mehr lesen
Entwicklung

Nordic präsentiert VPR: Sein erster RISC-V-Prozessor

2024-12-26
Nordic präsentiert VPR: Sein erster RISC-V-Prozessor

Nordic Semiconductor hat VPR vorgestellt, seinen ersten RISC-V-Prozessor, der in die neuen SoCs nRF54H und nRF54L integriert ist. VPR, ein RV32EMC-Prozessor mit einer Taktrate von bis zu 320 MHz, ist für softwaredefinierte Peripheriegeräte konzipiert. Der Artikel beschreibt detailliert die Architektur von VPR, den Initialisierungsprozess und die Zusammenarbeit mit dem Arm Cortex-M33. Das Sysbuild von Zephyr vereinfacht die Erstellung und Bereitstellung von VPR-Anwendungen und ermöglicht heterogenes Computing für verbesserte Leistung und Funktionalität.

Mehr lesen