LLM630-Rechenkit

GLIEDERUNG

Das LLM630 Compute Kit ist eine KI-Entwicklungsplattform für die Inferenz großer Sprachmodelle, die für Edge-Computing und intelligente Interaktionsanwendungen entwickelt wurde. Das Mainboard des Kits ist mit dem Aixin AX630C SoC-Prozessor ausgestattet, der eine hocheffiziente NPU mit 3.2 TOPs@INT8 Rechenleistung integriert und leistungsstarke KI-Inferenzfunktionen für die effiziente Ausführung komplexer Vision- (CV) und Large-Language-Model- (LLM) Aufgaben bietet und so den Anforderungen verschiedener intelligenter Anwendungsszenarien gerecht wird. Das Mainboard ist außerdem mit einem JL2101-N040C Gigabit-Ethernet-Chip und einem ESP32-C6 Wireless-Kommunikationschip ausgestattet, der Wi-Fi 6@2.4G unterstützt und als Netzwerkkarte des Geräts dient, Hochgeschwindigkeitsdatenübertragung ermöglicht und Wi-Fi- und Ethernet-Bridging-Funktionalität ermöglicht. Ob über kabelgebundene Verbindungen für den Datenaustausch im großen Maßstab oder über drahtlose Kommunikation für die Echtzeit-Interaktion mit Remote-Servern oder anderen intelligenten Geräten – diese Plattform gewährleistet eine effiziente Dateninteraktion. Das Mainboard verfügt außerdem über eine SMA-Antennenschnittstelle, um die Stabilität des Funksignals und die Übertragungsreichweite weiter zu verbessern und so eine stabile Kommunikation in komplexen Netzwerkumgebungen zu gewährleisten. Es verfügt über einen integrierten 4 GB LPDDR4-Speicher (2 GB für den Benutzergebrauch, 2 GB für die Hardwarebeschleunigung) und 32 GB eMMC-Speicher. Dieser unterstützt das parallele Laden und die Inferenz mehrerer Modelle und gewährleistet so eine effiziente und reibungslose Aufgabenverarbeitung.
Das Baseboard, das das Mainboard perfekt ergänzt, erweitert die Funktionalität und Anwendbarkeit des LLM630 Compute Kits erheblich. Es integriert einen BMI270 Sechs-Achsen-Sensor, der präzise Lage- und Bewegungserkennung bietet und sich für verschiedene dynamische Anwendungen eignet. Der integrierte NS4150B Class D ampVerstärker-, Mikrofon- und Lautsprecherschnittstellen unterstützen hochwertige Spracheingabe und Audioausgabe und ermöglichen so einen Vollduplex-Kommunikationsmodus, der die Benutzerinteraktion verbessert. Das Baseboard verfügt außerdem über duale Grove-Schnittstellen sowie LCD/DSI- und CAM/CSI-MIPI-Schnittstellen, die die Erweiterung von Peripheriegeräten wie Displays und Kameramodulen erleichtern. Zusätzlich integriert das Baseboard eine externe Antennenschnittstelle und einen Gigabit-Ethernet-Anschluss für flexible Netzwerkverbindungen und verbesserte WLAN-Leistung des Geräts. Die Benutzertasten des Geräts ermöglichen Funktionen wie Ein-/Ausschalten und Moduswechsel, was die Benutzerfreundlichkeit und Interaktivität des Geräts verbessert. Der Ladechip und der reservierte Batteriesockel des Baseboards unterstützen benutzerdefinierte Batteriekonfigurationen und stellen sicher, dass die Plattform auch ohne externe Stromversorgung lange Zeit stabil läuft. Der integrierte Batterieerkennungschip überwacht den Batteriestatus in Echtzeit. Der MicroSD-Kartensteckplatz unterstützt die Speichererweiterung sowie zukünftige Unterstützung für KI-Modellaktualisierungsfunktionen. Duale USB-Typ-C-Schnittstellen unterstützen nicht nur eine effiziente Datenübertragung, sondern bieten auch OTG-Funktionalität, was Geräteanschlüsse flexibler macht und eine hohe Effizienz beim Datenaustausch und bei der Geräteverbindung gewährleistet.
Das LLM630 Compute Kit unterstützt das StackFlow-Framework und ermöglicht Entwicklern die einfache Implementierung intelligenter Edge-Anwendungen mit nur wenigen Codezeilen und die schnelle Ausführung verschiedener KI-Aufgaben. Die Plattform unterstützt eine Vielzahl von KI-Anwendungen, darunter Bilderkennung, Spracherkennung, Text-to-Speech und Wake-Word-Erkennung, und unterstützt separate Aufrufe oder automatische Pipeline-Abläufe, was die Entwicklung erleichtert. Die Plattform unterstützt außerdem Vision-Modelle wie Yolo11 DepthAnything, multimodale Großmodelle wie InternVL2.5-1B, Großsprachenmodelle wie Qwen2.5-0.5/1.5B Llama3.2-1B und Sprachmodelle wie Whisper Melotts, unterstützt aktuelle Updates und wird auch in Zukunft die fortschrittlichsten und beliebtesten Großmodelle unterstützen. Dies ermöglicht intelligente Erkennung und Analyse und stellt sicher, dass die Plattform mit der technologischen Entwicklung und den Trends der Community Schritt hält. Das LLM630 Compute Kit eignet sich für Bereiche wie Sicherheitsüberwachung, intelligenten Vertrieb, intelligente Landwirtschaft, intelligente Haussteuerung, interaktive Roboter und Bildung und bietet leistungsstarke Rechenleistung und flexible Erweiterbarkeit für intelligente Edge-Anwendungen.

1.1. LLM630-Rechenkit
1. Kommunikationsmöglichkeiten

• Kabelgebundenes Netzwerk: Ausgestattet mit einem JL2101-N040C Gigabit-Ethernet-Chip für Hochgeschwindigkeitsdatenaustausch.
• Drahtloses Netzwerk: Integriert einen ESP32-C6-Chip, der Wi-Fi 6 (2.4 GHz) und BLE unterstützt und so eine effiziente drahtlose Dateninteraktion gewährleistet.
• Bridge-Funktion: Ermöglicht Ethernet-zu-Wi-Fi-Bridging und erleichtert so die Datenübertragung in verschiedenen Netzwerkumgebungen.
• Externe Antennenschnittstelle: SMA-Anschluss für externe Antennen, verbessert die Stabilität des drahtlosen Signals und die Übertragungsreichweite.

2. Prozessor und Leistung

• Haupt-SoC: AX630C von AXERA mit einem Dual-Core Cortex-A53 (1.2 GHz).
• NPU (Neural Processing Unit): Bietet 3.2 TOPS@INT8 (1.2T@FP16) Rechenleistung und bewältigt effizient KI-Inferenzaufgaben (z. B. Computer Vision und Inferenz großer Sprachmodelle).
• Parallelität mehrerer Modelle: Robuste Verarbeitungsfunktionen unterstützen das gleichzeitige Laden und Ausführen mehrerer Modelle, ideal für komplexe Edge-Intelligence-Szenarien.

3. Anzeige und Eingabe

• Sensoren: Integrierter BMI270-Sechsachsensensor (Beschleunigungsmesser + Gyroskop) zur Bewegungserkennung und Haltungserkennung.
• Audio:
  • Eingebauter NS4150B Klasse D ampschwerer
  • Integrierte Mikrofon- und Lautsprecherschnittstelle für hochwertige Audio-E/A und Vollduplex-Sprachkommunikation
• Schnittstellen:
  • LCD/DSI (MIPI) für externe Displays
  • CAM/CSI (MIPI) für Kameramodule
• Benutzertasten: Ermöglichen die Steuerung der Stromversorgung, das Umschalten des Modus und verbessern die Geräteinteraktivität.

4. Speicher

• RAM:
  • 4 GB LPDDR4 insgesamt (2 GB für das Benutzersystem, 2 GB für Hardwarebeschleuniger wie die NPU)
• Lagerung:
  • 32 GB eMMC für Betriebssystem, KI-Modelle und Anwendungsdaten
  • MicroSD-Kartensteckplatz für erweiterten Speicher und zukünftige KI-Modell-Updates

5. Energieverwaltung

• Batterieunterstützung:
  • Integrierter Ladechip und Batterieanschluss für anpassbare Batteriekonfigurationen
  • Der Stromüberwachungschip bietet Echtzeit-Feedback zum Batteriestatus
• Stromversorgung:
  • Unterstützt USB Type-C-Stromeingang
  • Kann mit Batteriestrom betrieben werden, für längere Laufzeit ohne externe Stromversorgung

6. GPIO-Pins und programmierbare Schnittstellen

• Erweiterungsschnittstellen:
  • Zwei Grove-Anschlüsse für den einfachen Anschluss an Sensoren und Peripheriegeräte
  • MIPI DSI/CSI-Schnittstellen für Displays und Kameras
  • Zwei USB-Typ-C-Anschlüsse für Hochgeschwindigkeitsdatenübertragung und OTG-Funktionalität zur Verbesserung der Konnektivität
• Entwicklung und Programmierung:
  • Kompatibel mit dem StackFlow-Framework von M5Stack, das eine schnelle Entwicklung von Edge-KI-Anwendungen mit minimalem Programmieraufwand ermöglicht
  • Unterstützt verschiedene KI-Algorithmen und -Modelle für Sehen, Sprache, Text und mehr

7. Sonstiges

• Unterstützung von KI-Modellen:
  • Vorinstallierte oder ladbare Modelle wie Yolo11, DepthAnything für Vision, InternVL2.5-1B für Multimodal und große
  • Sprachmodelle (Qwen2.5-0.5/1.5B, Llama3.2-1B usw.) plus Whisper Melotts für Sprache
  • Hot-Update-Funktion, um die Plattform mit den neuesten KI-Entwicklungen auf dem neuesten Stand zu halten
• Anwendungsszenarien:
  • Geeignet für Sicherheitsüberwachung, intelligenten Einzelhandel, intelligente Landwirtschaft, intelligente Haussteuerung, interaktive Robotik, Bildung und mehr
  • Bietet leistungsstarke Rechenleistung und flexible Erweiterung für eine breite Palette von AIoT-Anwendungsfällen
• Geräteabmessungen und -gewicht: Kompakter Formfaktor für einfache Integration in verschiedene Anwendungen und schnelles Prototyping.

Spezifikationen

2.1. Spezifikationen

Parameter und Spezifikation	Wert
Prozessor	AX6300Dual Cortex A53 1.2 GHz MAX. 12. 8 TOPs @INT4 und 3.2 TOPs @INT8
NPU	3.2 TOPs @ INT8
RAM	4 GB LPDDR4 (2 GB Systemspeicher + 2 GB dedizierter Speicher für die Hardwarebeschleunigung)
eMMC	eMMC5 @ 1 GB
Kabelgebundenes Netzwerk	IL2101B-N040C @ 1GbE
Drahtloses Netzwerk	ESP32-C6 @ Wi-Fi6 2.4G
USB-UART	CH9102F @ USB zu seriellem Port
USB-OTG	USB 2.0-Host oder -Gerät
Antennenschnittstelle	SMA-Innenloch
Audio-Schnittstelle	MIC- und SPK-Header 5P @ 1.25 mm
Display-Schnittstelle	MIPI DSI lx 2Lane MAX 1080p 0 30fps 0 1.25mm
Kamera-Schnittstelle	MIPI CSI lx 4Lane MAX 4K 0 30fps 0 1.25mm
Zusätzliche Merkmale	Programmierbare RGB-LED zur Kontrolle des niedrigen Stromverbrauchs. Summer. Reset-Taste
Batteriemanagement	Batterieschnittstellenanschluss mit 1.25 mm Spezifikation
Batterie-Schnittstellenanschluss	4 Hochgeschwindigkeits-Kernkernmotoren
Kompatible Batteriespezifikation	3.7 V Lithiumbatterie (Lithium-Ionen oder Lithium-Polymer)
USB-Schnittstelle	2 Tvpe-C-Schnittstellen (Datenübertragung, OTG-Funktionalität)
USB-Stromversorgung	5 V 0 A
Grove-Schnittstelle	PortA-Header 4P 0 2.0 mm (I2C) PortC-Header 4P 0 2.0 mm (UART)
Speichererweiterungsschnittstelle	Micro SD-Kartensteckplatz
Externe Funktionsschnittstelle	FUNC-Header 8P @ 1.25 mm, System-Aktivierung, Energieverwaltung, externe LED-Steuerung und I2C-Kommunikation usw.
Schaltflächen	2 Tasten für Ein-/Ausschalten, Benutzerinteraktion und Reset-Funktionen
Sensor	BMI270 0 6-Achsen
Hersteller	M5Stack Technology Co., Ltd

2.2. Modulgröße

SCHNELLER START

3.1. UART

1. Verbinden Sie die UART-Schnittstelle des LLM630 Compute Kits mit Ihrem Computer. Sie können Debugging-Tools wie Putty verwenden, um sich über die serielle Schnittstelle am Geräteterminal anzumelden und dort Fehler zu beheben und zu steuern. (Standard: 115200bps 8N1, Standardbenutzername ist root, Passwort ist root.)

3.2. Ethernet

1. Das LLM630 Compute Kit bietet eine Ethernet-Schnittstelle für einfachen Netzwerkzugriff und funktionales Debugging.

3.3. W-lan

1. Das LLM630 Compute Kit verfügt über einen integrierten ESP32-C6 als Wi-Fi-Chip, der die Verbindung mit drahtlosen Netzwerken erleichtert.
   Befolgen Sie die folgenden Schritte, um WLAN zu aktivieren und die Verbindung zu konfigurieren. Bitte installieren Sie vor der Verwendung die mitgelieferte externe SMA-Antenne.

Kernkonfiguration

Das Standard-Netzwerkkonfigurationstool im LLM630 Compute Kit ist ntmui. Mit dem Tool nmtui können Sie WLAN-Verbindungen einfach konfigurieren.

nmtui

FCC-Warnung

FCC-Warnung:
Jegliche Änderungen oder Modifikationen, die nicht ausdrücklich von der für die Konformität verantwortlichen Partei genehmigt wurden, können zum Erlöschen der Berechtigung des Benutzers zum Betrieb des Geräts führen.
Dieses Gerät entspricht Teil 15 der FCC-Bestimmungen. Der Betrieb unterliegt den folgenden beiden Bedingungen: (1) Dieses Gerät darf keine schädlichen Störungen verursachen und (2) dieses Gerät muss alle empfangenen Störungen akzeptieren, einschließlich Störungen, die einen unerwünschten Betrieb verursachen können.

WICHTIGER HINWEIS:
Hinweis: Dieses Gerät wurde getestet und entspricht den Grenzwerten für digitale Geräte der Klasse B gemäß Teil 15 der FCC-Bestimmungen. Diese Grenzwerte sollen einen angemessenen Schutz gegen schädliche Störungen bei der Installation in Wohngebieten bieten.
Dieses Gerät erzeugt und verwendet Hochfrequenzenergie und kann diese auch abstrahlen. Wenn es nicht gemäß den Anweisungen installiert und verwendet wird, kann es zu Störungen des Funkverkehrs kommen. Es gibt jedoch keine Garantie dafür, dass bei einer bestimmten Installation keine Störungen auftreten. Wenn dieses Gerät Störungen des Radio- oder Fernsehempfangs verursacht (was durch Ein- und Ausschalten des Geräts festgestellt werden kann), wird dem Benutzer empfohlen, die Störungen durch eine oder mehrere der folgenden Maßnahmen zu beheben:

• Empfangsantenne neu ausrichten oder verlegen.
• Vergrößern Sie den Abstand zwischen Gerät und Empfänger.
• Schließen Sie das Gerät an eine Steckdose an, die zu einem anderen Stromkreis gehört als der Empfänger.
• Wenden Sie sich an Ihren Händler oder einen erfahrenen Radio-/Fernsehtechniker.

FCC-Erklärung zur Strahlenbelastung: Dieses Gerät entspricht den FCC-Grenzwerten für die Strahlenbelastung, die für eine unkontrollierte Umgebung festgelegt wurden.

Dokumente / Ressourcen

M5STACK LLM630 Compute Kit [pdf] Benutzerhandbuch M5LLM630COMKIT, 2AN3WM5LLM630COMKIT, LLM630 Rechner-Kit, LLM630, Rechner-Kit, Kit

Verweise

• Bedienungsanleitung