So dimensionieren Sie eine GPU für die industrielle KI-Bildprüfung: Jetson, RTX oder Xeon-6 mit zwei GPUs?

Warum „einfach eine GPU kaufen“ nicht funktioniert

Ein industrielles KI-Bildverarbeitungssystem hat drei harte Grenzen: die Bildrate bei Liniengeschwindigkeit, die Modellgröße (Parameter + Eingabeauflösung der Bilder) und das Latenzbudget von der Kameraaufnahme bis zur Aktorentscheidung. Wählen Sie eine zu kleine GPU, verlieren Sie Frames; wählen Sie eine zu große, haben Sie zu viel ausgegeben und zu viel gekühlt. Die richtige Dimensionierung ergibt sich aus diesen drei Zahlen und ein wenig Kapazitätsrechnung.

Kapazitätsrechnung in einem Absatz

Für eine einzelne Kamera mit F FPS, die ein Modell mit gemessenen L ms Inferenz pro Bild auf einer Ziel-GPU ausführt, beträgt die GPU-Auslastung pro Kamera etwa F × L / 1000. Eine 30-FPS-Kamera mit einem 20-ms-Modell nutzt 60 % eines Streams; eine Linie mit 8 Kameras bei 30 FPS und demselben Modell braucht ~4,8 Streams. Welche Ziel-GPU auch immer, validieren Sie das tatsächliche L an einer Stichprobe, bevor Sie sich festlegen: MIPS/TOPS-Angaben der Hersteller sind keine Inferenzlatenz.

Die drei Stufen

Stufe 1: Jetson-Klasse an der Kamera

NVIDIA Jetson Orin / NX Module eignen sich für Inspektionen mit einer oder wenigen Kameras, bei denen die GPU an der Kamera oder in einer kleinen Inline-Box sitzt. Leistungsrahmen ~10 bis 60 W, lüfterlos oder mit leisem Lüfter, einsetzbar in Hutschienen- oder Wandschränken. Am besten für: Stichprobeninspektion, einfache OCR, Anwesenheit/Abwesenheit, Ablesen von Messanzeigen. Siehe die NVIDIA Solution Plattformen von Avalue, darunter AIB-NIAO-S, AIB-NINX-S und AIB-NW01.

Stufe 2: RTX Ada in einem KI-Box-PC

Für Multi-Kamera-Linien (4 bis 8 Kameras), hochauflösende Eingaben oder 3D-Modellköpfe ist ein Industrie-Box-PC mit einer einzelnen diskreten RTX Ada (z. B. RTX 2000E Ada in einer geschlossenen Industriebox) der Sweet Spot. Leistung ~70 bis 200 W auf der GPU, PCIe Gen4 x16, erweiterbar für Framegrabber. Der MAB-T660D wird in dieser Stufe ausgeliefert (RTX 2000E Ada, PCIe Gen4 x16). Die vollständige Architektur finden Sie in unserem Beitrag zu MAB-T690/T660D.

Stufe 3: Xeon-6-Server mit Dual-Slot-GPUs

Für zentralisierte Bildverarbeitung mit vielen Kameras, große 3D-Rekonstruktion, AOI-Farmen oder Modelltraining/-aktualisierung übernimmt ein 1U/2U-Server mit einer oder zwei Dual-Slot-GPUs und PCIe Gen5. Das Edge-HPC-Portfolio von Avalue umfasst das 1U-System HPS-GNRU1A auf einem einzelnen Intel Xeon 6 Prozessor (bis zu 350 W TDP) mit FHFL-GPU-Erweiterung sowie den Server HPS-GNRU4A, der vier Dual-Slot-GPUs über PCIe Gen5 unterstützt. Siehe unseren Beitrag zu Edge HPC.

So wählen Sie aus

1. Listen Sie die Kameras, ihre Auflösung und Bildrate auf.
2. Wählen Sie das Kandidatenmodell (YOLO/Mask-RCNN/eigener Transformer) und messen Sie die Inferenzlatenz auf einer Kandidaten-GPU mit einem repräsentativen Bildstapel.
3. Multiplizieren Sie: Gesamter Stream-Bedarf = Σ (F × L / 1000) über alle Kameras.
4. Rechnen Sie ~30 % Reserve für Bildvorverarbeitung, Drift und künftige Modell-Upgrades hinzu.
5. Wählen Sie die kleinste Stufe, die den Bedarf abdeckt und das Latenzbudget einhält: Stufe 1, wenn die Summe < ein Jetson-Stream ist, Stufe 2 für Multi-Kamera-Linien mit einer Box, Stufe 3 für zentralisierte Multi-Linien- oder Trainings-Workloads.

Fallstricke, die Sie vermeiden sollten

• Dimensionierung nach TOPS statt nach gemessenen FPS
• Strom und Kühlung vergessen: Eine RTX Ada in einer geschlossenen Box kann im Sommer thermisch drosseln
• Single-GPU-Engpass, wenn ein Framegrabber PCIe Gen5 x16 Bandbreite benötigt
• Kein Upgrade-Pfad, wenn das Modell ein Jahr später durch ein größeres ersetzt wird

Wo TSL Automation ins Spiel kommt

TSL Automation liefert alle drei Stufen: AIB-Plattformen der Jetson-Klasse, Box-PCs mit RTX Ada und Xeon-6-GPU-Server. Kontaktieren Sie unser Team mit Ihrer Kameraanzahl, Bildrate, Ihrem Modell und Latenzbudget, und wir stellen Ihnen die kleinste Stufe zusammen, die den Bedarf abdeckt.