Qualcomm hat seinen AI Hub vorgestellt, eine umfassende Bibliothek voroptimierter KI-Modelle, die auf Geräten verwendet werden können, die auf Snapdragon- und Qualcomm-Plattformen laufen.
Diese Modelle unterstützen eine breite Palette von Anwendungen, darunter die Verarbeitung natürlicher Sprache, Computer Vision und Anomalieerkennung, und sind darauf ausgelegt, hohe Leistung bei minimalem Stromverbrauch zu liefern, ein entscheidender Faktor für Mobil- und Edge-Geräte.
Die AI Hub-Bibliothek umfasst derzeit mehr als 75 beliebte KI- und generative KI-Modelle, darunter Whisper, ControlNet, Stable Diffusion und Baichuan 7B. Alle Modelle sind in verschiedenen Laufzeiten gebündelt und darauf optimiert, die Hardwarebeschleunigung der Qualcomm AI Engine über alle Kerne (NPU, CPU und GPU) hinweg zu nutzen. Laut Qualcomm werden sie viermal schnellere Inferenzzeiten liefern.
Dokumentation und Tutorials werden bereitgestellt
Der AI Hub übernimmt auch automatisch die Modellübersetzung vom Quellframework in gängige Laufzeiten. Es arbeitet direkt mit dem Qualcomm AI Engine Direct SDK zusammen und wendet hardwarebewusste Optimierungen an. Entwickler können je nach Bedarf nach Modellen suchen, diese herunterladen und in ihre Anwendungen integrieren, was Zeit und Ressourcen spart.
Der AI Hub stellt Entwicklern auch Tools und Ressourcen zur Verfügung, um diese Modelle anzupassen, und sie können sie mithilfe des Qualcomm Neural Processing SDK und des AI Model Efficiency Toolkits, die beide auf der Plattform verfügbar sind, verfeinern.
Um den AI Hub nutzen zu können, benötigen Entwickler ein trainiertes Modell im PyTorch-, TorchScript-, ONNX- oder TensorFlow Lite-Format und ein gutes Verständnis des Bereitstellungsziels, bei dem es sich um ein bestimmtes Gerät (wie Samsung Galaxy S23 Ultra) oder eine Reihe von Geräten handeln kann .
Der AI Hub ist jedoch nicht ausschließlich für erfahrene Entwickler gedacht. Es dient auch als Lernplattform und bietet umfassende Dokumentationen und Tutorials für diejenigen, die sich in die Welt der KI wagen.
Qualcomm plant, den AI Hub regelmäßig mit neuen Modellen und Unterstützung für zusätzliche Plattformen und Betriebssysteme zu aktualisieren. Entwickler können sich anmelden, um auf in der Cloud gehosteten Geräten auf Basis von Qualcomm-Plattformen auf diese Modelle zuzugreifen und frühzeitig auf neue Funktionen und KI-Modelle zuzugreifen.
