In den Bereichen Mobiltelefone, Sicherheitsüberwachung, Automobile und Augmented Reality/Virtual Reality (AR/VR) umfassen alle Arten eingebetteter Anwendungen, die entwickelt oder geplant werden, neuronale Netze, und die Anwendungen neuronaler Netze nehmen explosionsartig zu. Der Bereich der Innovation neuronaler Netze ist außergewöhnlich, seine eigene Architektur wird ständig aktualisiert und es entstehen auch endlos neue Netze, neue Anwendungen und Märkte. Mit der Vertiefung und Komplexität neuronaler Netzwerkanwendungen steigen die Anforderungen an die Rechenleistung von Tag zu Tag. In weniger als vier Jahren sind die MAC-/Frame-Computing-Anforderungen etwa um das 4-fache gestiegen (siehe Abbildung 16).
Abbildung 1: Das Wachstum der MAC/Frame-Computing-Anforderungen
Mit der Entwicklung neuronaler Netze steigt die Nachfrage nach der Einbettung von Prozessoren (anstelle der Verwendung von CPUs und GPUs) in Geräte weiter. Allerdings haben die Verarbeitungsleistung und die Betriebsgeschwindigkeit des Netzwerks nicht mit den Entwicklungsanforderungen neuronaler Netzwerkanwendungen Schritt gehalten. Besonders deutlich wird dieser Konflikt im Bereich der Vision-Anwendungen. Bisher kann die Erfüllung der Anforderungen neuronaler Netzwerkanwendungen nur auf die Ressourcen traditioneller Rechenzentren zurückgreifen. Da jedoch Sicherheit und Latenz immer wichtiger werden, werden neuronale Netze immer häufiger über eingebettete Systeme für die Echtzeit-Datenverarbeitung implementiert. Obwohl das Training neuronaler Netze größtenteils offline durchgeführt werden kann, müssen Anwendungen, die neuronale Netze verwenden, es in das System einbetten.
Bei allen eingebetteten Anwendungen stehen AR/VR oder Mixed Reality vor einzigartigen Herausforderungen. Bei den meisten Geräten in den oben genannten Bereichen handelt es sich um tragbare Geräte wie intelligente Helme, Kopfhörer oder intelligente Brillen. Sie sind auf Batteriestrom angewiesen und gehören zu den wichtigsten Überlegungen bei der Auswahl einer neuronalen Netzwerklösung für den Energieverbrauch. Eine weitere wichtige Anforderung für AR/VR-Anwendungen ist die Reduzierung der Latenz, daher müssen neuronale Netze die Geräteeinbettung implementieren. Alle diese Geräte erfordern eine Art Bilderkennung, Gestenerkennung, Stereokamerasegmentierung, 3D-Erkennung, Kopfverfolgung, Augenerkennung und Augenverfolgungsfunktionen. Es gibt viele verschiedene Bildgebungstechnologien, aber im Laufe der Zeit werden einige dieser Funktionen, wie das semantische Umgebungsverständnis, die Gestenerkennung oder die Bilderkennung, alle durch neuronale Netze realisiert. Zusätzlich zu bildgebenden/visuellen neuronalen Netzen stellen diese Geräte auch Anforderungen an akustische/audioneuronale Netze, um Sprachbefehle zu empfangen.
Im heutigen sich schnell verändernden technologischen Umfeld müssen Hersteller von AR/VR-Geräten sofort Plattformen für Produkte auswählen, die 2019, 2020 und sogar später vermarktet werden sollen. Nach der Einführung des neuen neuronalen Netzwerks können wir aufgrund der kontinuierlichen Änderungen seiner Architektur die Wirksamkeit der derzeit effektiven Arbeitsplattform im zukünftigen System nicht gewährleisten. Darüber hinaus erfordern diese Anwendungen auch eine geringe Latenz und einen geringen Stromverbrauch, was ebenfalls besonders wichtig ist; Angesichts des kontinuierlichen Wachstums der Anforderungen an neuronale Netze und der kontinuierlichen Weiterentwicklung dieses Trends müssen wir jedoch weiterhin ein gewisses Maß an Flexibilität und Zukunftsorientierung gewährleisten.
Derzeit gibt es zwei Hauptoptionen für die Implementierung neuronaler Netze: CPU/GPU oder die Verwendung von Hardwarebeschleunigern und passendem Bildgebungs-DSP. Diese beiden Optionen können jeweils einige der Herausforderungen lösen, mit denen Designer konfrontiert sind. Beide weisen jedoch einige unbefriedigende Kompromisse hinsichtlich der einfachen Entwicklung, der Energieeffizienz, der Latenz, dem Platz für zukünftige Upgrades oder der Leistung auf. Hardwarebeschleuniger und passender Bildverarbeitungs-DSP sind eine der Möglichkeiten eingebetteter Geräte, aber diese Kombination ist ineffizient und erzeugt unnötigen Stromverbrauch. Zusätzlich zu den Entwicklungsschwierigkeiten muss die Software auch zwischen dem DSP und dem Beschleuniger aufgeteilt werden. Nur das Entladen der Faltungsschicht erhöht die Belastung der Datenübertragung erheblich und beeinträchtigt die Effizienz. Darüber hinaus ist die Hardware zum Zeitpunkt des Tapeouts repariert, sodass diese Beschleuniger keinen Platz für zukünftige Upgrades haben.
DSP-Lösungen für neuronale Netze, die den Anforderungen eingebetteter Anwendungen gerecht werden, müssen die folgenden Anforderungen erfüllen: einfach zu entwickeln, große Datenmengen verarbeiten können, Raum für zukünftige Upgrades bieten, Energie effizient nutzen und Verzögerungen minimieren.
Trittfrequenzlösung: Tensilica Vision C5 digitaler Signalprozessor (DSP)
Als optimierte Lösung für Vision- und Fusionssensoranwendungen ist Cadence Tensilica Vision C5 DSP der branchenweit erste DSP, der sich auf die Verarbeitung neuronaler Netzwerke konzentriert und für Multiprozessorarchitekturen geeignet ist. Diese Lösung erreicht eine beispiellose Geschwindigkeit und einen geringen Stromverbrauch und erfüllt alle Anforderungen der High-End-Technologie neuronaler Netzwerke.
Die Lösung basiert auf fast 20 Jahren Erfahrung mit Xtensa-Multiprozessoren und bietet Funktionen wie die gemeinsame Nutzung von Speicherstrukturen, erlaubte Interrupts, synchronisierte Warteschlangen und synchronisiertes Multiprozessor-Debugging. Vision C5 DSP kann die Berechnungsbeschleunigung aller neuronalen Netzwerkschichten (Faltungsschicht, vollständig verbundene Schicht, Pooling-Schicht und Normalisierungsschicht) realisieren, nicht nur der Faltungsschichtfunktion. Daher wird die Fähigkeit des Haupt-Bildverarbeitungs-DSP freigegeben, Bildverbesserungsanwendungen unabhängig auszuführen; während der Vision C5 DSP Inferenzaufgaben ausführt. Durch den Wegfall der redundanten Datenübertragung des Hardwarebeschleunigers ist der Stromverbrauch des Vision C5 DSP deutlich geringer als der des vorhandenen Beschleunigers für neuronale Netze.
Vision C5 DSP verfügt über eine Rechenleistung von 1TMAC/Sek., was den ständig steigenden Rechenanforderungen neuronaler Netze gerecht werden kann; Es verfügt außerdem über genaue Berechnungen, eine Multi-Core-Designarchitektur und unterstützt eingebettete Multi-TMAC-Lösungen. Vision C5 DSP richtet sich an Anwendungen, die häufig mehrere neuronale Netze ausführen. Aufgrund ihrer programmierbaren Eigenschaften bietet die Lösung Raum für zukünftige Upgrades und kann neue Schichten unterstützen, wenn sich das Design ändert.
Das Vision-Verarbeitungssystem muss umfassend konzipiert und auf allen Plattformen anwendbar sein und gleichzeitig Hardware und Software entwickeln. Um diese Technologie zu entwickeln, müssen Designer Tools und geistiges Eigentum verwenden, die effiziente Algorithmen unterstützen, und die verwendete Hardwareplattform muss außerdem die angestrebten Kosten- und Stromverbrauchsanforderungen jeder Anwendung erfüllen. Aus Systemsicht kann Cadence Entwickler von Embedded-Vision-Geräten dabei unterstützen, transformative Produkte so schnell und effizient wie möglich zu entwickeln.
Unsere anderen Produkt:
