Moderne Geräte sind mit mehreren Arten von elektronischen Chips ausgestattet, einschließlich der zentralen Verarbeitungseinheit (CPU), der Grafikverarbeitungseinheit (GPU), Hardware-Beschleunigern für künstliche Intelligenz (KI) und digitalen Signalverarbeitungseinheiten für Audio. Normalerweise verarbeiten diese Komponenten Daten getrennt und sequenziell, was die gesamte Verarbeitung verlangsamen kann.
Um diese Herausforderung zu meistern, schlägt ein Team von Wissenschaftlern ein innovatives Arbeitsmodell vor, bei dem die Verarbeitungseinheiten parallel statt nacheinander arbeiten. Diese Methode, genannt "simultanes und heterogenes Multi-Threading" (SHMT), ermöglicht es den verschiedenen Einheiten, gleichzeitig am selben Bereich des Computer-Codes zu arbeiten und somit die Verarbeitungseffizienz deutlich zu verbessern.
Im Gegensatz zum "Software-Pipelining", einer Methode, die es verschiedenen Komponenten ermöglicht, gleichzeitig an unterschiedlichen Aufgaben zu arbeiten, ermöglicht SHMT eine flexiblere Aufgabenverteilung zwischen den Komponenten. Das bedeutet, dass verschiedene Verarbeitungseinheiten gleichzeitig am selben Teil des Codes arbeiten können und dann zu neuen Aufgaben wechseln, sobald ihr Teil abgeschlossen ist.
Neben der Beschleunigung der Verarbeitung erweist sich SHMT auch als energieeffizienter. Viele Aufgaben, die normalerweise energieintensiven Komponenten wie der GPU zugewiesen werden, können an weniger energieintensive Hardware-Beschleuniger delegiert werden.
Diese Herangehensweise wurde an einem Prototyp-System getestet, bestehend aus einem ARM Multi-Core-CPU, einer Nvidia-GPU und einem TPU-Hardwarebeschleuniger, und zeigte Leistungen, die fast doppelt so hoch waren, sowie eine um 51% reduzierte Energieverbrauch im Vergleich zu einem traditionellen System.
Die Einführung dieses Software-Frameworks in bestehende Systeme könnte nicht nur die Hardwarekosten senken, sondern auch die Kohlendioxidemissionen und den Bedarf an Süßwasser zur Kühlung großer Rechenzentren verringern, dank einer effizienteren und umweltfreundlicheren Arbeitslastverwaltung.
Die Forscher weisen jedoch darauf hin, dass ihre Studie, die auf einem Prototyp basiert, weitere Arbeiten erfordert, um zu bewerten, wie diese Methode in praktischen Kontexten angewendet werden kann und welche Arten von Anwendungen am meisten davon profitieren könnten.