Forscher von Multiverse Computing haben gezeigt, dass das Hinzufügen einer winzigen Anzahl von Parametern, die auf einer Quantenmaschine ausgeführt werden, die Genauigkeit eines großen Sprachmodells erheblich verbessern kann. Ihre Arbeit, die auf der Plattform arXiv veröffentlicht wurde, ist ein erster Beleg dafür, dass Quantencomputer bereits weit verbreitete KI-Systeme verstärken können.
Um den Mechanismus hinter dieser Verbesserung zu verstehen, muss man sich einen Schlüsselindikator namens „Perplexität“ ansehen. Je niedriger die Perplexität eines Modells, desto besser kann es das nächste Wort in einem Satz vorhersagen. Traditionell wurde zur Senkung der Perplexität die Anzahl der Parameter erhöht, was die Infrastruktur belastete. Die Forscher fanden jedoch eine Alternative: den Einsatz spezialisierter Quantenblöcke, sogenannter unitärer Cayley-Adapter, die nur eine infinitesimale Erhöhung der Parameterzahl erfordern.
Konkret nahmen die Wissenschaftler das Modell Llama 3.1 8B von Meta, das 8 Milliarden Parameter umfasst. Sie froren seine ursprünglichen Parameter ein und fügten die zuvor auf einem klassischen Computer trainierten Cayley-Adapter ein. Das Ganze wurde auf dem Quantenprozessor IBM Quantum System Two mit 156 Qubits ausgeführt.
Das Ergebnis? Ein Rückgang der Perplexität um 1,4 % mit nur 6.000 zusätzlichen Parametern, also einer Steigerung von 0,000075 %. Ein derartiger Gewinn bei so geringen Änderungen ist spektakulär.
So zeigten die Tests konkrete Verbesserungen. Beispielsweise beantwortete das ursprüngliche Modell eine Astronomiefrage zu den Riesenplaneten falsch und behauptete, nur Saturn habe Ringe. Nach der Quantenerweiterung erkannte das hybride Modell korrekt, dass alle jupiterähnlichen Planeten Ringe besitzen. Ebenso wurde in der Biologie eine Frage zu den Folgen des Genflusses von der verbesserten Version besser beantwortet.
Darüber hinaus erklären die Autoren der Studie, dass dieser Ansatz den Weg für hybride KI-Systeme ebnet, die das Beste aus klassischer und Quantenwelt vereinen. Das ultimative Ziel ist die Erreichung einer „Quantenüberlegenheit“, bei der ein Quantencomputer Aufgaben ausführt, die für jeden klassischen Computer unmöglich sind.
Derzeit bleibt die Hauptschwierigkeit bei der Produktion von Quantencomputern im industriellen Maßstab das Rauschen, also die Fehler, die durch Umwelteinflüsse während der Quantenberechnungen verursacht werden. Derzeit sind nur wenige einfache Berechnungen auf einem Labor-Quantencomputer durchführbar.