⚡1000 Gb par seconde: une puce pour une IA ultra rapide

Restez toujours informé : suivez-nous sur Google (☆)

Les systèmes d'intelligence artificielle (IA) comme ChatGPT nécessitent une grande quantité d'énergie pour fonctionner. Pour répondre à cet enjeu, une équipe du Centre d'optique, photonique et lasers (COPL) a conçu une puce optique qui permet de transférer rapidement une quantité gigantesque de données. Aussi fine qu'un cheveu, cette technologie offre une efficacité énergétique inégalée.

Publiée dans la revue Nature Photonics, cette innovation repose sur l'utilisation de la lumière pour transmettre l'information. Contrairement aux systèmes traditionnels qui exploitent uniquement l'intensité lumineuse, cette puce utilise également la phase de la lumière, c'est-à-dire son décalage.

La puce, aussi fine qu'un cheveu, compte sur deux paires de microrésonateurs en anneau pour atteindre une performance inégalée. — Courtoisie

En ajoutant une nouvelle dimension au signal, le système atteint une performance inégalée, tout en conservant une taille minuscule. "On passe d'une vitesse de 56 gigabits (Gb) par seconde à 1000 Gb par seconde", souligne le doctorant Alireza Geravand, premier auteur de l'étude.

L'équivalent de 100 millions de livres transférés en 7 minutes

L'équipe de recherche voit un potentiel énorme pour l'apprentissage des modèles d'IA. "Avec 1000 gigabits par seconde, vous pourriez transférer toutes les données d'entraînement - l'équivalent de plus de 100 millions de livres - en moins de 7 minutes, c'est le temps de se préparer un café", ajoute-t-il. Et tout cela ne consommerait que 4 joules, soit l'énergie nécessaire pour chauffer un millilitre d'eau d'un degré Celsius.

L'innovation repose sur des microrésonateurs en anneau. Ces minuscules dispositifs de silicium sont capables de manipuler la lumière et d'y encoder de l'information. Le système est composé de deux paires d'anneaux: une pour l'intensité, l'autre pour la phase.

Les centres de données d'IA actuels utilisent des dizaines, voire des centaines de milliers de processeurs, qui communiquent entre eux comme les neurones d'un cerveau. Avec une longueur de quelques millimètres chacun, l'infrastructure nécessaire devient vite énorme et l'énergie pour l'alimenter aussi. "On se retrouve avec un système qui fait des kilomètres de long", précise le doctorant. Grâce à leur technologie, les dispositifs peuvent communiquer rapidement et efficacement, comme s'ils n'étaient qu'à quelques mètres l'un de l'autre. C'est un avantage considérable alors que les besoins en IA ne cessent de croître.

Le doctorant Alireza Geravand travaille sur cette technologie dans les laboratoires du COPL. — Dany Vachon

Cette technologie pourrait être intégrée dans l'industrie dans les prochaines années. Des entreprises comme NVIDIA commencent déjà à utiliser des microrésonateurs, bien qu'ils soient limités à l'intensité lumineuse.

"Il y a 10 ans, notre laboratoire avait démontré cette technologie. Aujourd'hui, nous franchissons une nouvelle étape. Peut-être que dans quelques années, l'industrie nous rattrapera et cette innovation se retrouvera sur le marché", conclut Alireza Geravand.

Les autres signataires de l'étude sont Zibo Zheng, Farshid Shateri, Simon Levasseur, Leslie A. Rusch et Wei Shi.

JE
Jean-Michel

Depuis 2023 le thunderbolt 5 fait 120 Gb/s sur un micro ordinateur personnel, alors toute cette débauche de moyens pour seulement 8 fois plus vite ? Aujourd’hui les labos doivent déjà dépasser cette vitesse.
Ca fait un peu plouf je trouve. Surtout que ça doit être très lent comparé aux échanges à l’intérieur du même processeur.

avatar
QJ

Je suis en plein dedans, j'implémente une interface multi-utilisateurs pour accéder à un système d'entreprise basée à base d'IA.
A terme le système va coder en texte et traduire en temps réel des conversations, dans des environnement bruités.
L'IA utilise massivement des calculs statiques matriciels, c'est des maths rien de plus, c'est très vite démystifiés.
Le problème c'est que les matrices de données sont immenses, nécessitent beaucoup de mémoire et des calculs matriciel.

On utilise des cartes graphiques (GPU), spécialisées dans les calculs parallèles, pour...
Paralléliser les calculs matriciels et donc, ne pas sérialiser. Le gain de temps est énorme.

Mais, une seule machine, même avec les deux plus grosses cartes du marché ne suffisent pas encore.
Il faut un datacenter remplis d'ordinateurs, eux-même remplis de cartes graphiques pour répondre aux besoins de mise en parallèle des statistiques matriciels.

Retenez GPU versus CPU, grands calculs statistiques matriciels répartit entre multiples machines distantes donc.

C'est là qu'entre en jeux cette invention !

Le câble thunderbolt c'est USB4/Thunderbolt 5 : câble cuivre environ 0,3 à 0,8 m pour 80-120 Gbit/s.
Dans un datacenter, les distances sont parfois de plus de 100 mètres entre certains ordinateurs (servers).

Je vous renvoie au théorème de Shannon-Hartley, souvent appelé également limite de Shannon.
Le théorème de Shannon établit la capacité maximale d’un canal bruité, c’est-à-dire le débit le plus élevé possible sans erreurs, selon sa bande passante et son rapport signal/bruit.

Sa formule classique est :

[code]Capacité (bits/s) = Bande Passante (Hz). Log 2 ( 1+ Signal /Bruit)

[/code]

Dans un datacenter, pour transférer de très grandes quantités de données, de grandes matrices entres les serveurs, il faut des fibres optiques.
Les plus pures possibles, sans possibilité de génération de bruits (parasitage lumineux) pour le meilleur rapport signal sur bruit (tendre vers un bruit à zéro, tel est ma quête).

Plus les transmissions de données sont rapides avec moins d'énergie, au plus vous pouvez paralléliser vos calculs matriciels, au plus votre IA sera rapide, au moins d'énergie vous consommez.

JE
Jean-Michel

Je comprends mieux la différence et l’intérêt, merci beaucoup pour ces explications