[News] ⚡1000 Gb par seconde: une puce pour une IA ultra rapide
Modérateur : Modérateurs
-
Adrien
- Site Admin
- Messages : 34287
- Inscription : 02/06/2004 - 18:58:53
- Activité : Ingénieur
- Localisation : 78
[News] ⚡1000 Gb par seconde: une puce pour une IA ultra rapide
Les systèmes d'intelligence artificielle (IA) comme ChatGPT nécessitent une grande quantité d'énergie pour fonctionner. Pour répondre à cet enjeu, une équipe du Centre d'optique, photonique et lasers (COPL) a conçu une puce optique qui permet de transférer rapidement une quantité gigantesque de données. Aussi fine qu'un cheveu, cette technologie offre une efficacité énergétique inégalée.
Publiée dans la revue Nature Photonics, cette innovation repose sur l'utilisation de la l...
-
Jean-Michel
- Messages : 92
- Inscription : 10/11/2012 - 12:15:39
- Activité : Ingénieur
Re: [News] ⚡1000 Gb par seconde: une puce pour une IA ultra rapide
Depuis 2023 le thunderbolt 5 fait 120 Gb/s sur un micro ordinateur personnel, alors toute cette débauche de moyens pour seulement 8 fois plus vite ? Aujourd’hui les labos doivent déjà dépasser cette vitesse.
Ca fait un peu plouf je trouve. Surtout que ça doit être très lent comparé aux échanges à l’intérieur du même processeur.
Ca fait un peu plouf je trouve. Surtout que ça doit être très lent comparé aux échanges à l’intérieur du même processeur.
- QJ
- Messages : 679
- Inscription : 18/04/2007 - 9:47:23
- Activité : Ingénieur
- Localisation : Lost in Space
Re: [News] ⚡1000 Gb par seconde: une puce pour une IA ultra rapide
Je suis en plein dedans, j'implémente une interface multi-utilisateurs pour accéder à un système d'entreprise basée à base d'IA.
A terme le système va coder en texte et traduire en temps réel des conversations, dans des environnement bruités.
L'IA utilise massivement des calculs statiques matriciels, c'est des maths rien de plus, c'est très vite démystifiés.
Le problème c'est que les matrices de données sont immenses, nécessitent beaucoup de mémoire et des calculs matriciel.
On utilise des cartes graphiques (GPU), spécialisées dans les calculs parallèles, pour...
Paralléliser les calculs matriciels et donc, ne pas sérialiser. Le gain de temps est énorme.
Mais, une seule machine, même avec les deux plus grosses cartes du marché ne suffisent pas encore.
Il faut un datacenter remplis d'ordinateurs, eux-même remplis de cartes graphiques pour répondre aux besoins de mise en parallèle des statistiques matriciels.
Retenez GPU versus CPU, grands calculs statistiques matriciels répartit entre multiples machines distantes donc.
C'est là qu'entre en jeux cette invention !
Le câble thunderbolt c'est USB4/Thunderbolt 5 : câble cuivre environ 0,3 à 0,8 m pour 80-120 Gbit/s.
Dans un datacenter, les distances sont parfois de plus de 100 mètres entre certains ordinateurs (servers).
Je vous renvoie au théorème de Shannon-Hartley, souvent appelé également limite de Shannon.
Le théorème de Shannon établit la capacité maximale d’un canal bruité, c’est-à-dire le débit le plus élevé possible sans erreurs, selon sa bande passante et son rapport signal/bruit.
Sa formule classique est :
Dans un datacenter, pour transférer de très grandes quantités de données, de grandes matrices entres les serveurs, il faut des fibres optiques.
Les plus pures possibles, sans possibilité de génération de bruits (parasitage lumineux) pour le meilleur rapport signal sur bruit (tendre vers un bruit à zéro, tel est ma quête).
Plus les transmissions de données sont rapides avec moins d'énergie, au plus vous pouvez paralléliser vos calculs matriciels, au plus votre IA sera rapide, au moins d'énergie vous consommez.
A terme le système va coder en texte et traduire en temps réel des conversations, dans des environnement bruités.
L'IA utilise massivement des calculs statiques matriciels, c'est des maths rien de plus, c'est très vite démystifiés.
Le problème c'est que les matrices de données sont immenses, nécessitent beaucoup de mémoire et des calculs matriciel.
On utilise des cartes graphiques (GPU), spécialisées dans les calculs parallèles, pour...
Paralléliser les calculs matriciels et donc, ne pas sérialiser. Le gain de temps est énorme.
Mais, une seule machine, même avec les deux plus grosses cartes du marché ne suffisent pas encore.
Il faut un datacenter remplis d'ordinateurs, eux-même remplis de cartes graphiques pour répondre aux besoins de mise en parallèle des statistiques matriciels.
Retenez GPU versus CPU, grands calculs statistiques matriciels répartit entre multiples machines distantes donc.
C'est là qu'entre en jeux cette invention !
Le câble thunderbolt c'est USB4/Thunderbolt 5 : câble cuivre environ 0,3 à 0,8 m pour 80-120 Gbit/s.
Dans un datacenter, les distances sont parfois de plus de 100 mètres entre certains ordinateurs (servers).
Je vous renvoie au théorème de Shannon-Hartley, souvent appelé également limite de Shannon.
Le théorème de Shannon établit la capacité maximale d’un canal bruité, c’est-à-dire le débit le plus élevé possible sans erreurs, selon sa bande passante et son rapport signal/bruit.
Sa formule classique est :
Code : Tout sélectionner
Capacité (bits/s) = Bande Passante (Hz). Log 2 ( 1+ Signal /Bruit)Les plus pures possibles, sans possibilité de génération de bruits (parasitage lumineux) pour le meilleur rapport signal sur bruit (tendre vers un bruit à zéro, tel est ma quête).
Plus les transmissions de données sont rapides avec moins d'énergie, au plus vous pouvez paralléliser vos calculs matriciels, au plus votre IA sera rapide, au moins d'énergie vous consommez.
-
Jean-Michel
- Messages : 92
- Inscription : 10/11/2012 - 12:15:39
- Activité : Ingénieur
Re: [News] ⚡1000 Gb par seconde: une puce pour une IA ultra rapide
Je comprends mieux la différence et l’intérêt, merci beaucoup pour ces explications