Je suis en plein dedans, j'implémente une interface multi-utilisateurs pour accéder à un système d'entreprise basée à base d'IA.
A terme le système va coder en texte et traduire en temps réel des conversations, dans des environnement bruités.
L'IA utilise massivement des calculs statiques matriciels, c'est des maths rien de plus, c'est très vite démystifiés.
Le problème c'est que les matrices de données sont immenses, nécessitent beaucoup de mémoire et des calculs matriciel.
On utilise des cartes graphiques (GPU), spécialisées dans les calculs parallèles, pour...
Paralléliser les calculs matriciels et donc, ne pas sérialiser. Le gain de temps est
énorme.
Mais, une seule machine, même avec les deux plus grosses cartes du marché ne suffisent pas encore.
Il faut un datacenter remplis d'ordinateurs, eux-même remplis de cartes graphiques pour répondre aux besoins de mise en parallèle des statistiques matriciels.
Retenez GPU versus CPU, grands calculs statistiques matriciels répartit entre multiples machines distantes donc.
C'est là qu'entre en jeux cette invention !
Le câble thunderbolt c'est USB4/Thunderbolt 5 : câble cuivre environ 0,3 à 0,8 m pour 80-120 Gbit/s.
Dans un datacenter, les distances sont parfois de plus de 100 mètres entre certains ordinateurs (servers).
Je vous renvoie au théorème de Shannon-Hartley, souvent appelé également limite de Shannon.
Le théorème de Shannon établit la capacité maximale d’un canal bruité, c’est-à-dire le débit le plus élevé possible sans erreurs, selon sa bande passante et son rapport signal/bruit.
Sa formule classique est :
Code : Tout sélectionner
Capacité (bits/s) = Bande Passante (Hz). Log 2 ( 1+ Signal /Bruit)
Dans un datacenter, pour transférer de très grandes quantités de données, de grandes matrices entres les serveurs, il faut des fibres optiques.
Les plus pures possibles, sans possibilité de génération de bruits (parasitage lumineux) pour le meilleur rapport signal sur bruit (tendre vers un bruit à zéro, tel est ma quête).
Plus les transmissions de données sont rapides avec moins d'énergie, au plus vous pouvez paralléliser vos calculs matriciels, au plus votre IA sera rapide, au moins d'énergie vous consommez.