GeForce RTX 30 et RTX 40 : des moddeurs débloquent une cadence de calcul de GPU professionnels

Des moddeurs ont débloqué sur les GeForce RTX 30 et RTX 40 une cadence d'émission des instructions équivalente à celle des GPU professionnels correspondants. Ces cartes GeForce utilisent les mêmes puces que leurs homologues professionnels.

Sur les GeForce RTX 30 « Ampere », le déblocage double la vitesse d'émission des instructions FMA FP/BF16 avec accumulation en FP32 pour les puces GA102, GA103, GA104 et GA106. Ce déblocage se traduit par une multiplication matricielle BF16 jusqu'à 80 % plus rapide sur des cartes comme la GeForce RTX 3090 Ti.

Apparu presque au même moment, un projet distinct pour les GeForce RTX 40 « Ada Lovelace » a démontré un débit tensoriel doublé en FP16 et BF16 avec accumulation en FP32. Un essai de débit tensoriel FP16 avec accumulation matricielle fait état de 165,6 à 331,6 téraFLOPS sur la GeForce RTX 4090 avec le déblocage. Le projet prend en charge les puces AD102, AD103 et AD106.

Cette puissance de calcul supplémentaire augmente significativement le débit de tokens en prefill et en decode dans des tâches intensives telles que l'exécution locale de LLM. Sur GA102 et AD102, la puissance de carte utilisée reste de 450 W TGP avant comme après le déblocage.

Les deux modifications fonctionnent avec les pilotes NVIDIA d'origine, passent leurs vérifications et contournent le PCIe Function Level Reset. Elles doivent être activées au démarrage pour se rattacher à la carte avant les pilotes NVIDIA. TechPowerUp avertit toutefois que toute modification du GPU annule sa garantie.

Les GeForce RTX 20 « Turing » sont également concernées : une mise à jour indiquée à 09 h 20 UTC fait état d'un déblocage par la même technique, avec des performances annoncées doublées.