NVIDIA publie des modèles open source de Llama-NemotronAI en versions 8B, 49B et 253B. Le modèle phare LN-Ultra surpasse les 671 milliards de DeepSeek-R1 dans plusieurs benchmarks avec seulement 253 milliards de paramètres, tout en permettant un fonctionnement plus efficace sur un seul nœud xH100. Le processus d'entraînement en cinq étapes de la série, avec des techniques innovantes, comprend la commutation d'inférence, l'optimisation en fonction du matériel et l'entraînement à partir de données synthétiques. La relation positive entre l'échelle et la performance des paramètres de performance du modèle marque l'ère de l'efficacité de l'IA, et sa licence open source accélérera l'adoption de la technologie.
- Ce résumé est généré par une IA qui analyse le contenu de l'article à des fins d'information uniquement.
Le nouveau juggernaut open source de NVIDIA : une révolution dans l'efficacité de 671 milliards à 253 milliards de paramètres
À l'heure du développement rapide des grands modèles d'IA, NVIDIA fait une nouvelle fois parler d'elle grâce à ses prouesses technologiques. Récemment, NVIDIA a publié la série de modèles Llama-Nemotron qui se sont rapidement hissés au sommet des modèles open-source avec une efficacité et des performances étonnantes, surpassant même DeepSeek-R1, qui a un nombre beaucoup plus important de paramètres, dans un certain nombre de points de référence clés.
La série Llama-Nemotron comprend trois modèles :
- LN-Nano (8B)Les appareils miniatures efficaces conçus pour les appareils en périphérie et les applications mobiles
- LN-Super (49B)La nouvelle génération d'appareils : Un modèle de milieu de gamme qui allie performance et efficacité
- LN-Ultra (253B)Modèle d'inférence : modèle d'inférence phare conçu pour les tâches complexes
Plus étonnant encore, LN-Ultra surpasse DeepSeek-R1 dans un certain nombre de repères clés tels que GPQA-Diamond (76,01 contre 71,5), IFEval (89,45 contre 83,3) et LiveCodeBench (66,31), avec seulement 253 milliards de paramètres (environ un tiers des 671 milliards de paramètres de DeepSeek-R1). Selon les benchmarks, y compris GPQA-Diamond (76,01 contre 71,31), IFEval (8,45 contre 71,45) et LiveCodeBench (66,31), LN-Ultra surpasse DeepSeek-R1 sur toute la ligne et, plus important encore, LN-Ultra fonctionne efficacement sur un seul nœud 8xH100, alors que DeepSeek-R1 nécessite du matériel 8xH200, ce qui signifie qu'il est non seulement plus performant, mais qu'il offre également un meilleur débit de raisonnement et un seuil de déploiement plus bas.
Selon l'Artificial Analytics Intelligence Index, en avril 2025, Llama-Nemotron-Ultra a été reconnu comme le modèle open source le plus "intelligent" disponible. Cette série de modèles, tous soumis à des licences open source favorables aux entreprises, la NVIDIA Open Model License et la Llama Community Licence, permet aux entreprises de les utiliser et de les modifier librement, ce qui accélérera sans aucun doute la popularité de la technologie de l'IA et de l'innovation dans les applications.
La formation au modèle dévoilée : 140 000 heures de H100 dans un processus de construction en cinq étapes
NVIDIA a révélé le processus de construction en cinq étapes de la famille de modèles Llama-Nemotron dans un rapport technique, montrant tous les détails techniques, de l'optimisation de l'architecture à l'apprentissage par renforcement.
Phase 1 : Recherche d'une architecture neuronale avec fusion FFN
L'équipe a commencé par optimiser en profondeur l'architecture originale basée sur Llama 3.1 à l'aide d'un cadre de recherche d'architecture neuronale (NAS) appelé Puzzle. Les variations ont été mises en œuvre en construisant une bibliothèque de modules de transformation alternatifs :
- Suppression sélective du mécanisme d'attention afin de réduire les calculs et la consommation de mémoire cache de la KV
- Dimensions variables du FFN pour la compression de modèles à différentes granularités
La technologie FFN Fusion (FFN Fusion) est particulièrement innovante : lorsque des blocs FFN continus apparaissent dans le modèle après que le NAS a supprimé certaines des couches d'attention, FFN Fusion remplace ces structures par des couches FFN moins nombreuses, mais plus larges, exécutables en parallèle, ce qui améliore considérablement l'efficacité des calculs dans un environnement multi-GPU.
Phase 2 : Distillation des connaissances et préformation continue
Après l'optimisation de l'architecture, l'équipe a procédé à une distillation des connaissances à grande échelle avec un pré-entraînement continu pour récupérer et améliorer les performances du modèle :
- LN-Super forme 40 milliards de tokens à l'aide de l'ensemble de données Distillation Mix
- LN-Ultra entraîne d'abord le même ensemble de données pour 65 milliards de jetons, puis continue à entraîner 88 milliards de jetons sur l'ensemble de données Nemotron-H de niveau 4.
Phase III : Synthèse des données pour le suivi de la mise au point
La phase de mise au point supervisée utilise une méthodologie innovante de formation de données synthétiques qui construit soigneusement des ensembles de données contenant à la fois des échantillons inférentiels et non inférentiels :
- Exemple de raisonnement : "Réflexion détaillée sur" a été ajouté à la commande système.
- Échantillons non raisonnés : utilisation de la "réflexion détaillée".
Cette conception permet au modèle de changer dynamiquement de comportement d'inférence en fonction du contenu de l'indice, jetant ainsi les bases de la fonction de "changement d'inférence".
Phase 4 : Formation intensive massive d'apprentissage
Cette phase est essentielle pour que LN-Ultra surpasse DeepSeek-R1. L'équipe a utilisé le même algorithme de GRPO (Grouped Relative Policy Optimisation) que DeepSeek-R1, et la conception innovante du processus de formation comprenait :
- Incitations : incitations à la précision (basées sur la correspondance avec les réponses standard) et incitations au format (pour forcer l'utilisation d'étiquettes spécifiques)
- Filtrage des données : les échantillons simples avec un taux de réussite ≥75% ont été pré-censurés.
- Formation : attribution progressive des lots sur la base du taux de réussite, avec une transition graduelle entre les échantillons faciles et les échantillons difficiles.
L'ensemble du processus de formation consomme environ 140 000 heures de GPU H100, utilise 72 nœuds (8 GPU H100 par nœud) et emploie la précision FP8 dans la phase de génération et la précision BF16 dans la phase de formation. Cette combinaison de techniques permet à LN-Ultra d'obtenir des améliorations significatives de la précision sur l'ensemble de données GPQA-Diamond.
Phase 5 : Alignement des commandes et optimisation des préférences humaines
Une courte session d'apprentissage par renforcement a été menée lors de la phase finale, afin d'optimiser les capacités de suivi des commandes du modèle et l'alignement des préférences humaines. L'équipe a utilisé la technologie RLHF pour améliorer la capacité d'aide générale du modèle et ses performances en matière de chat, tout en conservant ses capacités dans des domaines spécialisés tels que les mathématiques et les sciences. Les résultats ont montré que le LN-Super aligné a obtenu un score de 88,3 au test Arena Hard, surpassant des modèles propriétaires tels que Claude 3.5 Sonnet et GPT-4o.
Innovation révolutionnaire : Fonctionnalité de commutation d'inférence et optimisation de la prise de conscience du matériel
L'une des plus grandes innovations de la série Llama-Nemotron est la fonction de commutation de raisonnement, qui permet à l'utilisateur de passer dynamiquement d'un mode à l'autre en ajoutant simplement "detailed thinking on/off" (réflexion détaillée activée/désactivée) à l'invite du système :
- Mode de discussion standardLes services de l'administration centrale : Répondre rapidement aux questions quotidiennes par des réponses directes.
- modèle d'inférence profondeLes élèves sont capables d'effectuer des raisonnements complexes en plusieurs étapes, en faisant preuve d'un processus de réflexion complet.
Cette conception résout l'un des principaux problèmes des modèles d'IA actuels : les développeurs n'ont pas besoin de maintenir des modèles avec des architectures différentes et peuvent ajuster les comportements des modèles de manière flexible en fonction de la demande. Dans l'espace open source mondial de l'IA, il s'agit de la première famille de modèles à mettre en œuvre une telle fonctionnalité.
Au niveau de l'optimisation matérielle, la série Nemotron a fait l'objet d'une optimisation matérielle approfondie :
- Soutien à la précisionBF16 est utilisé dans la phase d'apprentissage, FP8 est utilisé dans la phase de génération (apportant une accélération de 1,8x) et l'état de l'optimiseur est conservé en FP32.
- Génération de précision FP8Le chercheur a développé un modèle de génération de précision FP8 en ligne prenant en charge le cadre vLLM, avec un débit de génération allant jusqu'à 32 jetons/s par invite sur un seul GPU.
- Chargeur de poids vLLM personnaliséConversion des poids BF16 au format FP8 au moment de l'exécution
Grâce à ces optimisations, LN-Ultra atteint un débit d'inférence quatre fois supérieur à celui de DeepSeek-R1, tout en conservant une précision supérieure.
Comparaison des performances : dissiper le mythe d'une relation linéaire entre le nombre de paramètres et les performances
Grâce à des tests comparatifs, la famille de modèles Llama-Nemotron démontre une performance supérieure à son échelle paramétrique :
| modélisation | GPQA-Diamond | IFEval | LiveCodeBench | Arena Hard |
|---|---|---|---|---|
| LN-Ultra (253B) | 76.01 | 89.45 | 66.31 | 85.2 |
| Profondeur de l'eau-R1 | 71.5 | 83.3 | – | 81.7 |
| Llama 3.1-405B | 70.7 | 88.5 | 63.3 | 82.4 |
Même le LN-Super (49B), plus petit, s'est bien comporté, obtenant un score élevé de 88,3 au test Arena Hard, surpassant des modèles propriétaires tels que le Claude 3.5 Sonnet et le GPT-4o-2024-05-13, et surpassant des modèles open source beaucoup plus grands.
Plus particulièrement, sur la tâche JudgeBench (distinction entre les réponses de haute et de basse qualité), LN-Ultra devient le modèle open-source le plus performant, surpassant de manière significative DeepSeek-R1, et se plaçant en deuxième position derrière le modèle propriétaire o3-mini(high). C'est une bonne preuve de la capacité de généralisation du modèle.
Le nouveau paysage de l'Open Source : l'aube de l'ère de l'efficacité
Le lancement de la série Llama-Nemotron marque une nouvelle phase de développement de l'IA qui met l'accent sur l'efficacité et a un impact sur l'industrie à bien des égards :
- Briser les barrières des paramètresLes objectifs sont les suivants : surpasser les grands modèles à plus petite échelle et remettre en question l'idée reçue selon laquelle "plus c'est grand, mieux c'est".
- Abaisser le seuil de déploiementLa conception architecturale efficace permet à un plus grand nombre d'entreprises d'accéder à des déploiements de modèles de grande envergure.
- Accélérer l'innovation technologiqueLa stratégie de l'open source accélérera la diffusion de la technologie et de l'innovation dans le domaine de l'IA
- Promouvoir la recherche sur l'efficacitéla motivation d'un plus grand nombre de chercheurs à explorer les limites de l'efficacité des grands modèles
Alors que la course à l'IA entre dans une ère où l'efficacité est reine, un certain nombre d'innovations rendues publiques par la série Llama-Nemotron de NVIDIA - des commutateurs d'inférence dynamiques à l'optimisation matérielle, et de l'entraînement de données synthétiques à l'apprentissage par renforcement à grande échelle - devraient influencer l'orientation future des grands modèles.
L'importance de cette divulgation technologique réside non seulement dans la naissance d'une nouvelle génération de modèles à haut rendement, mais aussi dans l'établissement d'une nouvelle référence technique pour l'ensemble de l'industrie de l'IA, qui favorise l'évolution continue de la technologie de l'IA dans le sens d'une plus grande praticité et d'une plus grande universalité. Avec le soutien d'un matériel de nouvelle génération tel que le futur GPU B100, cette série de modèles n'est probablement que le début de la révolution de l'efficacité.
Si vous souhaitez utiliser les comptes exclusifs officiels GPT Plus, Claude Pro, Grok Super, vous pouvez contacter notre équipe professionnelle (wx : abch891) si vous ne savez pas comment recharger votre compte.
评论列表 (5条)：
加载更多评论 Chargement...