Publication de Qwen 3 : le modèle 235B surpasse R1, Grok et o1 avec la licence Apache 2.0

Récemment, l'équipe d'Ali Tongyi Thousand Questions a publié une nouvelle génération de grands modèles, Qwen 3, qui s'est hissé au sommet du trône mondial des modèles open source dès son lancement. Par rapport à son prédécesseur, Qwen 3 a réalisé des avancées significatives en matière de capacité d'inférence, de prise en charge multilingue, de coût de déploiement, etc. Les performances de son modèle phare Qwen3-235B-A22B sont comparables, voire supérieures, à celles des meilleurs modèles tels que DeepSeek-R1, OpenAI's o1, o3-mini, XAI's Grok-3, et Google's Gemini-2.5-Pro. modèles.

Famille Qwen 3 entièrement open source

La famille de modèles Qwen 3 continue d'être en libre accès sous le protocole Apache 2.0, ce qui permet aux développeurs, aux organismes de recherche et aux entreprises du monde entier de télécharger et de commercialiser les modèles gratuitement. La famille Qwen 3 à source ouverte comprend deux modèles MoE et six modèles denses :

• Modèle du ministère de l'environnement: :
  • Qwen3-235B-A22B (235B au total, 22B activés)
  • Qwen3-30B-A3B (nombre total de participants 30B, nombre de participants activés 3B)
• modélisation intensive: :
  • Qwen3-32B
  • Qwen3-14B
  • Qwen3-8B
  • Qwen3-4B
  • Qwen3-1.7B
  • Qwen3-0.6B

Il convient de noter que, bien que Qwen3-235B-A22B ait un nombre total de références beaucoup plus élevé que les autres modèles open source, son coût de déploiement réel est nettement inférieur : seuls quatre H20 sont nécessaires pour déployer la version complète, et l'empreinte de la mémoire vidéo ne représente qu'un tiers de celle d'un modèle aux performances similaires.

Performances supérieures sur tous les principaux critères de référence

La série Qwen 3 a obtenu de bons résultats dans diverses revues professionnelles et a établi un certain nombre de records pour les modèles open source :

• Qwen3 a obtenu 81,5 points lors de l'évaluation AIME25 au niveau OU, établissant ainsi un nouveau record dans le domaine de l'open source !
• Dans l'évaluation LiveCodeBench, qui évalue la capacité du code, Qwen3 franchit la barre des 70 points et surpasse Grok-3.
• Qwen3 a surpassé OpenAI-o1 et DeepSeek-R1 avec un score de 95,6 sur la mesure ArenaHard, qui évalue l'alignement des préférences humaines des modèles.
• Dans l'examen BFCL, qui évalue la capacité d'agent d'un modèle, Qwen3 a atteint un nouveau record de 70,8, surpassant des modèles de premier plan tels que Gemini2.5-Pro et OpenAI-o1.

Même des modèles plus petits, tels que Qwen3-4B, atteignent les performances de Qwen2.5-72B-Instruct, ce qui démontre des gains d'efficacité significatifs. Le modèle MoE le plus petit, Qwen3-30B-A3B, n'a qu'un dixième du nombre de paramètres d'activation de QwQ-32B, mais ses performances sont encore meilleures.

Modèle révolutionnaire de "raisonnement hybride

L'une des plus grandes innovations de Qwen3 est l'introduction du mode "raisonnement mixte", qui permet de basculer de manière transparente entre les modes de réflexion et de non-réflexion :

• modèle de penséeLes problèmes de santé : modélisation du raisonnement étape par étape pour donner une réponse finale après un examen approfondi, adapté aux problèmes complexes qui nécessitent une réflexion approfondie.
• modus vivendiLes modèles offrent une réponse rapide et quasi-instantanée pour les problèmes simples où la rapidité est requise au-dessus de la profondeur.

Les utilisateurs peuvent contrôler de manière flexible le processus d'inférence du modèle en fonction de la complexité de la tâche, et même définir le "budget de réflexion" (c'est-à-dire le nombre de jetons attendus pour réfléchir à la profondeur maximale) afin de trouver le meilleur équilibre entre la performance et le coût. Les analyses comparatives montrent que le mode de réflexion améliore considérablement les performances du modèle dans des tâches telles que AIME24, AIME25, LiveCodeBech (v5) et GPQA Diamond.

Ali fournit un mécanisme simple de commutation souple qui permet à l'utilisateur de contrôler dynamiquement le mode de pensée du modèle en ajoutant les balises "/think" et "/no_think" au dialogue.

Prise en charge multilingue et amélioration des capacités des agents

Le modèle Qwen3 prend en charge 119 langues et dialectes, ce qui élargit considérablement son potentiel d'application à l'échelle mondiale. Dans le même temps, les capacités d'agent et de code du modèle ont été considérablement améliorées :

• Prise en charge native du protocole MCP
• De puissantes capacités d'invocation d'outils
• Travailler avec le cadre Qwen-Agent pour réduire considérablement la complexité du codage
• Réalise des performances de premier plan dans des tâches complexes basées sur l'intelligence

Des bases techniques solides : 36 billions de jetons de formation préalable

Les performances supérieures de Qwen3 reposent sur d'énormes données de formation et un processus de formation bien conçu :

• Le volume de données de pré-entraînement atteint 36 000 milliards de jetons, soit près de deux fois plus que Qwen 2.5.
• Couverture de 119 langues et dialectes
• Informations de haute qualité extraites de documents tels que les PDF en plus des données web
• Génération de grandes quantités de données synthétiques avec Qwen2.5-Math et Qwen2.5-Coder pour des capacités mathématiques et de codage améliorées

Le processus de préformation est divisé en trois étapes :

1. Renforcement des capacités linguistiques de base : pré-entraînement sur plus de 30 trillions de tokens avec une longueur de contexte de 4K tokens
2. Optimisation de la densité des connaissances : augmentation de la proportion de données pour les tâches STEM, de programmation et de raisonnement, etc., et poursuite de la formation sur 5 billions de jetons supplémentaires
3. Extension de la capacité du contexte : utilisation de données contextuelles longues de haute qualité pour étendre la longueur du contexte à 32 000 tokens.

La phase post-formation utilise un processus en quatre phases qui comprend le démarrage à froid de la chaîne de pensée longue, l'apprentissage par renforcement de la chaîne de pensée longue, la fusion des modèles de pensée et l'apprentissage par renforcement générique pour créer des modèles hybrides capables à la fois de raisonner de manière complexe et de réagir rapidement.

Réponse de la communauté et expérience pratique

Qwen3 a été mis en open-source en moins de trois heures, et GitHub a enregistré 17 000 étoiles, suscitant une réaction massive de la part de la communauté open-source. Awni Hannun, ingénieur chez Apple, a annoncé que Qwen3 était désormais pris en charge par le cadre MLX, ce qui permet à tous les types d'appareils Apple, de l'iPhone au M2/M3 Ultra, d'exécuter en mode natif les modèles Qwen3 de différentes spécifications.

Un certain nombre de tests en conditions réelles ont montré que Qwen3 peut facilement faire face à des problèmes de raisonnement complexes tels que des preuves mathématiques et des tâches de programmation. Par exemple, dans une tâche de programmation complexe (écriture d'un jeu Snake avec une fonction de poursuite Pinto), Qwen3-235B-A22B a fourni un code exécutable en seulement 3 minutes environ.

Certains utilisateurs l'ont testé et ont constaté que, comparé au modèle Llama avec le même nombre de paramètres, Qwen3 présente des avantages significatifs, en raisonnant plus profondément, en maintenant des contextes plus longs et en résolvant des problèmes plus difficiles.

Lignes directrices pour l'utilisation

Le modèle Qwen3 est maintenant disponible en ligne dans la communauté MagicBuilder, Hugging Face et GitHub :

• Expérience en ligne :https://chat.qwen.ai/
• Communauté Magic Match :https://modelscope.cn/collections/Qwen3-9743180bdc6b48
• Visage étreint :https://huggingface.co/collections/Qwen/qwen3-67dd247413f0e2e4f653967f
• GitHub :https://github.com/QwenLM/Qwen3

Pour le déploiement, des frameworks tels que SGLang et vLLM sont officiellement recommandés ; pour une utilisation locale, des outils tels que Ollama, LMStudio, MLX, llama.cpp et KTransformers sont recommandés.

Ces outils permettent aux utilisateurs d'intégrer facilement Qwen3 dans divers flux de travail, que ce soit dans des environnements de recherche, de développement ou de production. Un exemple standard d'utilisation de la bibliothèque de transformateurs est présenté ci-dessous :

from modelscope import AutoModelForCausalLM, AutoTokenizer

nom_du_modèle = "Qwen/Qwen3-30B-A3B"
# charger le tokenizer et le modèle
tokeniser = AutoTokenizer.from_pretrained(model_name)
modèle = AutoModelForCausalLM.from_pretrained(
        nom_du_modèle, torch_dtype="auto")
        torch_dtype="auto",
        device_map="auto"
)

# préparer l'entrée du modèle
prompt = "Donnez moi une brève introduction au modèle de langage large".
messages = [
        {"role" : "user", "content" : prompt}
messages = [ {"role" : "user", "content" : prompt} ]
text = tokenizer.apply_chat_template(
        messages, tokenise=False, text = tokenizer.apply_chat_template(
        tokenise=False,
        add_generation_prompt=True, enable_thinking=True 1TP
        enable_thinking=True # Basculer entre le mode réflexion et le mode non-réflexion. La valeur par défaut est True.
La valeur par défaut est True.)

remarques finales

Jusqu'à présent, Ali Tongyi a mis en libre accès plus de 200 modèles, avec plus de 300 millions de téléchargements dans le monde et plus de 100 000 modèles dérivés d'un millier de questions, dépassant Llama aux États-Unis pour devenir le premier modèle en libre accès au monde.L'ouverture de Qwen3 marque non seulement une nouvelle avancée majeure dans la technologie d'IA chinoise, mais fournit également à la communauté mondiale des développeurs d'IA un nouvel outil puissant pour promouvoir la prospérité de l'écosystème en libre accès.