Pour soutenir le tel débit d’inférence sans ruiner son modèle économique, l’entreprise chinoise DeepSeek s’appuiera désormais sur une infrastructure logicielle ultra-optimisée. Plutôt que de conserver cet avantage compétitif sous clé, le laboratoire frappe un grand coup en publiant le code source de DeepInfer sur GitHub. Ce framework haute performance, qui propulse les services de production à grande échelle du modèle V4.1-Flash, est désormais accessible aux développeurs du monde entier sous licence libre Apache 2.0.
💡 C’est open source et open weight ?
Dans l’écosystème de l’intelligence artificielle, on confond souvent les termes. Partager les poids mathématiques d’un modèle (les réseaux de neurones entraînés) relève de l’open weight. Ici, DeepSeek va plus loin en publiant en véritable open source le code de son moteur logiciel (le framework). C’est ce programme qui gère la mémoire, planifie les tâches et donne les instructions aux cartes graphiques, permettant ainsi d’exécuter l’IA sur ses propres serveurs matériels.
Une architecture asynchrone pensée pour l’hyper-échelle
Conçu pour engloutir des charges de travail titanesques, le moteur de DeepSeek repose sur les solides fondations du projet vLLM, tout en intégrant une impressionnante série d’optimisations maison. Le code embarque des noyaux personnalisés (kernels) de très haut vol tels que FlashMLA, DeepGEMM et DeepEP. Pour garantir une rapidité d’exécution absolue, l’outil exploite le décodage spéculatif DSpark et un ordonnanceur de requêtes asynchrone capable de réduire la latence à néant.
Afin de s’assurer que les entreprises qui auto-hébergent la solution obtiennent un comportement strictement identique au service en ligne officiel, l’éditeur a couplé cette sortie avec la publication du composant deepseek-recipe (sous licence MIT). Ce script essentiel se charge de convertir le protocole des requêtes de l’API en instructions natives compréhensibles par le modèle, gérant avec précision les formats de complétion et de messages.
Sur le plan matériel, l’infrastructure ne fait aucun compromis. Le système cible les puces de pointe en prenant en charge les GPU NVIDIA SM100 ainsi que les NPU Huawei Ascend 950. Cette compatibilité confirme la stratégie du laboratoire : s’appuyer sur le silicium national pour ses futurs entraînements tout en maintenant une excellence technologique sur les composants américains.
Une brique d’ingénierie brute, pas un service clés en main
L’objectif affiché par l’entreprise est limpide : aider la communauté technique à construire des clouds privés et publics beaucoup plus abordables, réduisant ainsi drastiquement la consommation énergétique et les coûts d’exploitation de l’intelligence artificielle. Néanmoins, l’outil tel qu’il est livré sur GitHub exige une solide expertise en ingénierie système.
| Composants d’infrastructure | Inclus dans DeepInfer | Action requise par l’entreprise |
|---|---|---|
| Exécution et noyaux matériels | Oui (FlashMLA, DSpark, batching) | Déploiement direct sur serveurs NVIDIA ou Huawei. |
| Formatage des requêtes API | Oui (via deepseek-recipe) | Aucune modification, parité totale avec l’API officielle. |
| Système de cache mémoire (KV Cache) | Non | À développer ou intégrer pour mémoriser le contexte des requêtes. |
| Répartition de charge (Load Balancing) | Non | Exige l’installation d’un répartiteur réseau pour gérer plusieurs instances simultanées. |
Le déploiement de cette technologie requiert un environnement de production strict, incluant Linux, GCC 13.0 et Python 3.12. En livrant cette puissante base d’inférence, DeepSeek prouve que la rentabilité de l’intelligence artificielle ne se joue plus seulement sur la puissance mathématique des modèles, mais bien sur l’excellence du code d’exécution qui les fait tourner.
Tous les détails se trouvent sur Github.
🌐 L’actualité de l’open source et des technologies éthiques dans votre flux
🐘 Fediverse / Mastodon : suivez notre profil officiel @ depuis votre application ou votre instance favorite.
🦋 Bluesky (AT Protocol) : retrouvez nos actualités condensées et abonnez-vous à @goodtech.info.
