in

PS4 jailbreakée : elle fait tourner un modèle d’IA de 9 milliards de paramètres à 43 tokens/s

Une PS4 fait tourner une IA de neuf milliards de paramètres, hors ligne, directement sur la console. Le développeur Leonardo Alegría a publié Garlic LLM, un projet open source qui transforme la machine de 2013 en plateforme d’intelligence artificielle autonome.

En génération de code, l’application atteint jusqu’à 43 tokens par seconde. Voici comment un tel exploit devient possible, et dans quelles conditions il peut être reproduit.

L’essentiel sur le sujet en 3 points :

  • Un exploit technique inédit : le projet open source Garlic LLM, développé par Leonardo Alegría, permet à une PS4 jailbreakée (GoldHEN, firmware 11.52) de faire tourner hors ligne le modèle IA Qwen3.5-9B d’Alibaba, en pilotant directement le GPU de 2013 sans couche de driver classique.
  • Des performances surprenantes : grâce à la quantification 4 bits (modèle réduit à 4,5 GiB) et à la prédiction multi-tokens, l’application atteint 31 à 39 tokens/s en conversation, jusqu’à 43 tokens/s en génération de code, avec en bonus la voix en sept langues et la dictée en 25 langues.
  • Gratuit mais à vos risques et périls : l’application, un paquet de 5,66 Go disponible sur Hugging Face, ne contient aucun exploit ; l’installation de GoldHEN reste cependant hors garantie et la PS4 Pro comme la PS5 ne sont pas (encore) prises en charge.

Garlic LLM, l’application qui fait tourner une IA sur PS4

L’idée paraît audacieuse : exécuter un véritable modèle de langage, le Qwen3.5-9B d’Alibaba, sur une console commercialisée depuis plus de dix ans, sans connexion Internet ni ordinateur. Sony avait déjà nourri les rumeurs d’une console portable PS4 made in Sony. La machine se réinvente aujourd’hui en poste d’IA locale.

Concrètement, Garlic LLM dialogue directement avec le GPU de la console, sans couche de pilote graphique classique. Son nom fait référence à la mémoire « Garlic ». C’est celle que le GPU lit nativement, dont la jumelle porte le nom « Onion ». Le cœur du système repose sur des noyaux de calcul écrits en OpenCL C. Ils sont compilés avec LLVM pour l’architecture Graphics Core Next (GCN) d’AMD. Les multiplications matricielles sur les poids en 4 bits, tâche essentielle de tout modèle de langage, sont donc gérées manuellement là où un développement habituel confie tout au driver.

Le CPU, de son côté, assure le tokenizer, l’interface, le rendu du texte et l’audio, le tout écrit en C. À chaque token, l’application construit son propre tampon de commandes PM4. Ce sont ces instructions bas niveau qu’un pilote graphique génère normalement. Puis, on enchaîne sur les noyaux GCN avant d’afficher ou de prononcer le résultat. Cette prouesse technique repose sur la chaîne d’outils open source OpenOrbis.

Comment un modèle de 9 milliards de paramètres tient dans 8 Go de mémoire ?

La première difficulté concerne l’espace mémoire. La PS4 embarque 8 Go de mémoire unifiée partagés entre CPU et GPU, alors qu’un modèle de 9 milliards de paramètres exige, à raison d’un octet par poids, au moins 9 Go avant toute optimisation. L’astuce tient en deux mots : quantification agressive.

Les poids passent en 4 bits (« Q4 »), soit un demi-octet par paramètre. Les deux plus grandes matrices de chaque couche descendent quant à elles en 3 bits (« Q3 »), environ 3,5 bits avec leurs échelles. Le compte aboutit à environ 4,5 GiB, contre 4,9 GiB en 4 bits pur. Le cache d’attention (KV cache) subit le même traitement, ce qui autorise un contexte de 16K tokens, à comparer aux 256K natifs du modèle.

Les modules annexes s’ajoutent ensuite : 0,33 GiB pour la dictée Parakeet, 0,38 GiB pour la voix Chatterbox. Le total atteint 5,23 GiB, soit 5,62 Go, valeur proche de la taille du paquet distribué, 5,66 Go. La comptabilité est limpide et laisse peu de doute sur la fiabilité des mesures annoncées.

Performances : jusqu’à 43 tokens/s même en génération de code

Reste la question centrale : est-ce rapide sur du matériel de 2013 ? La réponse est affirmative, et l’explication tient en trois lettres : MTP, pour multi-token prediction. Le modèle Qwen3.5 dispose d’une tête de prédiction qui propose jusqu’à deux tokens d’avance, que le modèle complet vérifie ensuite. Cette méthode correspond exactement à son entraînement, la documentation de vLLM d’Alibaba recommandant également deux tokens spéculatifs, et Garlic LLM l’exploite pleinement.

Au final, le texte défile entre 31 et 39 tokens par seconde, la génération de code monte à 43 tokens par seconde, et la conversation vocale tourne autour de 22 tokens/s. À 35 tokens par seconde, une réponse de 300 tokens s’affiche en moins de neuf secondes, un rythme parfaitement exploitable au quotidien.

Une réserve s’impose néanmoins : le prompt et la méthode de test ne sont pas détaillés par le développeur. Concernant les réglages, la température par défaut est fixée à 0,7, valeur recommandée par Alibaba avec le mode réflexion désactivé, alors que la vidéo de démonstration utilise 0 pour des réponses plus prévisibles.

Voix et dictée : sept langues parlées, 25 en dictée

Garlic LLM ne se limite pas à l’affichage de texte. La conversation vocale s’appuie sur le modèle de synthèse Chatterbox, avec des réponses parlées disponibles en sept langues. Un bouton maintenu sur la manette déclenche la dictée. Et elle est assurée par le modèle de reconnaissance vocale Parakeet TDT 0.6B v3 de Nvidia, compatible avec 25 langues européennes. Une interaction à la hauteur des assistants modernes, sur une console pourtant vouée à dormir au fond d’un placard.

Installation : conditions requises et téléchargement

L’installation requiert une PS4 exploitée, c’est-à-dire équipée de GoldHEN, le célèbre activateur homebrew pour consoles jailbreakées. Le développeur a testé l’application sur une PS4 de base et une Slim en firmware 11.52. La PS4 Pro n’a pas encore fait l’objet de tests. Mais, les utilisateurs sont toutefois invités à signaler leurs résultats sur GitHub. La PS5 reste exclue : le logiciel est écrit spécifiquement pour le GPU et le système de la PS4.

Côté téléchargement, Garlic LLM est gratuit. De plus, il se présente sous la forme d’un paquet unique de 5,66 Go disponible sur Hugging Face. Environ 6 Go d’espace libre suffisent pour une installation via le Package Installer de la console. Puis, on atteint 12 Go si le paquet est d’abord copié sur le disque interne. Un rappel utile : l’application ne contient aucun exploit. Et l’installation de GoldHEN se fait aux risques et périls de l’utilisateur, la garantie constructeur s’effaçant au passage.

Comparaison avec PS5LM et limites du projet

Le principal homologue dans la catégorie des consoles détournées à des fins d’IA s’appelle PS5LM. Ce fork exécute llama.cpp. C’est le programme open source de référence pour faire tourner des modèles de langage en local, en application native sur la PS5, et accède au GPU via PS5_Vulkan. C’est un port du driver open source RADV. Sur PS4, une telle couche n’existe pas pour le homebrew. Garlic LLM ne s’appuie ni sur llama.cpp ni sur un port Vulkan. Cela explique sans doute l’ampleur de l’exploit.

En face, la PS5 fait tourner le trois fois plus volumineux Qwen3.8-27B à environ 20 tokens/s et les plus compacts Gemma 4 E4B et Llama 3.2 3B à 61 et 124 tokens/s respectivement. La PS4 tient remarquablement la dragée haute sur son créneau, et le duel des consoles converties à l’IA ne fait que commencer.

Entre des projets de console portable qui refont surface et un assistant IA qui tient désormais dans 8 Go de mémoire, la PS4 démontre une longévité rare dans l’industrie du jeu vidéo. L’aventure, documentée par Leonardo Alegría sur son dépôt GitHub, mérite sans doute le détour.

Restez toujours informé avec TECHNPLAY.COM !

Abonnez-vous à notre chaîne YouTube et ajoutez-nous à vos favoris sur Google Actualités pour ne rien rater.

Novembre 2026 sur technplay.com : GTA 6 et ses clones générés par l'IA. Puis l'épisode 8 de VisionQuest et la saison 3 des Anneaux de Pouvoir. Sans oublier le Honda RN0, un VTT électrique, et les airbags des voitures modernes. Je dirige la rédaction du site, chez Publithings depuis 2022....

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *