Raspberry Pi veut démocratiser le « GenAI à la maison » sans passer par le cloud. Sa nouvelle carte d’extension AI HAT+ 2, vendue 145 euros, promet de transformer un Raspberry Pi 5 en petite station d’inférence capable de faire tourner des modèles génératifs directement sur la carte, avec un accent clair sur la latence, la confidentialité et la sobriété énergétique.
La différence majeure avec le AI HAT+ de l’an dernier, c’est que la version 2 arrive avec une puce Hailo-10H annoncée à 40 TOPS (INT4), et surtout 8 Go de RAM embarquée, qui permettent de charger certains modèles « GenAI » sans dépendre uniquement de la mémoire du Pi.
Branchée au Pi 5, la carte prend en charge une partie des charges IA, laissant le CPU Arm du Pi disponible pour le reste (interface, serveur local, pipeline caméra, automatisations).
Les modèles visés : petits LLM, VLM et quelques classiques « edge »
Raspberry Pi met en avant la capacité à exécuter des modèles compacts, du type :
- Llama 3.2 (petites variantes),
- DeepSeek-R1-Distill (versions distillées),
- et plusieurs modèles Qwen (dont des variantes orientées code/instruction).
Le fabricant explique que ces modèles « edge » tournent typiquement sur des tailles 1 à 7 milliards de paramètres — loin des géants cloud — mais suffisants pour des tâches contextualisées, locales, et des assistants spécialisés.
Les démos partagées illustrent l’ambition « projet » :
- décrire en texte ce que voit une caméra et répondre à une question simple (« y a-t-il des personnes ? »),
- traduire du texte (ex. avec Qwen2),
- et, plus largement, exécuter des tâches sans connexion réseau.
Le bémol qui compte : en performances brutes, un Pi 5 peut faire mieux (à cause du budget énergétique)
C’est là que l’histoire devient plus subtile. Le YouTuber/maker Jeff Geerling note que, sur plusieurs modèles pris en charge, un Raspberry Pi 5 (notamment avec plus de RAM) peut surpasser l’AI HAT+ 2. Sa lecture : le Pi 5 peut monter à ~10 W, tandis que l’AI HAT+ 2 est limitée à ~3 W — ce qui bride le potentiel en débit pur, même si l’accélérateur peut rester plus efficient dans certains scénarios.
Son verdict est assez tranchant : ces 8 Go supplémentaires ne suffiraient pas toujours à justifier l’achat face à un Pi 5 16 Go, plus flexible et parfois plus rapide sur ces workloads.
L’AI HAT+ 2 a du sens quand vous cherchez un cadre maîtrisé (performances « suffisantes », mais consommation contrainte), des projets edge (caméra, domotique, kiosques, prototypes), et une exécution locale (pas d’API cloud, pas de coût variable, pas d’envoi de données).
Et, Raspberry Pi promet déjà l’arrivée de modèles « plus grands » via des mises à jour logicielles, ce qui laisse entendre que la feuille de route est encore en construction.
Au fond, l’AI HAT+ 2 n’est pas une « carte magique » qui rend un Pi plus puissant qu’un PC. C’est une brique de plus pour transformer le Raspberry Pi en plateforme d’IA embarquée, où l’on choisit la contrainte (3 W) pour gagner en contrôle.
