Matériel

Quels microcontrôleurs le font tourner

Un pic de RAM mesuré, pas un nombre de paramètres.

La seule façon honnête de répondre à « est-ce que ça tourne sur ma puce » est un pic de RAM mesuré, pas un nombre de paramètres. Le tableau ci-dessous donne la RAM maximale — .bss plus le pic de pile mesuré sur une vraie compilation Cortex-M3 sous QEMU MPS2-AN385 — pour chacune des six tailles livrées. Reproducteur : python3 scripts/measure_ram.py --markdown.

ModèleSert àRAM STM32F103
2–4 $
RP2040
4 $
STM32F411
15 $
STM32F7
15–30 $
ESP32-S3
5–10 $
nanoProuve que le moteur tient dans les plus petites puces14,5 Ko
smallRoutage de mots-clés courts27,5 KoRAM insuff.
classifierTêtes de classification embarquées52 Konon
tinystoriesÉcriture de type conte pour enfants104 KononRAM insuff.
midÉcriture de milieu de gamme sur un sujet donné205 KononnonRAM insuff.
prod (944K)Prose cohérente complète411 KononnonRAM insuff.non

La carte réellement testée sur silicium

Une seule, et nous sommes précis là-dessus parce que l'écart entre « compile pour » et « tourne sur » est exactement là où la plupart des annonces d'IA embarquée s'effondrent en silence. Le checkpoint de 944 000 paramètres tourne sur un ESP32-WROOM-32 physique — 4 Mo de flash, sans PSRAM — et génère du texte cohérent hors ligne à environ 1,0 jeton par seconde. Il a fallu réduire la fenêtre de contexte à 24 jetons, ce qui ramène l'état de travail à environ 159 Ko. Le débit est limité par la flash : environ 271 Ko de poids ternaires sont lus depuis la flash SPI pour chaque jeton.

Tout le reste du tableau est une compilation plus QEMU. C'est une vraie vérification — elle exécute le vrai ELF compilé — mais ce n'est pas du silicium, et nous ne l'appelons pas ainsi.

Ce qui n'a pas été mesuré sur matériel

Les joules par jeton. Aucun Joulescope, aucun PPK2, aucune mesure d'énergie. Le protocole est écrit et figé à l'avance — horloge, tension, options et états d'attente fixes, mesure DWT, au moins 100 itérations, médiane et p95, CSV brut exigé — précisément pour que les chiffres ne puissent pas être ajustés après coup quand la carte arrivera.