On pose la même question,
encore et encore,
à un petit modèle de langage
qui tourne dans le navigateur :
choisis un nombre entre 1 et 10.
Un dé n'a pas de préférence.
Un modèle de langage, si.
Les tirages démarrent tout seuls
et ne s'arrêtent jamais,
sauf si on appuie sur pause.
Le modèle est Llama 3.2 1B,
quantifié sur 4 bits, environ 900 Mo.
Il est téléchargé une seule fois,
puis gardé en cache par le navigateur.
Il faut un navigateur compatible WebGPU,
Chrome ou Edge récents.