Est-ce que ce modèle tourne sur ta machine ?

Architecture lue sur unsloth/Llama-3.2-3B-Instruct, le dépôt officiel demandant d'accepter une licence. Le fichier y est identique.

Le processeur et le GPU se partagent cette mémoire.

Environ 4,9 bits par paramètre dans un fichier GGUF.

Entrée + réponse. Le modèle accepte 131 072 tokens au maximum.

Une seule conversation à la fois dans presque tous les cas.