Quel Mac pour installer et faire fonctionner un LLM ?

amonbophis

Membre confirmé
10 Juin 2007
54
1
Bonjour à tous. J’aimerais installer un LLM en local sur un Mac. Ik faut partir sur 32 gigaoctets de RAM, mais je me pose la question du type de professeur processeur M4. M4 pro, M4 MAX ?
Ça ne sera pas un Mac de travail, mais installé dans une armoire comme un serveur.
Me conseillez-vous un Mac mini, un Mac Studio, lequel ? Je ne tiens pas à mettre plus de 1500 €.
Merci d’avance
 
Me conseillez-vous un Mac mini, un Mac Studio, lequel ? Je ne tiens pas à mettre plus de 1500 €.
Avec cette contrainte budgétaire, je pense que tu peux oublier le Mac Studio, même en reconditionné.

En partant sur un Mac mini M4, si on se concentre sur le Neural Engine, il n'y a pas de différence sur ce point entre les puces M4 et M4 Pro :
Donc j'aurai tendance à recommander un Mac mini M4 avec 32 Go de mémoire. Peut-être 512 Go de stockage interne, et éventuellement le port réseau 10 Gb/s si besoin)
 
  • J’aime
Réactions: meeshoot et edenpulse
Avec cette contrainte budgétaire, je pense que tu peux oublier le Mac Studio, même en reconditionné.

En partant sur un Mac mini M4, si on se concentre sur le Neural Engine, il n'y a pas de différence sur ce point entre les puces M4 et M4 Pro :
Donc j'aurai tendance à recommander un Mac mini M4 avec 32 Go de mémoire. Peut-être 512 Go de stockage interne, et éventuellement le port réseau 10 Gb/s si besoin)
Les Mac mini sont excellent, je fais tourner des LLM facilement avec ollama.
 
Avec un budget si bas pour faire tourner un LLM en local, il faudra faire des sacrifices. Rationnellement, seul le paramètre de la RAM est bloquant : il faut une quantité minimum (32 ou 64 Go, de ce que j'ai pu voir), sinon le modèle ne fonctionne pas, ne se lance pas.
Le reste, notamment le type de puce, c'est du confort : ça n'empêchera pas le modèle de se lancer et de fonctionner.
Donc, priorise la + grande quantité de RAM possible. Le Mac Mini semble en effet la solution, si possible en 64 Go RAM.