Ghid de workload · AI
Local AI inference: ghid de cerințe hardware
Rulezi LLM-uri sau alte modele local (Ollama, vLLM, llama.cpp).
Cerințe hardware pe niveluri
Trei niveluri pentru fiecare workload: minimul care funcționează, nivelul recomandat și nivelul confortabil. Acestea sunt aceleași niveluri pe care motorul de decizie WisePC le folosește când planifică un build în jurul obiectivului tău.
| Nivel | Nuclee CPU | RAM | Stocare | GPU | Rețea |
|---|---|---|---|---|---|
| Minimum | 8 cores | 16 GB | 1 TB (ssd) | ai | 1 GbE |
| Recomandat | 12 cores | 32 GB | 1 TB (ssd) | ai | 2.5 GbE |
| Confortabil | 16 cores | 64 GB | 2 TB (ssd) | ai | 10 GbE |
Ce nivel ai nevoie?
- Alege Minimum (8 nuclee, 16 GB RAM) doar pentru o mașină cu un singur scop și buget strâns — așteaptă-te la headroom mic.
- Recomandat (12 nuclee, 32 GB RAM) e punctul optim: suficient pentru workload plus serviciile secundare obișnuite, fără să plătești în plus.
- Alege Confortabil (16 nuclee, 64 GB RAM) când workload-ul împarte mașina cu altele sau va crește — plătești pentru headroom, nu pentru stres.
- Regula de GPU pentru acest workload: ai.
Întrebări frecvente
Cât RAM are nevoie local ai inference?
16 GB este minimul rațional, 32 GB acoperă majoritatea configurărilor reale, iar 64 GB oferă headroom confortabil pentru creștere și servicii extra.
Câte nuclee de CPU are nevoie local ai inference?
Un CPU cu 8 nuclee este minimul, 12 nuclee este punctul optim recomandat, iar 16 nuclee este confortabil când împarte mașina cu alte workload-uri.
Are nevoie local ai inference de un GPU dedicat?
Un GPU dedicat este puternic recomandat — acest workload face calcul AI.
Ce stocare și rețea așteaptă local ai inference?
Stocare: 1 TB de SSD este nivelul recomandat (1 TB minim, 2 TB confortabil). Rețea: 2.5 GbE este nivelul recomandat.
Ce merge bine alături de local ai inference?
Se potrivește natural cu: Image generation, AI experimentation, Databases.