Inloggen
Menu
Workload-handleiding · AIAltijd aan 24/7

Model training / fine-tuning: handleiding hardwarevereisten

Fine-tuning en training van kleine modellen (LoRA, kleine checkpoints).

Hardwarevereisten per niveau

Drie niveaus voor elke workload: het minimum dat werkt, de aanbevolen sweet spot en het comfortabele marge-niveau. Dit zijn dezelfde niveaus die de WisePC-beslissingsengine gebruikt wanneer hij een build rond je doel plant.

CPU-cores
16cores
RAM
64GB
Opslag
4TB
SSD
GPU
ai
24 GB VRAM
NiveauCPU-coresRAMOpslagGPUVRAMNetwerk
Minimum8 cores32 GB2 TB (ssd)ai16 GB VRAM1 GbE
Aanbevolen16 cores64 GB4 TB (ssd)ai24 GB VRAM2.5 GbE
Comfortabel24 cores128 GB8 TB (ssd)ai48 GB VRAM10 GbE
Overkill39 cores205 GB16 TB (ssd)ai48 GB VRAM10 GbE

Voorbij Comfortabel — 39 cores, 205 GB RAM, 16 TB (SSD): headroom die je voor deze workload alleen nooit gebruikt. Steek het verschil in opslag, backup of stilte.

Aanbevolen systeemvorm

Afgeleid door de decision engine uit het aanbevolen niveau — dezelfde logica die complete builds plant.

Vormfactor
tower
Bouwstijl
diy
Schijfplan
2× 4.1TB NVMe

Requirements (16 threads, 64GB RAM, 8TB storage, dedicated GPU) need a custom tower build.

Eén systeem of een aparte?Blijft op de hoofdserver

Of deze workload een eigen machine verdient of op de hoofdserver moet blijven.

GPU-bound compute is expensive to duplicate — a second GPU box roughly doubles cost for little resilience gain. Keep it on the main machine.

Opslagarrays, met prijzen

Vijf fysieke strategieën voor de aanbevolen capaciteit — dezelfde planner, hetzelfde schijfmodel en dezelfde referentieprijzen als de opslagtool.

StrategieSchijvenBruikbaarKostenIdle
Cheapest 2× 4TB hdd4 TB · parity1≈ €20010 W
Balanced Aanbevolen2× 16TB hdd16 TB · parity1≈ €48012 W
Redundant 3× 8TB hdd8 TB · parity2≈ €45015 W
Expansion-friendly 2× 20TB hdd20 TB · parity1≈ €60014 W
Performance 2× 4TB nvme4 TB · parity1≈ €4802 W

For a fast working tier, go all-flash — the performance strategy protects speed without the HDD rebuild pain.

Backup is geen opslag

De extra kopie die schijfstoringen, verwijdering en ransomware overleeft — dezelfde engine als de backupplanner.

Protect 4TB with at least two copies on separate hardware, ideally one offsite. The recommended start is a dedicated NAS.

Aanbevolen: Separate NAS
A dedicated box that only stores backups · ≈ €353
high
No offsite copy

Add a second copy outside the building — cloud or a drive at a friend's house.

medium
No versioning

Use a versioning-aware tool (restic, borg, Backblaze) that keeps history.

medium
Unscheduled backups

Schedule backups automatically and monitor them.

medium
Backup on the same machine

Keep the backup on separate hardware or offsite.

Wat gaat het kosten?

Marktneutrale EUR-banden uit het referentiemodel (≈ = geschatte straatprijs). Live componentprijzen staan op de buildpagina voor jouw regio.

Opslagarray
≈ €200 – €600
Array-energie / jaar
≈ €103/yr
∼47 W idle

Rekenkracht (CPU, board, RAM, GPU) niet inbegrepen — zie de aanbevolen build voor live prijzen.

Groeivooruitzicht

Wat er gebeurt als de data blijft groeien — dezelfde engine als de groeisimulator.

Storage stays within 8TB across the 3-year horizon — the architecture fits your expected growth.

Within capacity and bays — no new bay needed for 7TB.

Welk niveau heb je nodig?

  • Kies Minimum (8 cores, 32 GB RAM) alleen voor een single-purpose machine met een krap budget — verwacht weinig marge.
  • Aanbevolen (16 cores, 64 GB RAM) is de sweet spot: genoeg voor de workload plus de gebruikelijke bij-diensten, zonder te veel uit te geven.
  • Kies Comfortabel (24 cores, 128 GB RAM) wanneer deze workload de machine deelt met andere of gaat groeien — je betaalt voor marge, niet voor angst.
  • GPU-regel voor deze workload: ai.GPU-regel voor deze workload: ai (24 GB VRAM).

Ook behandeld in deze gids

AI-experimenten

Leren en experimenteren met modellen, kleine modellen trainen, tooling.

Veelgestelde vragen

Hoeveel RAM heeft model training / fine-tuning nodig?

32 GB is het verstandige minimum, 64 GB dekt de meeste echte setups en 128 GB geeft comfortabele marge voor groei en extra diensten.

Hoeveel CPU-cores heeft model training / fine-tuning nodig?

Een CPU met 8 cores is het minimum, 16 cores is de aanbevolen sweet spot en 24 cores is comfortabel wanneer hij de machine deelt met andere workloads.

Heeft model training / fine-tuning een dedicated GPU nodig?

Een dedicated GPU wordt sterk aanbevolen — deze workload doet AI-compute. Nodig: 16–48 GB VRAM (16 minimum, 24 aanbevolen, 48 comfortabel).

Welke opslag en welk netwerk verwacht model training / fine-tuning?

Opslag: 4 TB aan SSD is de aanbevolen basislijn (2 TB minimum, 8 TB comfortabel). Netwerk: 2.5 GbE is de aanbevolen basislijn.

Wat draait goed naast model training / fine-tuning?

Het combineert van nature met: AI-experimenten.

Hoeveel stroom verbruikt model training / fine-tuning?

De array idlet rond 47 W (≈ 103 €/jaar bij 0,25 €/kWh). Het complete systeem telt CPU, board en fans erbij op — zie de kostensectie voor eerlijke banden.