Log ind
Menu
Arbejdsbyrdeguide · AIAltid tændt 24/7

Model training / fine-tuning: guide til hardwarekrav

Fine-tuning og træning af små modeller (LoRA, små checkpoints).

Hardwarekrav efter niveau

Tre niveauer for hver arbejdsbyrde: minimumet, der fungerer, den anbefalede sweet spot og det komfortable margenniveau. Det er de samme niveauer, WisePC-beslutningsmotoren bruger, når den planlægger et build omkring dit mål.

CPU-kerner
16cores
RAM
64GB
Opbevaring
4TB
SSD
GPU
ai
24 GB VRAM
NiveauCPU-kernerRAMOpbevaringGPUVRAMNetværk
Minimum8 cores32 GB2 TB (ssd)ai16 GB VRAM1 GbE
Anbefalet16 cores64 GB4 TB (ssd)ai24 GB VRAM2.5 GbE
Komfortabelt24 cores128 GB8 TB (ssd)ai48 GB VRAM10 GbE
Overdimensioneret39 cores205 GB16 TB (ssd)ai48 GB VRAM10 GbE

Ud over Komfortabel — 39 kerner, 205 GB RAM, 16 TB (SSD): headroom du aldrig får brugt på denne workload alene. Læg differencen i lagring, backup eller stilhed.

Anbefalet systemform

Udledt af beslutningsmotoren fra anbefalet niveau — samme logik som planlægger komplette builds.

Formfaktor
tower
Byggestil
diy
Diskplan
2× 4.1TB NVMe

Requirements (16 threads, 64GB RAM, 8TB storage, dedicated GPU) need a custom tower build.

Én boks eller en egen?Bliver på hovedserveren

Om denne workload fortjener sin egen maskine eller bør bo på hovedserveren.

GPU-bound compute is expensive to duplicate — a second GPU box roughly doubles cost for little resilience gain. Keep it on the main machine.

Lagringsarrays, med priser

Fem fysiske strategier for anbefalet kapacitet — samme planlægger, samme diskmodel og samme referencepriser som lagringsværktøjet.

StrategiDiskeBrugbarPrisIdle
Cheapest 2× 4TB hdd4 TB · parity1≈ €20010 W
Balanced Anbefalet2× 16TB hdd16 TB · parity1≈ €48012 W
Redundant 3× 8TB hdd8 TB · parity2≈ €45015 W
Expansion-friendly 2× 20TB hdd20 TB · parity1≈ €60014 W
Performance 2× 4TB nvme4 TB · parity1≈ €4802 W

For a fast working tier, go all-flash — the performance strategy protects speed without the HDD rebuild pain.

Backup er ikke lagring

Den ekstra kopi, der overlever diskfejl, sletning og ransomware — samme motor som backup-planlæggeren.

Protect 4TB with at least two copies on separate hardware, ideally one offsite. The recommended start is a dedicated NAS.

Anbefalet: Separate NAS
A dedicated box that only stores backups · ≈ €353
high
No offsite copy

Add a second copy outside the building — cloud or a drive at a friend's house.

medium
No versioning

Use a versioning-aware tool (restic, borg, Backblaze) that keeps history.

medium
Unscheduled backups

Schedule backups automatically and monitor them.

medium
Backup on the same machine

Keep the backup on separate hardware or offsite.

Hvad vil det koste?

Markedsneutrale EUR-bånd fra referencemodellen (≈ = estimeret gadepris). Live komponentpriser står på build-siden for din region.

Lagringsarray
≈ €200 – €600
Array-energi / år
≈ €103/yr
∼47 W idle

Beregning (CPU, board, RAM, GPU) er ikke inkluderet — se anbefalet build for live priser.

Vækstudsigter

Hvad der sker, når dataene bliver ved med at vokse — samme motor som vækstsimulatoren.

Storage stays within 8TB across the 3-year horizon — the architecture fits your expected growth.

Within capacity and bays — no new bay needed for 7TB.

Hvilket niveau har du brug for?

  • Vælg Minimum (8 kerner, 32 GB RAM) kun til en enkeltformålsmaskine med stramt budget — forvent lidt margin.
  • Anbefalet (16 kerner, 64 GB RAM) er sweet spot'en: nok til arbejdsbyrden plus de sædvanlige sideløbende tjenester, uden at overforbruge.
  • Vælg Komfortabelt (24 kerner, 128 GB RAM), når denne arbejdsbyrde deler maskinen med andre eller vil vokse — du betaler for margin, ikke for angst.
  • GPU-regel for denne arbejdsbyrde: ai.GPU-regel for denne workload: ai (24 GB VRAM).

Dækkes også i denne guide

AI-eksperimenter

Lære og eksperimentere med modeller, træne små modeller, værktøjer.

Ofte stillede spørgsmål

Hvor meget RAM har model training / fine-tuning brug for?

32 GB er et fornuftigt minimum, 64 GB dækker de fleste rigtige opsætninger, og 128 GB giver komfortabel margin til vækst og ekstra tjenester.

Hvor mange CPU-kerner har model training / fine-tuning brug for?

En CPU med 8 kerner er minimumet, 16 kerner er den anbefalede sweet spot, og 24 kerner er komfortabelt, når den deler maskinen med andre arbejdsbyrder.

Har model training / fine-tuning brug for et dedikeret GPU?

Et dedikeret GPU anbefales stærkt — denne arbejdsbyrde laver AI-beregninger. Kræver 16–48 GB VRAM (16 minimum, 24 anbefalet, 48 komfortabelt).

Hvilken opbevaring og hvilket netværk forventer model training / fine-tuning?

Opbevaring: 4 TB SSD er den anbefalede basislinje (2 TB minimum, 8 TB komfortabelt). Netværk: 2.5 GbE er den anbefalede basislinje.

Hvad kører godt sammen med model training / fine-tuning?

Den kombinerer naturligt med: AI-eksperimenter.

Hvor meget strøm bruger model training / fine-tuning?

Arrayet idler omkring 47 W (≈ 103 €/år ved 0,25 €/kWh). Hele systemet lægger CPU, board og blæsere oveni — se omkostningssektionen for ærlige bånd.