Logg inn
Meny
Arbeidslastveiledning · KIAlltid på 24/7

Model training / fine-tuning: veiledning om maskinvarekrav

Finjustering og trening av små modeller (LoRA, små sjekkpunkter).

Maskinvarekrav etter nivå

Tre nivåer for hver arbeidslast: minimumet som fungerer, den anbefalte sweet spot-en og det komfortable marginivået. Dette er de samme nivåene WisePC-beslutningsmotoren bruker når den planlegger et bygg rundt målet ditt.

CPU-kjerner
16cores
RAM
64GB
Lagring
4TB
SSD
GPU
ai
24 GB VRAM
NivåCPU-kjernerRAMLagringGPUVRAMNettverk
Minimum8 cores32 GB2 TB (ssd)ai16 GB VRAM1 GbE
Anbefalt16 cores64 GB4 TB (ssd)ai24 GB VRAM2.5 GbE
Komfortabelt24 cores128 GB8 TB (ssd)ai48 GB VRAM10 GbE
Overdimensjonert39 cores205 GB16 TB (ssd)ai48 GB VRAM10 GbE

Forbi Komfortabel — 39 kjerner, 205 GB RAM, 16 TB (SSD): headroom du aldri vil bruke på denne workloadden alene. Legg differansen i lagring, backup eller stillhet.

Anbefalt systemform

Utledet av beslutningsmotoren fra anbefalt nivå — samme logikk som planlegger komplette bygg.

Formfaktor
tower
Byggestil
diy
Diskplan
2× 4.1TB NVMe

Requirements (16 threads, 64GB RAM, 8TB storage, dedicated GPU) need a custom tower build.

Én boks eller en egen?Blir på hovedserveren

Om denne workloadden fortjener sin egen maskin eller bør bo på hovedserveren.

GPU-bound compute is expensive to duplicate — a second GPU box roughly doubles cost for little resilience gain. Keep it on the main machine.

Lagringsarrays, med priser

Fem fysiske strategier for anbefalt kapasitet — samme planlegger, samme diskmodell og samme referansepriser som lagringsverktøyet.

StrategiDiskerBrukbarKostnadIdle
Cheapest 2× 4TB hdd4 TB · parity1≈ €20010 W
Balanced Anbefalt2× 16TB hdd16 TB · parity1≈ €48012 W
Redundant 3× 8TB hdd8 TB · parity2≈ €45015 W
Expansion-friendly 2× 20TB hdd20 TB · parity1≈ €60014 W
Performance 2× 4TB nvme4 TB · parity1≈ €4802 W

For a fast working tier, go all-flash — the performance strategy protects speed without the HDD rebuild pain.

Backup er ikke lagring

Den ekstra kopien som overlever diskfeil, sletting og ransomware — samme motor som backup-planleggeren.

Protect 4TB with at least two copies on separate hardware, ideally one offsite. The recommended start is a dedicated NAS.

Anbefalt: Separate NAS
A dedicated box that only stores backups · ≈ €353
high
No offsite copy

Add a second copy outside the building — cloud or a drive at a friend's house.

medium
No versioning

Use a versioning-aware tool (restic, borg, Backblaze) that keeps history.

medium
Unscheduled backups

Schedule backups automatically and monitor them.

medium
Backup on the same machine

Keep the backup on separate hardware or offsite.

Hva vil det koste?

Markedsnøytrale EUR-bånd fra referansemodellen (≈ = estimert gatepris). Live komponentpriser står på bygg-siden for din region.

Lagringsarray
≈ €200 – €600
Array-energi / år
≈ €103/yr
∼47 W idle

Datakraft (CPU, hovedkort, RAM, GPU) er ikke inkludert — se anbefalt bygg for live priser.

Vekstutsikter

Hva som skjer når dataene fortsetter å vokse — samme motor som vekstsimulatoren.

Storage stays within 8TB across the 3-year horizon — the architecture fits your expected growth.

Within capacity and bays — no new bay needed for 7TB.

Hvilket nivå trenger du?

  • Velg Minimum (8 kjerner, 32 GB RAM) bare for en enkeltformålsmaskin med stramt budsjett — forvent lite margin.
  • Anbefalt (16 kjerner, 64 GB RAM) er sweet spot-en: nok for arbeidslasten pluss de vanlige tilleggstjenestene, uten å overforbruke.
  • Velg Komfortabelt (24 kjerner, 128 GB RAM) når denne arbeidslasten deler maskinen med andre eller vil vokse — du betaler for margin, ikke for angst.
  • GPU-regel for denne arbeidslasten: ai.GPU-regel for denne arbeidsmengden: ai (24 GB VRAM).

Dekkes også i denne guiden

AI-eksperimenter

Lære og eksperimentere med modeller, trene små modeller, verktøy.

Ofte stilte spørsmål

Hvor mye RAM trenger model training / fine-tuning?

32 GB er et fornuftig minimum, 64 GB dekker de fleste ekte oppsettene, og 128 GB gir komfortabel margin for vekst og ekstra tjenester.

Hvor mange CPU-kjerner trenger model training / fine-tuning?

En CPU med 8 kjerner er minimumet, 16 kjerner er den anbefalte sweet spot-en, og 24 kjerner er komfortabelt når den deler maskinen med andre arbeidslaster.

Trenger model training / fine-tuning et dedikert GPU?

Et dedikert GPU anbefales sterkt — denne arbeidslasten gjør KI-beregninger. Trenger 16–48 GB VRAM (16 minimum, 24 anbefalt, 48 komfortabelt).

Hvilken lagring og hvilket nettverk forventer model training / fine-tuning?

Lagring: 4 TB SSD er den anbefalte grunnlinjen (2 TB minimum, 8 TB komfortabelt). Nettverk: 2.5 GbE er den anbefalte grunnlinjen.

Hva kjører godt sammen med model training / fine-tuning?

Den kombinerer naturlig med: AI-eksperimenter.

Hvor mye strøm bruker model training / fine-tuning?

Arrayet idler rundt 47 W (≈ 103 €/år ved 0,25 €/kWh). Hele systemet legger CPU, hovedkort og vifter oppå — se kostnadsseksjonen for ærlige bånd.