Ollama (local AI): laitteistovaatimukset
Aja LLM-malleja paikallisesti — chat, koodin täydennys, yksityinen tekoäly.
Laitteistotasot
| Taso | CPU | RAM | Tallennus | GPU | VRAM | Verkko |
|---|---|---|---|---|---|---|
| Järkevä minimi | 8 ydintä | 16 GB | 1 TB (ssd) | ai | 12 GB VRAM | 1 GbE |
| Suositeltu | 12 ydintä | 32 GB | 1 TB (ssd) | ai | 16 GB VRAM | 2.5 GbE |
| Mukava | 16 ydintä | 64 GB | 2 TB (ssd) | ai | 24 GB VRAM | 10 GbE |
| Ylimitoitettu | 26 ydintä | 103 GB | 4 TB (ssd) | ai | 24 GB VRAM | 10 GbE |
- Järkevä minimi: Pienin kokoonpano, joka todella toimii — tiivis, keskittynyt, ilman kikkailua.
- Suositeltu: Optimaalinen taso: pyörittää palvelun ja tavalliset oheispalvelut.
- Mukava: Todellinen pelivara — tämä palvelu ei ole koskaan pullonkaula.
- Ylimitoitettu: Enemmän kuin koskaan käytät pelkästään tähän palveluun — käytä rahat muualla.
Mukavan tuolla puolen — 16 ydintä, 64 Gt RAM-muistia, 2 Tt: pelivaraa, jota et koskaan käytä pelkästään tähän palveluun.
Mitoita tarkasti
Valitse ajettava malli — VRAM-tarve lasketaan, ei arvata.
Tarvitset ~8 GB VRAMia tähän.
Toimii hyvin kanssa
Kuvagenerointi, AI-kokeilut, Tietokannat
Usein kysytyt kysymykset
Kuinka paljon RAM-muistia Ollama (local AI) tarvitsee?
16 Gt on järkevä minimi, 32 Gt kattaa useimmat todelliset kokoonpanot ja 64 Gt antaa mukavan pelivaran.
Kuinka monta CPU-ydintä Ollama (local AI) tarvitsee?
8 ydintä on minimi, 12 ydintä optimi ja 16 ydintä mukavasti jaettuna muiden palveluiden kanssa.
Voinko ajaa useita palveluita yhdellä koneella?
Kyllä — useimmat palvelut jakavat resursseja. Käytä suunnittelijaa ja valitse useita palveluita; moottori summaa ja limittää vaatimukset pinoamisen sijaan.
Entä jos minulla on jo laitteistoa?
Rekisteröi se kohtaan Laitteistoni, niin analyysi näyttää tarkalleen, mitä palveluita nykyinen järjestelmäsi voi ajaa vaivatta — mukaan lukien rehellinen ”älä tee mitään”.