Ollama (local AI): Hardware-Anforderungen
LLMs lokal ausführen — Chat, Code-Vervollständigung, private KI.
Hardware-Stufen
| Stufe | CPU | RAM | Speicher | GPU | VRAM | Netzwerk |
|---|---|---|---|---|---|---|
| Mindest-sinnvoll | 8 Kerne | 16 GB | 1 TB (ssd) | ai | 12 GB VRAM | 1 GbE |
| Empfohlen | 12 Kerne | 32 GB | 1 TB (ssd) | ai | 16 GB VRAM | 2.5 GbE |
| Komfortabel | 16 Kerne | 64 GB | 2 TB (ssd) | ai | 24 GB VRAM | 10 GbE |
| Overkill | 26 Kerne | 103 GB | 4 TB (ssd) | ai | 24 GB VRAM | 10 GbE |
- Mindest-sinnvoll: Das kleinste System, das wirklich funktioniert — kompakt, fokussiert, ohne Ballast.
- Empfohlen: Der Sweet Spot: bewältigt den Dienst plus die üblichen Nebendienste.
- Komfortabel: Echte Reserven — dieser Dienst wird nie der Flaschenhals sein.
- Overkill: Mehr, als du für diesen Dienst allein je brauchen wirst — gib das Geld lieber anders aus.
Jenseits von Komfortabel — 16 Kerne, 64 GB RAM, 2 TB: Reserven, die du für diesen Dienst allein nie brauchen wirst.
Exakt dimensionieren
Wähle das Modell, das du betreiben willst — der VRAM-Bedarf wird berechnet, nicht geraten.
Du brauchst ca. 8 GB VRAM dafür.
Läuft gut mit
Bilderzeugung, KI-Experimente, Datenbanken
Häufig gestellte Fragen
Wie viel RAM braucht Ollama (local AI)?
16 GB ist das vernünftige Minimum, 32 GB decken die meisten realen Setups ab, und 64 GB geben komfortable Reserven.
Wie viele CPU-Kerne braucht Ollama (local AI)?
8 Kerne sind das Minimum, 12 Kerne der Sweet Spot und 16 Kerne komfortabel bei geteilter Nutzung mit anderen Diensten.
Kann ich mehrere Dienste auf einer Maschine ausführen?
Ja – die meisten Dienste teilen Ressourcen. Nutze den Planer und wähle mehrere Dienste; die Engine summiert und überlappt die Anforderungen, statt sie zu stapeln.
Was, wenn ich bereits Hardware habe?
Registriere sie in Meine Hardware und die Analyse zeigt genau, welche Dienste dein aktuelles System bequem ausführen kann – inklusive eines ehrlichen „nichts tun“.