Ollama doma: jaký hardware skutečně potřebuješ na lokální LLM

Před rokem jsem si na domácí server nainstaloval Ollamu a poprvé spustil Mistral 7B lokálně. Bez cloudu, bez API klíče, bez toho, aby moje dotazy odlétaly někam do datového centra. Ten pocit — to byl zlomový moment. V roce 2026 je lokální provoz LLM modelů reálná volba pro každého technologického nadšence. Ale aby to fungovalo plynule, potřebuješ vědět, co hardware skutečně znamená. Pojďme na to konkrétně.

VRAM je král — všechno ostatní je až druhé

Tohle je první věc, kterou jsem pochopil pozdě a zbytečně jsem experimentoval. Největší omezení lokálních LLM není CPU ani RAM — je to VRAM grafické karty. Základní pravidlo, které si zapiš: přibližně 2 GB VRAM na každou miliardu parametrů modelu při FP16 přesnosti. Kvantizace to dramaticky mění — Q4 (4-bitová kvantizace) to zhruba čtvrtinuje.

Podle přehledu hardwaru od Overchat AI to v praxi vypadá takto:

GPU	VRAM	Co na to poběží
RTX 3060 12GB	12 GB	Mistral 7B, Llama 3 8B v Q8
RTX 4060 Ti 16GB	16 GB	13–14B modely v Q8
RTX 4090	24 GB	30B v Q4, 13B v FP16
RTX 5090	32 GB	70B v Q4, 30B v Q8
2× RTX 4090	48 GB	70B v Q8, velké MoE modely

Já osobně běžím na RTX 4070 Ti s 12 GB VRAM a pro každodenní použití — domácí automatizace, generování skriptů, chatbot pro rodinu — mi to naprosto stačí. Modely jako Mistral 7B nebo Phi-3.5 Mini (pouhé 3,8B parametrů, spokojené se 4 GB VRAM) fungují perfektně. Pokud chceš skočit rovnou na 70B modely jako Llama 3.3 70B nebo Qwen 3.5 72B, potřebuješ minimálně dual-GPU setup nebo přejít na Apple Silicon.

Tři reálné sestavy: od začátečníka po nadšence

Podle hardwarového průvodce od PromptQuorum dávají smysl tři úrovně sestavení domácího LLM serveru:

Startovní sestava (~35 000 Kč): RTX 4070 Ti, Intel i7-13700, 16 GB RAM. Zvládne modely 7B–13B s příjemnými 30+ tokeny za sekundu. Pro Ollamu s Mistral 7B nebo Phi-3.5 Mini je to víc než dost. Tohle je moje současná konfigurace a upřímně — pro domácí nasazení nepotřebuješ víc.

Solidní sestava (~60 000 Kč): RTX 4080, i7-14700K, 32 GB RAM. Tady se dostáváš do území 13B–30B modelů. Ollama s Qwen 3.5 32B v Q4_K_M kvantizaci ti dá výkon, který v mnoha ohledech konkuruje cloudovým službám — a bez měsíčního předplatného.

High-end sestava (~100 000+ Kč): 2× RTX 4090, Ryzen 9, 128 GB RAM. Tohle je prakticky cokoliv — 70B modely v Q8, velké MoE architektury. Ale upřímně, na domácí server je to kanón na vrabce, pokud nejdeš provozovat sdílenou službu pro celou rodinu nebo malý tým.

Jedna věc, na kterou jsem narazil osobně a o které varuje i PromptQuorum: nepodceňuj napájení a chlazení. RTX 4090 bere 575 W pod zátěží. Budeš potřebovat zdroj minimálně 1200 W a slušné větrání v skříni. Já na to přišel tím, že mi při prvním load testu spadla celá sestava — zdroj jednoduše nestačil.

Apple Silicon jako alternativa

Pokud uvažuješ o Mac cestě, SitePoint ve svém srovnání ukazuje zajímavou věc: Apple Silicon M-série má unified memory — GPU přistupuje ke stejné paměti jako CPU. M3 Max s 96 GB unified memory tak zvládne spustit Llama 3 70B v Q4_K_M kvantizaci při 10–15 tokenech za sekundu přes Ollamu. To je na hranici pohodlné interaktivity, ale funguje to. M4 Max se 128 GB jde ještě dál.

Nevýhoda? Nižší memory bandwidth oproti top NVIDIA kartám — tokeny za sekundu jsou nižší. Pro domácí chatbota nebo asistenta pro domácí automatizaci to ale stačí, a dostaneš to v notebooku.

Jak začít s Ollama prakticky

Instalace Ollamy je triviální — na Linuxu (kde běží můj home server na Ubuntu):

curl -fsSL https://ollama.com/install.sh | sh
ollama pull mistral:7b
ollama run mistral:7b

Ollama automaticky detekuje GPU, stáhne model ve správné kvantizaci a spustí REST API na portu 11434. Důležitý detail: Ollama expozuje OpenAI-kompatibilní endpoint na /v1/chat/completions — to znamená, že každý nástroj, který umí mluvit s OpenAI API (Home Assistant, n8n, vlastní skripty), může bez změny kódu mluvit s tvým lokálním modelem. Stačí změnit base URL.

Pro domácí automatizaci používám Ollamu takhle: Home Assistant volá lokální endpoint, Mistral 7B zpracuje dotaz („Kolik energie jsme spotřebovali tento týden ve srovnání s minulým?") a vrátí přirozený text. Žádný cloud, žádná latence přes internet, plné soukromí.

Praktický tip od komunity r/LocalLLaMA: Q4_K_M je tvůj výchozí formát kvantizace. Nabízí nejlepší poměr kvality a velikosti. Pro rychlé úlohy jako autocomplete nebo jednoduché dotazy použij 7B model, pro složitější reasoning přepni na 14B nebo 30B — a nechej oba načtené, protože studené starty trvají 5–15 sekund navíc.

Co to celé znamená pro tvůj domácí server

V roce 2026 není lokální LLM infrastruktura žádná raketová věda. S RTX 4060 (8 GB VRAM, ~8 000 Kč) spustíš Mistral 7B na 30+ tokenech za sekundu. S RTX 4070 Ti se dostaneš do pohodlné zóny pro 13B modely. Nejdražší chyba, kterou vidím u začátečníků? Koupit výkonné CPU a šetřit na GPU. Jak jasně říká PromptQuorum: RTX 4070 Ti za ~15 000 Kč překoná CPU za 50 000 Kč desetinásobně v inferenci.

Moje doporučení: začni s tím, co máš. Pokud máš jakoukoliv moderní NVIDIA kartu s 8+ GB VRAM, stáhni Ollamu, spusť ollama run mistral:7b a uvidíš, jak to funguje u tebe doma. Teprve pak investuj do upgradu — s konkrétní představou, co chceš provozovat.

Jaký model ti běží na domácím serveru? Nebo teprve plánuješ? Napiš do komentářů — rád se podělím o konfiguraci, která mi funguje.