Doladění jakéhokoli LLM v roce 2026: 10 otestovaných nástrojů (vyhrává nejlevnější)

Většina žebříčků „nejlepších nástrojů pro fine-tuning" nahází anotační platformy, trénovací frameworky a GPU cloudy do jednoho pytle a tím to hasne. To není užitečné. Potřebujete seřazený, vyhraněný seznam, který vám řekne, jaký nástroj si skutečně vybrat – ať už o víkendu děláte QLoRA na Llama 3 8B, nebo spouštíte produkční alignment úlohy na 70B modelu. Pokud chcete nejdřív postup krok za krokem, přečtěte si našeho průvodce Jak doladit LLM a pak se sem vraťte vybrat si svůj stack.

Affiliate sdělení: Tento článek obsahuje jeden affiliate odkaz (RunPod). Pokud se přes něj zaregistrujete, získáme malou provizi bez jakýchkoli dodatečných nákladů pro vás. Každý nástroj v tomto seznamu byl hodnocen podle svých kvalit – affiliate vztah umístění nijak neovlivnil.

Celý žebříček na první pohled

Teď si každý z nich rozebereme podrobně.

---

1. Unsloth – nejrychlejší trénink na jednom GPU

Typ: Open-source framework | GitHub hvězdy: 53,9K | Licence: Apache 2.0

Unsloth je na špici, protože řeší nejbolestivější problém fine-tuningu: rychlost a paměť na jednom GPU. Jeho vlastní Triton kernely přinášejí 2–5× rychlejší trénink a o 35 % méně VRAM ve srovnání se základními Hugging Face Transformers. V praxi to znamená QLoRA na Llama 3 8B na jedné RTX 4090 zhruba za hodinu místo za tři.

Co je skvělé

• Čistá rychlost nemá konkurenci. Žádný jiný framework se na jednom GPU propustností ani nepřibližuje. Optimalizace Triton kernelů nejsou jen marketing – rozdíl uvidíte už při prvním tréninku.
• Paměťová efektivita je důležitá. O 35 % méně VRAM znamená, že na levnějším hardwaru doladíte větší modely. RTX 3060 (12GB) s QLoRA pohodlně zvládne 8B modely.
• Novinka pro 2026: podpora fine-tuningu MoE (Mixture of Experts) a FP8 trénink pro ještě větší úsporu paměti.
• Podpora modelů je solidní. Llama 3, Mistral, Gemma, Qwen, DeepSeek – všechny modely, které byste skutečně chtěli doladit.

Co není tak skvělé

• Pouze jedno GPU. Žádný distribuovaný trénink na více uzlech. Pokud potřebujete doladit 70B model na 4× H100, Unsloth vám nepomůže.
• Žádné webové UI. Píšete pythonové skripty. Pro většinu vývojářů to není překážka, ale LlamaBoard od LLaMA-Factory je pro začátečníky přívětivější.
• Užší podpora modelů než LLaMA-Factory. Dostanete populární modely, ale ne těch 200+, které pokrývá LLaMA-Factory.

Cena

Zdarma a open-source. Platíte jen za GPU, na kterém ho spustíte.

Pro koho se hodí

Sóloví vývojáři a malé týmy, které chtějí maximální rychlost tréninku na jednom GPU. Pokud se vaše modely vejdou na jednu kartu (8B s QLoRA, až 13B s agresivní kvantizací), není důvod používat jako trénovací backend cokoli jiného.

Verdikt: Jednička zaslouženě. Rychlostní výhoda Unsloth je reálná, měřitelná a násobí se s každým tréninkem. Zkombinujte ho s RunPod (č. 3) a získáte nejlepší poměr cena/výkon v celém ekosystému.

---

2. LLaMA-Factory – nejlepší pro začátečníky a širokou podporu modelů

Typ: Open-source framework | GitHub hvězdy: 68,4K | Licence: Apache 2.0

LLaMA-Factory je švýcarský nůž fine-tuningu. Ne nadarmo má v tomto seznamu nejvíc hvězd na GitHubu – LlamaBoard, jeho webové UI, vám umožní nakonfigurovat a spustit trénink bez napsání jediné řádky kódu. S více než 200 podporovanými modely se mu žádný jiný framework kompatibilitou nevyrovná.

Co je skvělé

• Webové UI LlamaBoard je opravdu užitečné. Vyberte model, nahrajte dataset, nastavte hyperparametry, klikněte na trénink. Od nuly k doladěnému modelu se dostanete, aniž byste se dotkli terminálu.
• Více než 200 podporovaných modelů. Pokud model existuje na Hugging Face, LLaMA-Factory ho pravděpodobně podporuje. Takový záběr nemá konkurenci.
• Podpora více GPU přes DeepSpeed a FSDP. Na rozdíl od Unsloth můžete škálovat na trénink na více uzlech.
• Vestavěná integrace Unsloth. Zapnutím integrace získáte GUI LLaMA-Factory s rychlostí Unsloth. To nejlepší z obou světů.
• Aktualizace pro 2026: podpora OFT a integrace Megatron-LM pro trénink ve větším měřítku.

Co není tak skvělé

• Pomalejší než Unsloth na jednom GPU (bez zapnuté integrace Unsloth). Výchozí trénovací smyčka nemá optimalizace Triton kernelů.
• Abstrakce skrývá složitost. Když se něco pokazí, debuggování přes vrstvy LLaMA-Factory je těžší než debuggování čistého kódu TRL nebo Transformers.
• Webové UI může být omezující pro pokročilé uživatele, kteří chtějí plnou kontrolu nad trénovací smyčkou.

Cena

Zdarma a open-source.

Pro koho se hodí

Týmy, které s fine-tuningem začínají a chtějí GUI, nebo kdokoli, kdo potřebuje pracovat s méně obvyklými architekturami modelů. Integrace Unsloth znamená, že nemusíte obětovat rychlost ve prospěch pohodlí.

Verdikt: Nejpřívětivější vstupní brána do fine-tuningu. Pokud jste ještě nikdy žádný model nedoladili, začněte tady. Až UI přerostete, přejděte na čisté skripty Unsloth nebo TRL.

---

3. RunPod – nejvýhodnější GPU cloud

Typ: GPU cloud | Účtování: po sekundách | Affiliate odkaz

Framework máte z č. 1 nebo č. 2 – teď potřebujete GPU, na kterém ho spustíte. RunPod nabízí nejširší výběr GPU za nejkonkurenceschopnější ceny na trhu. RTX 4090 za 0,44 $/hod, A100 80GB za 1,09 $/hod, H100 za 2,39 $/hod – vše s účtováním po sekundách, takže neplatíte za nečinnost.

Co je skvělé

• Cenu jen tak někdo nepřekoná. RTX 4090 za 0,44 $/hod je ideální volba pro fine-tuning 8B modelů. Kompletní QLoRA běh vyjde na méně než dolar.
• Účtování po sekundách. Vaše trénovací úloha doběhne za 47 minut? Platíte za 47 minut, ne za celou hodinu.
• Spot instance sníží náklady o 30–50 %. Fine-tuningové úlohy, které doběhnou za hodiny (ne dny), jsou pro spotové ceny jako stvořené.
• Community cloud úroveň je ještě levnější, i když s menšími garancemi spolehlivosti. Dobrá na experimentování.
• Nejširší výběr GPU. RTX 4090, A100, H100 a další. Jiné cloudy spotřebitelské varianty vynechávají, přitom jsou pro úsporné běhy ideální.

Co není tak skvělé

• Není serverless. Spravujete instance, spouštíte je, připojujete se přes SSH, rušíte je. To není úroveň developerského zážitku jako u Modal.
• Spolehlivost community cloudu kolísá. Secure cloud je stabilní, ale community instance mohou být odstaveny.
• Žádná vestavěná trénovací pipeline. Je to infrastruktura, ne platforma. Vlastní framework a skripty si přinášíte sami.

Cena

Pro koho se hodí

Kdokoli, kdo provozuje self-hosted fine-tuning a chce nejlepší poměr cena/výkon. Zkombinujte s Unsloth a získáte nejlevnější možný trénovací stack: QLoRA úloha na Llama 3 8B vyjde na méně než 1 $.

Verdikt: GPU cloud, který doporučujeme nejvíc. Kombinace širokého výběru GPU, účtování po sekundách a konkurenceschopných cen dělá z RunPodu výchozí volbu pro fine-tuningovou infrastrukturu.

---

4. Hugging Face TRL – nejlepší pro alignment trénink

Typ: Open-source framework | GitHub hvězdy: 17,6K | Licence: Apache 2.0

TRL (Transformer Reinforcement Learning) je kanonická knihovna pro postréninkový alignment. Pokud děláte SFT, DPO, GRPO nebo reward modeling, referenční implementace najdete tady. Verze 0.15.0 vyšla v březnu 2026 s vylepšenou podporou GRPO.

Co je skvělé

• Standard pro alignment. DPOTrainer, GRPOTrainer, SFTTrainer, RewardTrainer – to jsou implementace, které citují odborné články. Když se objeví nová alignment technika, TRL ji dostane jako první.
• Hluboká integrace s ekosystémem Hugging Face. Datasety, tokenizéry, model Hub, evaluace – vše se propojuje nativně. Žádný spojovací kód.
• Ověřeno v produkci. Firmy, které dělají vážné RLHF a trénink založený na preferencích, spoléhají na TRL jako na svou páteř.
• Aktivně udržováno s častými releasy a dobrou dokumentací.

Co není tak skvělé

• Není optimalizováno na rychlost jako Unsloth. Standardní trénovací smyčka Transformers, takže čekejte běžné rychlosti.
• Křivka učení je strmější než u LLaMA-Factory. Žádné webové UI – píšete Python a musíte rozumět trainer API.
• Na jednoduché SFT je to kanón na vrabce. Pokud chcete jen LoRA doladit model na svém datasetu a alignment nepotřebujete, Unsloth nebo LLaMA-Factory jsou jednodušší.

Cena

Zdarma a open-source.

Pro koho se hodí

Výzkumníci a ML týmy, které dělají alignment založený na preferencích (RLHF, DPO, GRPO). Pokud váš trénink zahrnuje lidskou zpětnou vazbu, reward modely nebo preferenční datasety, TRL je ten pravý nástroj.

Verdikt: Pro alignment práci nenahraditelný. Nic jiného nemá stejnou hloubku implementací alignment trainerů. Používejte ho vedle Unsloth (kvůli rychlosti), nebo samostatně pro výzkum.

---

5. OpenAI Fine-Tuning API – nejsnazší spravovaná cesta

Typ: Spravované API | Modely: GPT-4o, GPT-4o-mini, GPT-4.1

Fine-tuning API od OpenAI je možnost s nejnižším třením v tomto seznamu. Nahrajete JSONL soubor, nastavíte pár hyperparametrů a trénujete GPT-4o nebo GPT-4.1. Žádné GPU, žádný framework, žádné Docker kontejnery, žádné starosti s CUDA ovladači.

Co je skvělé

• Nulová infrastruktura. Nahrajete data, kliknete na trénink, dostanete endpoint. To je celý workflow.
• Přístup k GPT-4o a GPT-4.1. Můžete doladit modely, které nejsou dostupné jako open-weight alternativy.
• Solidní eval nástroje vestavěné přímo v platformě – výkon základního a doladěného modelu porovnáte přímo.
• Rychlá iterace. Malé fine-tuningové úlohy doběhnou do 30 minut.

Co není tak skvělé

• Váhy si nestáhnete. Váš doladěný model zůstane navždy na serverech OpenAI. Chcete změnit poskytovatele? Začněte znovu.
• Inferenční náklady za token se sčítají. Trénink je levný, ale platíte za token při každém použití modelu. Ve velkém měřítku to rychle prodraží.
• Omezený výběr modelů. GPT-4o, GPT-4o-mini, GPT-4.1 – to je vše. Žádná Llama, žádný Mistral, žádné open modely.
• Obavy o soukromí dat. Vaše trénovací data putují k OpenAI. Některá regulovaná odvětví tohle dělat nemohou.

Cena

Cena za token, zhruba 3–25 $ za typickou fine-tuningovou úlohu v závislosti na velikosti datasetu a modelu. Skutečné náklady představuje průběžná inference, ne trénink.

Pro koho se hodí

Týmy, které už OpenAI používají v produkci a chtějí přizpůsobit chování modelu bez správy infrastruktury. Ideální pro formátování, tón a doménově specifické úlohy, kde základní schopnosti GPT-4o stačí skoro, ale ne tak docela.

Verdikt: Nejlepší pro týmy svázané s ekosystémem OpenAI. Pohodlí je reálné, ale vendor lock-in a absence přenositelnosti vah ho drží mimo top 3.

---

6. Together AI – nejlepší spravovaná platforma pro open modely

Typ: Spravované API | Modely: Llama 3, Mistral, Qwen, DeepSeek a další

Together AI vám nabídne spravovaný zážitek jako OpenAI, ale s flexibilitou open modelů. Přes jejich platformu doladíte Llama 3, Mistral, Qwen a další open modely – a co je zásadní, výsledné váhy si můžete stáhnout.

Co je skvělé

• Přenositelnost vah. Tohle je killer funkce. Trénujte na infrastruktuře Together, stáhněte váhy, nasaďte kamkoli chcete. Žádný lock-in.
• Spravovaná infrastruktura. Žádná správa GPU, žádné nastavování frameworku. Nahrajte data a trénujte.
• Široká podpora open modelů. Většina populárních open-source modelů je dostupná.
• Dobré pro týmy, které chtějí spravované pohodlí dnes s možností přejít na self-hosted později.

Co není tak skvělé

• Dražší než self-hosted. Za spravovaný zážitek platíte příplatek. Fine-tuning Llama 3 8B na Together stojí 8–10 $, oproti méně než 1 $ na RunPod s Unsloth.
• Menší kontrola nad tréninkem. Méně možností hyperparametrů než při běhu vlastní trénovací smyčky.
• Cena za token je nepřehledná ve srovnání s účtováním za GPU-hodinu u cloudových poskytovatelů.

Cena

Cena za token se liší podle modelu. Typický fine-tuning Llama 3 8B vyjde na 8–10 $. Aktuální sazby zjistíte na jejich cenové stránce.

Pro koho se hodí

Týmy, které chtějí spravovaný fine-tuning s open modely a možnost vlastnit své váhy. Solidní střední cesta mezi plným self-hosted a uzavřeným ekosystémem OpenAI.

Verdikt: Nejlepší možnost „spravované, ale bez lock-in". Pokud chcete pohodlí teď i s únikovou strategií, Together AI je správná volba.

---

7. Modal – nejlepší developerský zážitek pro GPU úlohy

Typ: GPU cloud (serverless) | Účtování: po sekundách

Modal volí zásadně odlišný přístup: serverless GPU. Píšete pythonový kód s dekorátory a Modal se stará o provisioning, škálování a teardown. Cold start trvá 2–4 sekundy a platíte po sekundách jen tehdy, když váš kód běží.

Co je skvělé

• Developerský zážitek je nejlepší ve své třídě. Žádné SSH, žádný Docker, žádná správa instancí. Napište pythonovou funkci, ozdobte ji @modal.gpu a běží na A100.
• Účtování po sekundách s nulovými náklady za nečinnost. Vaše funkce běží, platíte, vypne se. Žádné zapomenuté instance, které přes noc spalují peníze.
• Skvělé pro batch úlohy a pipeline. Pokud spouštíte trénink jako součást větší ML pipeline, kompozovatelnost Modalu je vynikající.
• Rychlé cold starty. 2–4 sekundy na spuštění GPU je opravdu působivé.

Co není tak skvělé

• Žádná spotřebitelská GPU. A100 (1,38 $/hod) je nejlevnější možnost. Žádná RTX 4090 za 0,44 $/hod jako u RunPod.
• Vyšší hodinové náklady než RunPod nebo Lambda pro stejnou třídu GPU.
• Serverless abstrakce vám může házet klacky pod nohy, když potřebujete nízkoúrovňovou kontrolu (vlastní CUDA, konkrétní verze ovladačů).
• Není ideální pro dlouho běžící úlohy, kde by dedikovaná instance vyšla levněji.

Cena

Pro koho se hodí

Vývojáři, kteří upřednostňují DX před čistými náklady, zejména ti, kdo spouštějí fine-tuning jako součást automatizovaných pipeline. Pokud nesnášíte správu infrastruktury a nevadí vám si za to připlatit, Modal je vynikající.

Verdikt: Prémiový DX za prémiové ceny. Vyplatí se týmům, které si cení času vývojářů víc než nákladů na GPU, ale na čistou ekonomiku vyhrává RunPod.

---

8. Axolotl – nejlepší pro reprodukovatelné produkční pipeline

Typ: Open-source framework | GitHub hvězdy: 11,4K | Licence: Apache 2.0

Axolotl sází na přístup řízený YAML konfigurací, kde je každý tréninkový běh plně definován v jediném konfiguračním souboru. Stejná konfigurace, stejné výsledky. Produkční ML týmy tento determinismus milují.

Co je skvělé

• Reprodukovatelnost řízená konfigurací. Definujte dataset, model, hyperparametry, LoRA konfiguraci i evaluaci v jednom YAML souboru. Commitněte do gitu. Spusťte kdekoli.
• Ověřené multi-GPU konfigurace. DeepSpeed a FSDP konfigurace, které opravdu fungují hned po vybalení – ne jen „teoreticky podporované".
• Skvělé pro CI/CD pipeline. Přístup s YAML na prvním místě znamená, že tréninkové běhy můžete spouštět z automatizace bez psaní Pythonu.
• Aktivní komunita s dobrými přednastavenými konfiguracemi pro běžné architektury modelů.

Co není tak skvělé

• Nejstrmější křivka učení v tomto seznamu. Systém YAML konfigurací je mocný, ale má spoustu přepínačů. Počítejte s tím, že než poprvé úspěšně spustíte trénink, strávíte čas čtením dokumentace.
• Pomalejší iterace než LLaMA-Factory. Žádné webové UI znamená, že každý experiment vyžaduje úpravu konfiguračního souboru.
• Standardní rychlost tréninku. Žádné optimalizace Triton kernelů jako Unsloth. Unsloth můžete integrovat jako backend, ale není to výchozí.
• Menší komunita než Unsloth nebo LLaMA-Factory (11,4K oproti 50K+ hvězdám).

Cena

Zdarma a open-source.

Pro koho se hodí

ML týmy, které provozují fine-tuning v produkci a kde záleží na reprodukovatelnosti a auditovatelnosti. Pokud potřebujete prokázat, že tréninkový běh č. 47 použil přesně stejnou konfiguraci jako běh č. 46, Axolotl je váš nástroj.

Verdikt: Správná volba pro vážné produkční ML. Není to místo, kde začínáte, ale kde skončíte, až se fine-tuning stane klíčovou součástí vašeho workflow.

---

9. Mistral Fine-Tuning API – nejlepší pro modely Mistral

Typ: Spravované API | Modely: Mistral Small, Mistral Medium, Mistral Large

Mistral nabízí fine-tuning API pro vlastní rodinu modelů. Pokud už modely Mistral používáte v produkci a chcete je přizpůsobit, jejich nativní API vám ušetří režii s nastavováním self-hosted trénovací pipeline.

Co je skvělé

• Nativní optimalizace Mistral. Fine-tuning přes vlastní infrastrukturu Mistral znamená, že mohou optimalizovat pro svou architekturu způsoby, které nástroje třetích stran nedokážou.
• Jednoduché API. Podobný workflow jako OpenAI – nahrajte data, nakonfigurujte, trénujte.
• Silné evropské možnosti data residency pro týmy s požadavky GDPR.
• Modely Mistral na mnoha benchmarcích předčí svou váhovou kategorii, zejména pro evropské jazyky.

Co není tak skvělé

• Pouze modely Mistral. Pokud chcete doladit Llama nebo Qwen, hledejte jinde.
• Menší ekosystém než OpenAI nebo Together AI. Méně dokumentace, méně komunitních zdrojů.
• Transparentnost cen by mohla být lepší. Aktuální sazby zjistíte na jejich nejnovější cenové stránce.
• Přenositelnost vah se liší podle úrovně. Některé modely umožňují stažení vah, jiné ne.

Cena

Cena za token se liší podle modelu. Aktuální sazby zjistíte na cenové stránce Mistral.

Pro koho se hodí

Týmy, které se už upsaly rodině modelů Mistral a chtějí spravovaný fine-tuning bez self-hostingu. Obzvlášť relevantní pro evropské firmy s požadavky na data residency.

Verdikt: Nikový, ale solidní. Pokud je Mistral váš zvolený model, jejich nativní API je cesta nejmenšího odporu. Pro všechny ostatní nabízí Together AI (č. 6) modely Mistral se širší flexibilitou.

---

10. Lambda Cloud – stabilní dedikované GPU instance

Typ: GPU cloud (dedikované) | Účtování: po hodinách

Lambda Cloud je přímočarý: dedikované GPU instance s přístupem přes SSH. A100 80GB za 1,29 $/hod, H100 za 2,49 $/hod. Žádné spotové ceny, žádná serverless abstrakce, žádná překvapení.

Co je skvělé

• Extrémně jednoduché. Připojíte se přes SSH, spustíte skript, stáhnete váhy přes scp. To je vše.
• Stabilní instance. Žádné riziko odstavení jako u spot instancí na RunPod. Vaše 40hodinová trénovací úloha nebude přerušena.
• Dobré pro dlouho běžící úlohy, kde je stabilita důležitější než optimalizace nákladů.
• Předinstalovaný ML stack. CUDA, PyTorch a běžné knihovny jsou připraveny k použití.

Co není tak skvělé

• Účtování po hodinách, ne po sekundách. Úloha, která trvá 61 minut, vás vyjde na 2 hodiny.
• Žádná spotřebitelská GPU. Žádná možnost RTX 4090, takže úsporné běhy nejsou tak levné jako u RunPod.
• Žádné spotové ceny. Vždy platíte plnou on-demand sazbu.
• Omezená dostupnost GPU ve srovnání s tržním modelem RunPod. Populární GPU mohou být vyprodaná.

Cena

Pro koho se hodí

Týmy, které spouštějí dlouhé, několikadenní trénovací úlohy, kde je stabilita instancí důležitější než šetření každého haléře. Hodí se i pro týmy, které chtějí prostě SSH a nechtějí se učit API specifické pro daný cloud.

Verdikt: Spolehlivý a nudný – v tom dobrém smyslu. Lambda vám oproti RunPod peníze neušetří, ale taky nepřijdete o trénink kvůli odstavené spot instanci.

---

Proč Techsy volí Unsloth jako jedničku

Žebříček v konečném důsledku stojí na poměru přínosu k ceně. Optimalizace Triton kernelů v Unsloth přinášejí 2–5× vyšší rychlost za nulové náklady – je to open-source. Tato rychlostní výhoda se násobí s každým tréninkovým během, který kdy uděláte. Tým, který dělá týdenní fine-tuningové iterace, ušetří desítky GPU-hodin měsíce, což se přímo překládá ve stovky dolarů ušetřených na cloudových nákladech.

Zkombinujte Unsloth s RTX 4090 od RunPod za 0,44 $/hod a máte kompletní fine-tuningový stack, který doladí model Llama 3 8B za méně než dolar. To není hypotéza – to vidíme v reálných projektech.

Jediné scénáře, kde Unsloth není správná odpověď: distribuovaný trénink na více GPU (použijte Axolotl nebo LLaMA-Factory), práce specifická pro alignment (použijte TRL), nebo pokud potřebujete spravované API, protože váš tým nezvládne spravovat infrastrukturu (použijte OpenAI nebo Together AI).

Kolik fine-tuning vlastně stojí?

Shrnutí: fine-tuning 8B modelu s QLoRA vyjde na cloudových GPU na méně než šálek kávy. I produkční běh 70B modelu zůstane se správným nastavením pod 10 $.

Jaký nástroj si vybrat?

Stavíte AI SaaS? Náš průvodce Nejlepší AI stack pro SaaS pokrývá celý infrastrukturní obraz nad rámec fine-tuningu.

Potřebujete něco na míru?

V Techsy pomáháme startupům integrovat doladěné modely do produkčních aplikací – od výběru správného frameworku a poskytovatele GPU až po nasazení natrénovaného modelu za API. Trénovací pipeline jsme stavěli s každým nástrojem v tomto seznamu. Podívejte se na naše služby AI integrace. Získejte bezplatnou konzultaci AI architektury.

Často kladené otázky

Jaký je nejlepší framework pro fine-tuning LLM v roce 2026?

Unsloth pro čistou rychlost na jednom GPU, LLaMA-Factory pokud chcete webové UI, TRL pro alignment trénink (DPO/GRPO) a Axolotl pro reprodukovatelné produkční pipeline. Náš průvodce Jak doladit LLM vás provede celým procesem krok za krokem.

Kolik stojí fine-tuning LLM?

Od 0 $ na vlastním GPU po 400 $ a více za plný fine-tune 70B modelu. Nejběžnější scénář, QLoRA na 8B modelu s využitím RunPod, stojí 0,44–0,88 $. Každou cenovou úroveň najdete v tabulce cenových scénářů výše.

Mám použít spravované API, nebo self-hosted fine-tuning?

Spravovaná API (OpenAI, Together AI) vás rozjedou během minut s nulovou správou GPU. Self-hosted vám dá plné vlastnictví vah, soukromí dat a nižší dlouhodobé náklady. Pro většinu produkčních zátěží se self-hosted zaplatí během několika tréninkových běhů.

Dá se LLM doladit na spotřebitelském GPU?

Ano. 8B model se s využitím QLoRA a Unsloth vejde na RTX 3060 (12GB VRAM). RTX 4090 (24GB) pohodlně zvládne většinu případů použití. A100 (80GB) potřebujete jen pro 70B parametrické modely nebo plné fine-tuny.

Je Unsloth lepší než LLaMA-Factory?

Různé silné stránky. Unsloth je díky vlastním Triton kernelům 2–5× rychlejší na jednom GPU. LLaMA-Factory má webové UI, podporuje více než 200 modelů a zvládá multi-GPU sestavy. Můžete použít oba dohromady – LLaMA-Factory má vestavěnou integraci Unsloth, která vám dá GUI i s rychlostí.

Jaké GPU potřebuji pro fine-tuning?

Minimum je 12GB VRAM (RTX 3060) s QLoRA pro 8B modely. Doporučeno 24GB (RTX 4090) pro pohodlné běhy. 80GB (A100) pro 70B modely. Pro plné fine-tuny (ne LoRA) tyto požadavky zhruba zdvojnásobte.

Můžu si stáhnout váhy svého doladěného modelu?

Od OpenAI: ne, váš model zůstane na jejich serverech. Od Together AI, Mistral (některé úrovně) a všech open-source frameworků: ano. Přenositelnost vah je jedním z nejdůležitějších rozhodovacích faktorů pro dlouhodobou flexibilitu.

Jaký je rozdíl mezi LoRA, QLoRA a plným fine-tuningem?

Plný fine-tuning aktualizuje všechny váhy modelu (obrovské nároky na VRAM). LoRA zmrazí základní model a trénuje malé adaptérové matice (mnohem méně VRAM). QLoRA k tomu přidává 4bitovou kvantizaci, což paměť dále snižuje. Pro většinu případů použití QLoRA dosahuje 90–95 % kvality plného fine-tuningu za zlomek nákladů.

Jak vyhodnotím svůj doladěný model?

Spouštějte benchmarky relevantní pro vaši konkrétní úlohu, ne obecné metriky z žebříčků. Zkombinujte automatizované metriky (loss, přesnost ve vaší doméně) s lidským hodnocením na vyčleněné testovací sadě. Doménově specifická evaluace je mnohem důležitější než obecná skóre.

Potřebuji fine-tuning, nebo stačí prompting?

Začněte s promptingem a RAG. Pokud narážíte na opakované problémy s kvalitou u konkrétní úlohy – požadavky na formátování, doménová terminologie, konzistence stylu – fine-tuning je obvykle vyřeší. Dobré pravidlo: pokud laděním promptů trávíte víc času, než by zabrala příprava 500 trénovacích příkladů, je čas na fine-tuning.

Zdroje

• Dokumentace Unsloth
• GitHub LLaMA-Factory
• Dokumentace Hugging Face TRL
• Průvodce fine-tuningem OpenAI
• Ceník OpenAI
• Ceník RunPod
• Ceník Lambda Cloud
• Mistral AI
• DEV Community: Srovnání fine-tuning frameworků 2026