Finetun enhver LLM i 2026: 10 værktøjer testet (billigst vinder)

De fleste "bedste finetuning-værktøjer"-lister smider annotationsplatforme, træningsframeworks og GPU-clouds i én bunke og kalder det en dag. Det er ikke hjælpsomt. Du har brug for en rangeret, holdningsbaseret liste, der fortæller dig, hvilket værktøj du faktisk skal vælge — uanset om du QLoRA-træner en Llama 3 8B i en weekend eller kører produktionsklar alignment på en 70B-model. Hvis du vil have trin-for-trin-processen først, så læs vores Sådan finetuner du en LLM-guide, og kom tilbage hertil for at vælge din stack.

Affiliate-oplysning: Dette indlæg indeholder ét affiliate-link (RunPod). Hvis du tilmelder dig via det, tjener vi en lille provision uden ekstra omkostninger for dig. Alle værktøjer på denne liste er rangeret efter fortjeneste — affiliate-forholdet har ikke påvirket placeringen.

Den fulde rangering på ét blik

Lad os gennemgå hvert enkelt.

---

1. Unsloth — hurtigste single-GPU-træning

Type: Open source-framework | GitHub-stjerner: 53,9K | Licens: Apache 2.0

Unsloth ligger øverst, fordi det løser det mest smertefulde problem inden for finetuning: hastighed og hukommelse på en enkelt GPU. Dets brugerdefinerede Triton-kernels leverer 2-5x hurtigere træning og 35 % mindre VRAM sammenlignet med standard Hugging Face Transformers. Det betyder, at du kan QLoRA-træne en Llama 3 8B på en enkelt RTX 4090 på cirka en time i stedet for tre.

Hvad der er godt

• Rå hastighed er uovertruffen. Intet andet framework kommer i nærheden på single-GPU-throughput. Triton-kernel-optimeringerne er ikke bare marketing — du ser forskellen allerede i din første træningskørsel.
• Hukommelseseffektivitet betyder noget. 35 % mindre VRAM betyder, at du kan finetune større modeller på billigere hardware. En RTX 3060 (12 GB) kan håndtere 8B-modeller med QLoRA uden problemer.
• Nyt i 2026: MoE (Mixture of Experts)-finetuning-understøttelse og FP8-træning for endnu bedre hukommelsesbesparelser.
• Modelunderstøttelsen er solid. Llama 3, Mistral, Gemma, Qwen, DeepSeek — alle de modeller, du faktisk vil finetune.

Hvad der ikke er godt

• Kun single-GPU. Ingen multi-node distribueret træning. Hvis du skal finetune en 70B-model på tværs af 4x H100'ere, kan Unsloth ikke hjælpe.
• Ingen web-UI. Du skriver Python-scripts. Ikke et dealbreaker for de fleste udviklere, men LLaMA-Factorys LlamaBoard er mere begyndervenligt.
• Snævrere modelunderstøttelse end LLaMA-Factory. Du får de populære modeller, men ikke de 200+, som LLaMA-Factory dækker.

Pris

Gratis og open source. Du betaler kun for den GPU, du kører det på.

Hvem bør bruge det

Soloudviklere og små teams, der vil have maksimal træningshastighed på en enkelt GPU. Hvis dine modeller kan være på ét kort (8B med QLoRA, op til 13B med aggressiv kvantisering), er der ingen grund til at bruge andet som træningsbackend.

Dom: Nr. 1 af en grund. Unsloths hastighedsfordel er reel, målbar og akkumuleres over hver eneste træningskørsel. Kombiner det med RunPod (nr. 3) for det bedste pris-ydelsesforhold i hele økosystemet.

---

2. LLaMA-Factory — bedst til begyndere og bred modelunderstøttelse

Type: Open source-framework | GitHub-stjerner: 68,4K | Licens: Apache 2.0

LLaMA-Factory er finetuningens schweizerkniv. Den har flest GitHub-stjerner på denne liste af en grund — LlamaBoard, dens web-UI, lader dig konfigurere og starte træningskørsler uden at skrive en eneste linje kode. Med 200+ understøttede modeller matcher intet andet framework dens kompatibilitet.

Hvad der er godt

• LlamaBoard-web-UI'en er faktisk nyttig. Vælg din model, upload dit datasæt, indstil hyperparametre, klik på træn. Du kan gå fra nul til en finetunet model uden at røre en terminal.
• 200+ understøttede modeller. Hvis en model findes på Hugging Face, understøtter LLaMA-Factory den sandsynligvis. Den bredde er uovertruffen.
• Multi-GPU-understøttelse via DeepSpeed og FSDP. I modsætning til Unsloth kan du skalere til multi-node-træning.
• Indbygget Unsloth-integration. Du kan få LLaMA-Factorys GUI med Unsloths hastighed ved at aktivere integrationen. Det bedste fra begge verdener.
• 2026-opdateringer: OFT-understøttelse og Megatron-LM-integration til træning i større skala.

Hvad der ikke er godt

• Langsommere end Unsloth på en enkelt GPU (uden Unsloth-integrationen aktiveret). Standard-træningsløkken har ikke Triton-kernel-optimeringerne.
• Abstraktionen skjuler kompleksitet. Når noget går i stykker, er fejlsøgning gennem LLaMA-Factorys lag sværere end at fejlsøge rå TRL- eller Transformers-kode.
• Web-UI'en kan føles begrænsende for avancerede brugere, der vil have fuld kontrol over træningsløkken.

Pris

Gratis og open source.

Hvem bør bruge det

Teams, der er nye inden for finetuning og vil have en GUI, eller alle der skal arbejde med mindre almindelige modelarkitekturer. Unsloth-integrationen betyder, at du ikke behøver at ofre hastighed for bekvemmelighed.

Dom: Den venligste indgang til finetuning. Hvis du aldrig har finetunet en model før, så start her. Graduer til rå Unsloth- eller TRL-scripts, når du vokser ud af UI'en.

---

3. RunPod — bedste pris-ydelse på GPU-cloud

Type: GPU-cloud | Fakturering: Per sekund | Affiliate-link

Du har et framework fra nr. 1 eller nr. 2 — nu mangler du en GPU at køre det på. RunPod tilbyder det bredeste GPU-udvalg til de mest konkurrencedygtige priser på markedet. En RTX 4090 til $0,44/time, A100 80 GB til $1,09/time, H100 til $2,39/time — alt med per-sekund-fakturering, så du ikke betaler for inaktiv tid.

Hvad der er godt

• Prisen er svær at slå. RTX 4090 til $0,44/time er sweet spot for 8B-model-finetuning. En fuld QLoRA-kørsel koster mindre end en dollar.
• Per-sekund-fakturering. Din træningskørsel slutter på 47 minutter? Du betaler for 47 minutter, ikke en fuld time.
• Spot-instanser sparer 30-50 %. Finetuning-kørsler, der slutter på timer (ikke dage), er perfekte til spot-priser.
• Community cloud-niveauet er endnu billigere, dog med færre pålidelighedsgarantier. Godt til eksperimenter.
• Bredeste GPU-udvalg. RTX 4090, A100, H100 og mere. Andre clouds springer consumer-grade-mulighederne over, som er perfekte til budgetkørsler.

Hvad der ikke er godt

• Ikke serverless. Du administrerer instanser, starter dem op, SSH'er ind, lukker dem ned. Det er ikke Modals niveau af udvikleroplevelse.
• Community cloud-pålidelighed varierer. Secure cloud er stabil, men community-instanser kan blive preempted.
• Ingen indbygget træningspipeline. Det er infrastruktur, ikke en platform. Du medbringer dit eget framework og dine egne scripts.

Pris

Hvem bør bruge det

Alle, der kører selvhostet finetuning og vil have det bedste pris-ydelsesforhold. Kombiner med Unsloth for den billigst mulige træningsstack: En QLoRA-kørsel på Llama 3 8B koster under $1.

Dom: Den GPU-cloud, vi anbefaler mest. Kombinationen af bredt GPU-udvalg, per-sekund-fakturering og konkurrencedygtige priser gør RunPod til standardvalget for finetuning-infrastruktur.

---

4. Hugging Face TRL — bedst til alignment-træning

Type: Open source-framework | GitHub-stjerner: 17,6K | Licens: Apache 2.0

TRL (Transformer Reinforcement Learning) er det kanoniske bibliotek til post-training alignment. Hvis du laver SFT, DPO, GRPO eller reward modeling, findes referenceimplementationerne her. Version 0.15.0 udkom i marts 2026 med forbedret GRPO-understøttelse.

Hvad der er godt

• Standarden for alignment. DPOTrainer, GRPOTrainer, SFTTrainer, RewardTrainer — det er disse implementationer, artikler citerer. Når en ny alignment-teknik udkommer, får TRL den først.
• Dyb Hugging Face-økosystemintegration. Datasæt, tokenizere, model Hub, evaluering — alt forbinder nativt. Ingen lim-kode.
• Afprøvet i produktion. Virksomheder, der laver seriøs RLHF og præferencebaseret træning, stoler på TRL som deres rygrad.
• Aktivt vedligeholdt med hyppige udgivelser og god dokumentation.

Hvad der ikke er godt

• Ikke hastighedsoptimeret som Unsloth. Standard Transformers-træningsløkke, så forvent normale hastigheder.
• Stejlere læringskurve end LLaMA-Factory. Ingen web-UI — du skriver Python og forstår trainer-API'et.
• Overkill til simpel SFT. Hvis du bare vil LoRA-træne en model på dit datasæt og ikke har brug for alignment, er Unsloth eller LLaMA-Factory simplere.

Pris

Gratis og open source.

Hvem bør bruge det

Forskere og ML-teams, der laver præferencebaseret alignment (RLHF, DPO, GRPO). Hvis din træning involverer menneskelig feedback, reward-modeller eller præferencedatasæt, er TRL det rigtige værktøj.

Dom: Uundværlig til alignment-arbejde. Intet andet har samme dybde af alignment-trainer-implementationer. Brug det sammen med Unsloth (for hastighed) eller selvstændigt til forskning.

---

5. OpenAI Fine-Tuning API — nemmeste administrerede vej

Type: Administreret API | Modeller: GPT-4o, GPT-4o-mini, GPT-4.1

OpenAIs finetuning-API er den mest friktionsfrie mulighed på denne liste. Upload en JSONL-fil, indstil et par hyperparametre, og du træner GPT-4o eller GPT-4.1. Ingen GPU, intet framework, ingen Docker-containere, ingen CUDA-driver-hovedpine.

Hvad der er godt

• Nul infrastruktur. Upload data, klik træn, få endpoint. Det er hele workflowet.
• Adgang til GPT-4o og GPT-4.1. Du kan finetune modeller, der ikke er tilgængelige som open-weight-alternativer.
• Solidt evalueringsværktøj indbygget i platformen — du kan sammenligne base- vs. finetunet ydelse direkte.
• Hurtig iteration. Små finetuning-kørsler gennemføres på under 30 minutter.

Hvad der ikke er godt

• Du kan ikke downloade vægtene. Din finetunede model lever på OpenAIs servere for evigt. Vil du skifte udbyder? Start forfra.
• Per-token-inferensomkostninger løber op. Træning er billig, men du betaler per token, hver gang du bruger modellen. I skala bliver det hurtigt dyrt.
• Begrænset modelvalg. GPT-4o, GPT-4o-mini, GPT-4.1 — det er det hele. Ingen Llama, ingen Mistral, ingen åbne modeller.
• Databeskyttelsesbekymringer. Dine træningsdata sendes til OpenAI. Visse regulerede brancher kan ikke gøre dette.

Pris

Per-token-pris, cirka $3-25 for en typisk finetuning-kørsel afhængigt af datasætstørrelse og model. Den reelle omkostning er løbende inferens, ikke træning.

Hvem bør bruge det

Teams, der allerede bruger OpenAI i produktion og vil tilpasse modeladfærd uden at administrere infrastruktur. Perfekt til formatering, tone og domænespecifikke opgaver, hvor GPT-4o's basisevner er tæt på, men ikke helt rigtige.

Dom: Bedst til teams, der er låst til OpenAI-økosystemet. Bekvemmeligheden er reel, men vendor lock-in og manglende vægtportabilitet holder det ude af top 3.

---

6. Together AI — bedste administrerede platform til åbne modeller

Type: Administreret API | Modeller: Llama 3, Mistral, Qwen, DeepSeek og flere

Together AI giver dig den administrerede oplevelse fra OpenAI med open model-fleksibilitet. Finetun Llama 3, Mistral, Qwen og andre åbne modeller via deres platform — og afgørende: du kan downloade de resulterende vægte.

Hvad der er godt

• Vægtportabilitet. Det er killer-funktionen. Træn på Togethers infrastruktur, download vægtene, deploy hvor du vil. Ingen lock-in.
• Administreret infrastruktur. Ingen GPU-administration, ingen framework-opsætning. Upload data og træn.
• Bred open model-understøttelse. De fleste populære open source-modeller er tilgængelige.
• Godt til teams, der vil have administreret lethed i dag med mulighed for at flytte til selvhostet senere.

Hvad der ikke er godt

• Dyrere end selvhostet. Du betaler en præmie for den administrerede oplevelse. En Llama 3 8B-finetuning på Together koster $8-10, mod under $1 på RunPod med Unsloth.
• Mindre kontrol over træningen. Færre hyperparametermuligheder end at køre din egen træningsløkke.
• Per-token-pris er uigennemsigtig sammenlignet med per-GPU-time-fakturering hos cloud-udbydere.

Pris

Per-token-pris varierer efter model. En typisk Llama 3 8B-finetuning koster $8-10. Tjek deres prisside for aktuelle satser.

Hvem bør bruge det

Teams, der vil have administreret finetuning med åbne modeller og muligheden for at eje deres vægte. Et solidt kompromis mellem fuld selvhostet og OpenAIs låste økosystem.

Dom: Den bedste "administreret men ikke låst"-mulighed. Hvis du vil have bekvemmelighed nu med en exitstrategi, er Together AI det rigtige valg.

---

7. Modal — bedste udvikleroplevelse til GPU-workloads

Type: GPU-cloud (serverless) | Fakturering: Per sekund

Modal tager en fundamentalt anderledes tilgang: serverless GPU'er. Du skriver Python-kode med decorators, og Modal håndterer provisioning, skalering og nedlukning. Cold starts tager 2-4 sekunder, og du betaler per sekund, kun mens din kode kører.

Hvad der er godt

• Udvikleroplevelsen er bedst i klassen. Ingen SSH, ingen Docker, ingen instansadministration. Skriv en Python-funktion, dekorér den med @modal.gpu, og den kører på en A100.
• Per-sekund-fakturering med nul inaktivitetsomkostning. Din funktion kører, du betaler, den lukker ned. Ingen glemte instanser, der brænder penge natten over.
• Fantastisk til batch-kørsler og pipelines. Hvis du kører træning som del af en større ML-pipeline, er Modals komponerbarhed fremragende.
• Hurtige cold starts. 2-4 sekunder til at starte en GPU er ærligt talt imponerende.

Hvad der ikke er godt

• Ingen consumer-GPU'er. A100 ($1,38/time) er den billigste mulighed. Ingen RTX 4090 til $0,44/time som RunPod.
• Højere timepris end RunPod eller Lambda for samme GPU-klasse.
• Serverless-abstraktionen kan arbejde imod dig, når du har brug for lavniveau-kontrol (brugerdefineret CUDA, specifikke driverversioner).
• Ikke ideel til langtkørende kørsler, hvor en dedikeret instans ville være billigere.

Pris

Hvem bør bruge det

Udviklere, der prioriterer DX over rå omkostninger, især dem der kører finetuning som del af automatiserede pipelines. Hvis du hader at administrere infrastruktur og ikke har noget imod at betale en præmie for det, er Modal fremragende.

Dom: Premium-DX til premium-priser. Værd at overveje for teams, der værdsætter udviklertid over GPU-omkostninger, men RunPod vinder på ren økonomi.

---

8. Axolotl — bedst til reproducerbare produktionspipelines

Type: Open source-framework | GitHub-stjerner: 11,4K | Licens: Apache 2.0

Axolotl tager en YAML-konfigurationsdrevet tilgang, hvor hver træningskørsel er fuldt defineret i én konfigurationsfil. Samme konfiguration, samme resultater. Produktions-ML-teams elsker denne determinisme.

Hvad der er godt

• Konfigurationsdrevet reproducerbarhed. Definer dit datasæt, din model, hyperparametre, LoRA-konfiguration og evaluering i én YAML-fil. Check den ind i git. Kør den hvor som helst.
• Afprøvede multi-GPU-konfigurationer. DeepSpeed- og FSDP-konfigurationer, der faktisk virker ud af boksen — ikke bare "teoretisk understøttet."
• Fantastisk til CI/CD-pipelines. Den YAML-første tilgang betyder, at du kan udløse træningskørsler fra automatisering uden at skrive Python.
• Aktivt community med gode forudindstillede konfigurationer til almindelige modelarkitekturer.

Hvad der ikke er godt

• Stejleste læringskurve på denne liste. YAML-konfigurationssystemet er kraftfuldt, men har mange knapper. Forvent at bruge tid på at læse dokumentation, før din første succesfulde kørsel.
• Langsommere iteration end LLaMA-Factory. Ingen web-UI betyder, at hvert eksperiment kræver redigering af en konfigurationsfil.
• Standard træningshastighed. Ingen Triton-kernel-optimeringer som Unsloth. Du kan integrere Unsloth som backend, men det er ikke standarden.
• Mindre community end Unsloth eller LLaMA-Factory (11,4K mod 50K+ stjerner).

Pris

Gratis og open source.

Hvem bør bruge det

ML-teams, der kører finetuning i produktion, hvor reproducerbarhed og reviderbarhed betyder noget. Hvis du skal bevise, at træningskørsel nr. 47 brugte præcis samme konfiguration som træningskørsel nr. 46, er Axolotl dit værktøj.

Dom: Det rigtige valg til seriøs produktions-ML. Ikke der du starter, men der du ender, når finetuning bliver en kerne-del af dit workflow.

---

9. Mistral Fine-Tuning API — bedst til Mistral-modeller

Type: Administreret API | Modeller: Mistral Small, Mistral Medium, Mistral Large

Mistral tilbyder et finetuning-API til deres egen modelfamilie. Hvis du allerede bruger Mistral-modeller i produktion og vil tilpasse dem, undgår deres native API overhead ved at opsætte en selvhostet træningspipeline.

Hvad der er godt

• Native Mistral-optimering. Finetuning gennem Mistrals egen infrastruktur betyder, at de kan optimere til deres arkitektur på måder, som tredjepartsværktøjer ikke kan.
• Simpelt API. Samme workflow som OpenAI — upload data, konfigurer, træn.
• Stærke europæiske databopælsmuligheder til teams med GDPR-krav.
• Mistral-modeller slår over deres vægtklasse på mange benchmarks, især for europæiske sprog.

Hvad der ikke er godt

• Kun Mistral-modeller. Hvis du vil finetune Llama eller Qwen, så kig andre steder.
• Mindre økosystem end OpenAI eller Together AI. Mindre dokumentation, færre community-ressourcer.
• Prisgennemsigtighed kunne være bedre. Tjek deres seneste prisside for aktuelle satser.
• Vægtportabilitet varierer efter niveau. Nogle modeller tillader vægt-download, andre gør ikke.

Pris

Per-token-pris varierer efter model. Tjek Mistrals prisside for aktuelle satser.

Hvem bør bruge det

Teams, der allerede er forpligtede til Mistral-modelfamilien og vil have administreret finetuning uden selvhosting. Særligt relevant for europæiske virksomheder med databopælskrav.

Dom: Niche, men solid. Hvis Mistral er dit modelvalg, er deres native API vejen med mindst modstand. For alle andre tilbyder Together AI (nr. 6) Mistral-modeller med bredere fleksibilitet.

---

10. Lambda Cloud — stabile dedikerede GPU-instanser

Type: GPU-cloud (dedikeret) | Fakturering: Per time

Lambda Cloud er ligetil: dedikerede GPU-instanser med SSH-adgang. A100 80 GB til $1,29/time, H100 til $2,49/time. Ingen spot-priser, ingen serverless-abstraktion, ingen overraskelser.

Hvad der er godt

• Dødssimpelt. SSH ind, kør dit script, scp vægtene tilbage. Det er det hele.
• Stabile instanser. Ingen preemption-risiko som spot-instanser på RunPod. Din 40-timers træningskørsel bliver ikke afbrudt.
• Godt til langtkørende kørsler, hvor stabilitet betyder mere end omkostningsoptimering.
• Forudinstalleret ML-stack. CUDA, PyTorch og almindelige biblioteker er klar til brug.

Hvad der ikke er godt

• Per-time-fakturering, ikke per sekund. En kørsel, der tager 61 minutter, koster dig for 2 timer.
• Ingen consumer-GPU'er. Ingen RTX 4090-mulighed, så budgetkørsler er ikke lige så billige som RunPod.
• Ingen spot-priser. Du betaler altid den fulde on-demand-sats.
• Begrænset GPU-tilgængelighed sammenlignet med RunPods markedspladsmodel. Populære GPU'er kan være udsolgt.

Pris

Hvem bør bruge det

Teams, der kører lange, flerdages træningskørsler, hvor instansstabilitet er vigtigere end at presse hver øre ud. Også godt til teams, der bare vil have SSH og ikke vil lære et cloud-specifikt API.

Dom: Pålidelig og kedelig — på en god måde. Lambda sparer dig ikke penge sammenlignet med RunPod, men mister heller ikke din træningskørsel til en preempted spot-instans.

---

Hvorfor Techsy vælger Unsloth som nr. 1

Rangeringen koges ned til effekt per dollar. Unsloths Triton-kernel-optimeringer leverer 2-5x hastighedsforbedringer til nul omkostninger — det er open source. Den hastighedsfordel akkumuleres over hver eneste træningskørsel, du nogensinde kører. Et team, der laver ugentlige finetuning-iterationer, sparer snesevis af GPU-timer om måneden, hvilket direkte omsættes til hundredvis af dollars sparet på cloud-omkostninger.

Kombiner Unsloth med RunPods $0,44/time RTX 4090, og du har en komplet finetuning-stack, der træner en Llama 3 8B-model for under en dollar. Det er ikke hypotetisk — det er, hvad vi ser i rigtige projekter.

De eneste scenarier, hvor Unsloth ikke er det rigtige svar: multi-GPU distribueret træning (brug Axolotl eller LLaMA-Factory), alignment-specifikt arbejde (brug TRL), eller hvis du har brug for et administreret API, fordi dit team ikke kan administrere infrastruktur (brug OpenAI eller Together AI).

Hvad koster finetuning faktisk?

Konklusionen: At finetune en 8B-model med QLoRA koster mindre end en kop kaffe på cloud-GPU'er. Selv en 70B-produktionskørsel holder sig under $10 med den rigtige opsætning.

Hvilket værktøj skal du vælge?

Bygger du en AI-drevet SaaS? Vores Bedste AI-stack til SaaS-guide dækker det fulde infrastrukturbillede ud over finetuning.

Brug for noget skræddersyet?

Hos Techsy hjælper vi startups med at integrere finetunede modeller i produktionsapplikationer — fra at vælge det rigtige framework og den rigtige GPU-udbyder til at deploye den trænede model bag et API. Vi har bygget træningspipelines med alle værktøjer på denne liste. Se vores AI-integrationstjenester. Få en gratis AI-arkitekturkonsultation.

Ofte stillede spørgsmål

Hvad er det bedste framework til at finetune LLM'er i 2026?

Unsloth til rå hastighed på en enkelt GPU, LLaMA-Factory hvis du vil have en web-UI, TRL til alignment-træning (DPO/GRPO), og Axolotl til reproducerbare produktionspipelines. Vores Sådan finetuner du en LLM-guide gennemgår hele processen trin for trin.

Hvor meget koster det at finetune en LLM?

Fra $0 på din egen GPU til $400+ for en fuld finetuning af en 70B-model. Det mest almindelige scenarie — QLoRA på en 8B-model via RunPod — koster $0,44-0,88. Se omkostningstabellen ovenfor for alle prisniveauer.

Bør jeg bruge et administreret API eller selvhostet finetuning?

Administrerede API'er (OpenAI, Together AI) får dig i gang på minutter med nul GPU-administration. Selvhostet giver dig fuld ejerskab over vægte, databeskyttelse og lavere langsigtede omkostninger. For de fleste produktionsworkloads betaler selvhostet sig selv hjem inden for få træningskørsler.

Kan jeg finetune en LLM på en consumer-GPU?

Ja. En 8B-model kan være på en RTX 3060 (12 GB VRAM) med QLoRA og Unsloth. En RTX 4090 (24 GB) håndterer de fleste use cases uden problemer. Du har kun brug for en A100 (80 GB) til 70B-parameter-modeller eller fulde finetuninger.

Er Unsloth bedre end LLaMA-Factory?

Forskellige styrker. Unsloth er 2-5x hurtigere på en enkelt GPU takket være brugerdefinerede Triton-kernels. LLaMA-Factory har en web-UI, understøtter 200+ modeller og håndterer multi-GPU-opsætninger. Du kan bruge begge sammen — LLaMA-Factory har en indbygget Unsloth-integration, der giver dig GUI'en med hastigheden.

Hvilken GPU har jeg brug for til finetuning?

Minimum 12 GB VRAM (RTX 3060) med QLoRA til 8B-modeller. Anbefalet 24 GB (RTX 4090) til komfortable kørsler. 80 GB (A100) til 70B-modeller. Til fulde finetuninger (ikke LoRA) skal du cirka fordoble disse krav.

Kan jeg downloade mine finetunede modelvægte?

Fra OpenAI: nej, din model bliver på deres servere. Fra Together AI, Mistral (nogle niveauer) og alle open source-frameworks: ja. Vægtportabilitet er en af de vigtigste beslutningsfaktorer for langsigtet fleksibilitet.

Hvad er forskellen mellem LoRA, QLoRA og fuld finetuning?

Fuld finetuning opdaterer alle modelvægte (enormt VRAM-krav). LoRA fryser basismodellen og træner små adapter-matricer (meget mindre VRAM). QLoRA tilføjer 4-bit kvantisering oveni, hvilket reducerer hukommelsen yderligere. For de fleste use cases leverer QLoRA 90-95 % af fuld finetuning-kvalitet til en brøkdel af omkostningerne.

Hvordan evaluerer jeg min finetunede model?

Kør benchmarks, der er relevante for din specifikke opgave — ikke generiske leaderboard-metrics. Kombiner automatiserede metrics (loss, nøjagtighed på dit domæne) med menneskelig evaluering på et hold-out-testsæt. Domænespecifik evaluering betyder langt mere end generelle scores.

Har jeg brug for at finetune, eller er prompting nok?

Start med prompting og RAG. Hvis du rammer konsekvente kvalitetsproblemer på en specifik opgave — formateringskrav, domænterminologi, stilistisk konsistens — løser finetuning typisk de problemer. En god tommelfingerregel: Hvis du bruger mere tid på prompt-engineering, end det ville tage at forberede 500 træningseksempler, er det tid til at finetune.

Kilder

• Unsloth-dokumentation
• LLaMA-Factory GitHub
• Hugging Face TRL-dokumentation
• OpenAI Fine-Tuning-guide
• OpenAI-priser
• RunPod-priser
• Lambda Cloud-priser
• Mistral AI
• DEV Community: Finetuning-framework-sammenligning 2026