如何微調大型語言模型 (LLM)：方法、框架與逐步程式碼指南 [2026]

微調大型語言模型 (LLM) 意味著拿一個預訓練模型，並使用您的特定資料進行訓練，使其在執行您的任務時，表現優於任何提示詞工程 (Prompt Engineering) 所能達到的效果。進入門檻已經大幅降低：QLoRA 搭配 Unsloth 現在讓您能在擁有 12 GB VRAM 的消費級 GPU 上，以低於 1 美元 的雲端成本微調一個 80 億參數 (8B) 的模型。

本指南涵蓋了完整的旅程，包括何時應該微調（相對於 RAG 或提示詞工程）、該選擇哪種方法和框架、如何準備資料集、可複製貼上的 Llama 3 實作步驟、真實的成本情境分析，以及部署策略。

微調概覽

在您投入資源之前，先快速了解整體狀況：

現在，讓我們來判斷微調是否真的是您專案的正確選擇。

何時應該微調 LLM？(vs. RAG vs. 提示詞工程)

這是大多數開發者跳過的問題，導致他們浪費數週的時間。微調雖然強大，但並非萬靈丹。以下是一個決策框架。

決策的關鍵在於您試圖改變什麼。以下是實際場景：

如果您正在為您的 SaaS 選擇正確的 AI 技術堆疊，這個決策框架是第一步。許多團隊建構了複雜的 RAG 管道，但实际上只需微調 500 個範例，就能以更低的延遲獲得更一致的結果。

結論：當您需要模型 consistently 表現不同，而不僅僅是 知道不同的事情 時，請進行微調。 如果您只需要新知識，RAG 更便宜且易於維護。如果兩者都需要，請採用混合式方法。

LLM 微調是如何運作的？全量微調 vs. LoRA vs. QLoRA

主要有三種方法，它們在硬體需求、成本和品質上有顯著差異。了解這些權衡可以避免過度投資或交付不足。

全量微調 (Full Fine-Tuning，預算無限時)

全量微調會更新模型中的每一個參數。它能產生最佳的結果，但需要龐大的資源，對於 7B 模型大約需要 100+ GB 的 VRAM（您需要同時儲存模型、優化器狀態和梯度）。這屬於 H100 叢集的領域。除非您在資金充足的實驗室工作，否則請跳過此方法。

LoRA：PEFT 革命

LoRA (Low-Rank Adaptation) 凍結基礎模型，並添加稱為适配器 (adapters) 的小型可訓練矩陣。LoRA 不直接更新巨大的權重矩陣 W，而是將更新分解為兩個小矩陣 A 和 B，其中秩 (rank) r 遠小於模型維度。結果是：您只訓練原始參數的約 1-2%，同時保留了全量微調 98-99% 的品質。

Hugging Face peft 函式庫 是標準實作。LoRA 适配器通常只有 50-200 MB，與完整模型相比非常小。

QLoRA：人人皆可微調

QLoRA 將 LoRA 更進一步。它使用一種稱為 NormalFloat4 (NF4) 的特殊資料類型，以 4-bit 精度載入基礎模型，然後在其上應用 LoRA 适配器。與標準 LoRA 相比，4-bit 量化將 VRAM 用量再減少了約 25%，同時保持幾乎相同的品質。

這使得微調變得普及。一個全量微調需要 100+ GB VRAM 的 7B 模型，在使用 QLoRA 時可以放入 12 GB 的顯存中。

結論：對於 90% 的開發者來說，QLoRA 是正確的選擇。 對於大多數任務而言，與全量微調的品質差異微不足道，而硬體節省卻是巨大的。從這裡開始，只有在評估指標要求時才升級。

2026 年您應該使用哪個微調框架？

選擇框架比大多數人意識到的更重要。正確的框架可以節省數小時的设置時間並顯著加快訓練速度。以下是四個主要選項的比較。

快速建議如下：

• 第一次微調？ 使用 Unsloth。訓練最快、設置最簡單，且有免費的 Colab 筆記本可立即開始。
• 需要零程式碼的 Web UI？ 使用 LLaMA-Factory。其 LLaMA-Board GUI 讓您可以從瀏覽器配置並啟動訓練。
• 進行對齊訓練 (RLHF, DPO, GRPO)？ 使用 TRL。它是基於偏好訓練的 Hugging Face 標準，且 v0.15.0 (2026年3月) 增加了原生 GRPO 支援。
• 在多 GPU 上運行生產管道？ 使用 Axolotl。基於 YAML 的配置使實驗具有可重複性和可審計性。

一個有用的技巧：Unsloth 和 LLaMA-Factory 可以結合使用。LLaMA-Factory 支援 Unsloth 作為訓練後端，讓您在享受 GUI 便利的同時獲得 Unsloth 的速度優化。建構使用微調模型的 AI 代理的團隊通常先使用 Unsloth 進行快速迭代，然後轉向 Axolotl 以實現生產環境的可重複性。

如何準備微調資料集？

資料品質是微調成功的最重要因素。一個精心策劃的 500 個範例資料集幾乎總是勝過一個雜訊多的 10,000 個範例資料集。

資料集格式

兩種主流格式是 chat (OpenAI 相容) 和 instruction (Alpaca 風格)。以下是它们在 JSONL 格式中的樣子：

Chat 格式 (推薦用於大多數用例)：

{"messages": [{"role": "system", "content": "You are a customer support agent for Acme Inc. Be helpful, concise, and always reference the user's order number."}, {"role": "user", "content": "I ordered a laptop 3 days ago (order #4821) and it still says processing."}, {"role": "assistant", "content": "I can see order #4821 is currently in our warehouse being prepared for shipment. Laptops typically ship within 3-5 business days. You should receive a tracking number by tomorrow. Would you like me to flag this for priority processing?"}]}
{"messages": [{"role": "system", "content": "You are a customer support agent for Acme Inc. Be helpful, concise, and always reference the user's order number."}, {"role": "user", "content": "Can I return my keyboard? Order #3019, bought it last week."}, {"role": "assistant", "content": "Absolutely! Order #3019 is within our 30-day return window. I'll email you a prepaid return label right now. Once we receive the keyboard, your refund will process within 2-3 business days."}]}
{"messages": [{"role": "system", "content": "You are a customer support agent for Acme Inc. Be helpful, concise, and always reference the user's order number."}, {"role": "user", "content": "My monitor arrived cracked. Order #5573."}, {"role": "assistant", "content": "I'm sorry about that! For order #5573, I'm initiating an immediate replacement shipment -- no need to return the damaged unit. The new monitor will ship today with express delivery. You'll get a tracking email within the hour."}]}

Instruction 格式 (Alpaca 風格)：

{"instruction": "Summarize the following customer complaint in one sentence.", "input": "I've been waiting 2 weeks for my refund and nobody responds to my emails. This is the worst customer service I've ever experienced.", "output": "Customer is frustrated by a 2-week delay in receiving their refund and lack of email response from support."}
{"instruction": "Classify the sentiment of this review.", "input": "The product works fine but shipping took forever.", "output": "Mixed (positive product, negative shipping)"}

資料集規模指南

您實際上需要多少資料？這取決於任務的複雜性：

1. 50-100 個範例，概念驗證，足以測試微調是否有幫助
2. 500-1,000 個範例，對於大多數單一任務有用 (分類、提取、格式化)
3. 5,000-10,000 個範例，複雜任務的生產級別結果
4. 10,000+ 個範例，除非您的任務具有高度變異性，否則效益遞減

資料品質檢查清單

在訓練之前，請根據以下標準驗證您的資料集：

• 所有範例的格式一致 (相同的系統提示詞、相同的輸出結構)
• 涵蓋邊緣情況和失敗模式的多樣化範例
• 無矛盾 (不要教導模型對相同的輸入模式同時說「是」和「否」)
• 輸出類型的分佈平衡 (如果是分類，不要讓 90% 的範例集中在某一類)
• 移除重複或近乎重複的條目

專業提示： 使用 GPT-4 或 Claude 生成初始的合成訓練資料，然後進行人工審查。500 個高品質的合成範例通常勝過 5,000 個雜訊多的真實範例。Meta 的微調指南建議使用這種方法來引導資料集。

逐步教學：使用 QLoRA 和 Unsloth 微調 Llama 3 8B

這是完整的實作流程。每個程式碼區塊都可以直接複製貼上，您可以在免費的 Google Colab 筆記本或任何擁有 12+ GB VRAM 的機器上運行。

步驟 1：安裝 Unsloth

pip install unsloth

就是這麼簡單。Unsloth 會自動處理所有依賴項 (transformers, peft, trl, bitsandbytes)。

步驟 2：以 4-bit 載入基礎模型

from unsloth import FastLanguageModel

# Load Llama 3.1 8B in 4-bit quantization
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="unsloth/Meta-Llama-3.1-8B-bnb-4bit",
    max_seq_length=2048,
    load_in_4bit=True,
)

這會下載 4-bit 量化模型 (~4 GB) 並將其載入 GPU 記憶體。在 RTX 3060 (12 GB) 上，您將有充足的空間進行訓練。

步驟 3：配置 LoRA 适配器

# Add LoRA adapters to the model
model = FastLanguageModel.get_peft_model(
    model,
    r=16,                # LoRA rank -- 16 is the sweet spot for most tasks
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj",
                     "gate_proj", "up_proj", "down_proj"],
    lora_alpha=16,       # Scaling factor (usually equal to r)
    lora_dropout=0,      # Unsloth optimizes for 0 dropout
    bias="none",
)

設置 r=16，您將在 80 億個參數中訓練約 4,000 萬個參數，不到模型的 0.5%。這就是 LoRA 的魔力。

步驟 4：載入您的資料集

from datasets import load_dataset

# Load your JSONL dataset from Hugging Face Hub or local file
dataset = load_dataset("json", data_files="train.jsonl", split="train")

# Format into chat template
def format_chat(example):
    text = tokenizer.apply_chat_template(
        example["messages"],
        tokenize=False,
        add_generation_prompt=False,
    )
    return {"text": text}

dataset = dataset.map(format_chat)

這會採用上一節中的 JSONL chat 格式並應用 Llama 3 的聊天模板。Tokenizer 會處理所有特殊標記 (<|begin_of_text|>, <|eot_id|> 等)。

步驟 5：配置並運行訓練

from trl import SFTTrainer
from transformers import TrainingArguments
from unsloth import is_bfloat16_supported

trainer = SFTTrainer(
    model=model,
    train_dataset=dataset,
    dataset_text_field="text",
    max_seq_length=2048,
    args=TrainingArguments(
        per_device_train_batch_size=2,
        gradient_accumulation_steps=4,    # Effective batch size = 8
        warmup_steps=5,
        max_steps=60,                     # Adjust based on dataset size
        learning_rate=2e-4,               # Standard for QLoRA
        fp16=not is_bfloat16_supported(),
        bf16=is_bfloat16_supported(),
        logging_steps=1,
        output_dir="outputs",
        seed=42,
    ),
)

# Start training
trainer.train()

需要了解的关键超參數：

• 學習率 (2e-4)： QLoRA 的標準值。如果您發現模型遺忘通用能力，請降低至 (2e-5)。
• 批次大小 (2) x 梯度累積 (4)： 有效批次大小為 8。如果您的 GPU 記憶體不足，請增加 gradient_accumulation。
• max_steps (60)： 對於 500 個範例，這大約是 1 個 epoch。從 1-3 個 epoch 開始，並觀察驗證損失。
• Rank r (16)： 簡單任務使用較低值 (4-8)，複雜任務使用較高值 (32-64)。16 是一個安全的預設值。

步驟 6：儲存與測試

# Save the LoRA adapters (small -- ~50-200 MB)
model.save_pretrained("my-fine-tuned-model")
tokenizer.save_pretrained("my-fine-tuned-model")

# Quick inference test
FastLanguageModel.for_inference(model)
inputs = tokenizer(
    [tokenizer.apply_chat_template(
        [{"role": "user", "content": "I need to return order #7742"}],
        tokenize=False,
        add_generation_prompt=True,
    )],
    return_tensors="pt",
).to("cuda")

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

這就是整個管道。在配備 Unsloth 的 RTX 4090 上，訓練 500 個範例大約需要 15-30 分鐘。在免費的 Colab T4 上，預計需要 1-2 小時。

API -based 微調呢？(OpenAI, Google, Mistral)

並非每個人都想管理 GPU。API 供應商允許您通過簡單的上傳和訓練工作流程進行微調。以下是它們與自行運行的比較。

API 微調適用的情況： 您需要快速迭代、資料集很小、不想管理基礎設施，或者您特別需要像 GPT-4o 這樣的閉源模型。

本地微調勝出的情況： 資料隱私很重要 (醫療、金融、法律)、您頻繁訓練、想要擁有並匯出權重，或者您在規模上優化成本。

結論：API 微調是實現概念驗證的最快途徑。本地微調是進入生產環境的最便宜途徑。 大多數團隊先在 API 上進行原型設計，一旦驗證了方法，就轉移到本地的 Unsloth。

微調 LLM 的成本是多少？

「微調很昂貴」的觀念還停留在 2023 年。以下是今天的實際成本。

成本曲線迅速平緩。一家在 RunPod 上微調 8B 模型的初創公司，其訓練花費少於一杯咖啡。即使是 70B 的生產情境也低於 30 美元——這相當於一名初級開發人員一個月的每日午餐預算。

值得比較的雲端 GPU 供應商：RunPod (最佳的現貨定價)、Lambda (可靠的按需 H100)、Vast.ai (最便宜但品質參差)，以及 Modal (無伺服器，按秒付費)。

上面的圖表顯示了為什麼 QLoRA 改變了遊戲規則。一個需要多 GPU 叢集進行全量微調的 7B 模型，現在可以放入筆記型電腦的 GPU 中。70B 模型從「僅限雲端」降級為單一 A100 即可處理。

結論：您可以以低於 1 美元的成本微調生產級別的 8B 模型。 微調的成本障礙已經消失。真正的成本是資料集準備時間。

如何評估微調後的模型？

訓練只是工作的一半。如果沒有適當的評估，您無法判斷微調後的模型是否真的有所改進，或者它只是死記硬背了您的訓練資料。

自動化指標

在訓練期間和之後追蹤這些指標：

• 訓練損失 / 困惑度 (Perplexity)： 應該穩定下降，然後趨於平穩。如果降至接近零，表示過擬合。
• 任務特定指標： 準確率 (分類)、BLEU/ROUGE (摘要)、完全匹配 (提取)、F1 (多標籤)。選擇與您的任務匹配的指標。

人工評估

數字無法捕捉一切。對於生成式任務：

• A/B 測試： 並排顯示基礎模型與微調後的輸出。讓 3-5 名評估者在 50+ 個範例中選擇更好的回應。追蹤勝率。
• Likert 量表評分： 對輸出的相關性 (1-5)、準確性 (1-5) 和語氣 (1-5) 進行評分。計算相較於基礎模型的平均改進幅度。

災難性遺忘檢查

這是大多數開發者跳過的步驟。微調後，在通用基準測試如 MMLU 或 HellaSwag 上運行您的模型。如果分數下降超過 2-3 分，表示您的模型失去了太多的通用知識。解決方法：降低學習率、減少 epoch 數，或切換到 LoRA (凍結基礎權重)。

實用規則： 始終保留 10-20% 的資料集作為測試集。切勿在訓練資料上進行評估，那無法告訴您任何關於真實世界表現的信息。

如何部署微調後的模型？

訓練完成後，您需要提供服務。大多數指南完全忽略了這部分。

步驟 1：合併 LoRA 适配器

如果您使用了 LoRA 或 QLoRA，請將适配器合併回基礎模型以進行推論：

# Merge adapters into base model
model.merge_and_unload()
model.save_pretrained("merged-model")
tokenizer.save_pretrained("merged-model")

步驟 2：選擇您的部署路徑

本地開發和測試，Ollama：

# Convert to GGUF format (Ollama's native format)
python llama.cpp/convert_hf_to_gguf.py merged-model --outfile model.gguf --outtype q4_k_m

# Create an Ollama model
ollama create my-fine-tuned-model -f Modelfile
ollama run my-fine-tuned-model

生產環境服務，vLLM：

# Start an OpenAI-compatible API server
python -m vllm.entrypoints.openai.api_server \
    --model merged-model \
    --host 0.0.0.0 \
    --port 8000

無伺服器 (零基礎設施)： 將您的模型上傳到 Together AI、Fireworks 或 Modal。您將獲得一個 API 端點，無需管理伺服器。成本隨使用量擴展。

進階：多适配器服務

這是一個更多團隊應該使用的模式：在記憶體中保持一個基礎模型載入，並根據請求交換 LoRA 适配器。您可以從單一 GPU 提供客戶支援适配器、程式碼審查适配器和摘要适配器。vLLM 透過 --enable-lora 標誌原生支援此功能。

準備好實作了嗎？請參閱我們的 最佳 LLM 微調工具與平台 [即將推出] 以深入了解部署選項的比較。

最常見的微調錯誤有哪些？

在幫助團隊除錯數十次微調運行後，這些是反覆出現的錯誤。

1. 在小資料集上過擬合。 您在 200 個範例上訓練了 10 個 epoch，訓練損失接近零，模型逐字重複您的訓練資料。解決方法：最多 1-3 個 epoch，使用驗證集，並觀察訓練損失和評估損失之間的差距。

2. 災難性遺忘。 模型精通您的特定任務，但再也無法進行基本對話。解決方法：使用 LoRA/QLoRA (凍結基礎權重)，保持低學習率 (全量微調為 2e-5，QLoRA 為 2e-4)，並在部署前在通用基準測試上進行評估。

3. 垃圾資料品質。 格式不一致、範例之間矛盾或重複。模型學會了雜訊。解決方法：在訓練前清理資料。務必如此。花在資料策展上的時間應多於超參數調整。

4. 從太大的模型開始。 團隊因為「越大越好」而跳躍到 70B，然後無法負擔 GPU 成本。解決方法：從 8B 開始。如果 8B 配合良好資料無法解決您的任務，70B 配合相同資料可能也不行。先提升資料品質，再擴大模型規模。

5. 沒有評估管道。 在沒有保留測試集的情況下訓練，然後憑感覺部署。解決方法：在開始前將資料分為 80/10/10 (訓練/驗證/測試)。在每個測試範例上與基礎模型進行比較。

6. 學習率太高。 在前幾步中就破壞了預訓練知識。模型輸出亂碼。解決方法：QLoRA 從 2e-4 開始，全量微調從 2e-5 開始。如果輸出品質下降，請降低學習率。

Techsy 如何進行 LLM 微調

在 Techsy，我們為每個 AI 專案遵循嚴格的升級路徑：首先是提示詞工程，其次是 RAG，僅在數據證明需要時才進行微調。 大多數客戶專案實際上不需要微調，精心設計的提示詞或 RAG 管道能以更低的成本和複雜性解決問題。

當微調是正確選擇時，這是我們的流程：

1. 資料集審計，我們審查客戶資料的品質、覆蓋範圍和格式。如果範例不足，我們協助使用 GPT-4 或 Claude 並經人工審查來建構合成資料集。
2. 框架選擇，90% 的初創公司專案使用 Unsloth + QLoRA。對於需要可重複、多 GPU 生產管道的客戶，則使用 Axolotl。
3. 訓練與評估，我們始終使用保留測試集進行訓練，並與基礎模型進行基準測試。如果微調後的模型沒有顯著改善目標指標，我們不會部署它。
4. 部署，生產環境服務使用 vLLM，當客戶需要從單一 GPU 獲得多個專用模型時，採用多适配器模式。

我們已經為無法負擔企業級 GPU 預算的初創公司交付了微調模型，即使在 70B 模型上，RunPod 上的 QLoRA 也能將成本控制在 30 美元以下。

需要幫助為您的用例微調 LLM 嗎？我們幫助團隊從原始資料走向部署模型。獲取免費諮詢

關於 LLM 微調的常見問題

什麼是 LLM 微調？

LLM 微調是在您自己的任務特定資料上訓練預訓練語言模型的過程，以便更好地執行該任務。本質上，您是教導模型新的行為、格式或領域專業知識，這些是通用提示詞無法可靠實現的。

我應該微調還是使用 RAG？

當您需要模型 表現 不同時進行微調，例如一致的輸出格式、領域專用語言、特定語氣。當模型需要 知道 不同的事情時使用 RAG，特別是當這些知識頻繁變化時。對於許多生產系統，混合方法效果最佳。

微調 LLM 的成本是多少？

根據規模不同，從 $0 到 $540 不等。大多數獨立開發者使用 RunPod RTX 4090 ($0.34/小時) 上的 QLoRA，花費低於 $1。A100 上的 70B 生產模型成本為 $17-27。H100 叢集上的全量微調成本為 $270-540。API 微調 (OpenAI) 對於 1,000 個範例的成本為 $3-25。

我可以在筆記型電腦上微調 LLM 嗎？

可以，如果您的筆記型電腦擁有 12+ GB VRAM 的 GPU。RTX 3060 筆記型電腦 GPU 可以使用 QLoRA 處理 8B 模型。擁有 16+ GB 統一記憶體的 Apple Silicon Mac 也可以透過 MLX 進行微調，雖然速度比 CUDA 慢。對於更大的模型，您需要雲端 GPU。

LoRA 和 QLoRA 有什麼區別？

兩者都在凍結基礎模型的同時添加小型可訓練的适配器層。區別在於：QLoRA 還將基礎模型量化為 4-bit 精度 (NF4 資料類型)，與標準 LoRA 相比，VRAM 用量減少約 25%。品質幾乎相同，QLoRA 達到全量微調品質的 97-99%。

我需要多少訓練範例？

這取決於任務複雜性。50-100 個範例足以進行概念驗證。500-1,000 個範例為大多數單一任務產生有用的結果。5,000-10,000 個範例為複雜任務提供生產級別品質。超過 10,000 後，除非任務具有極高的變異性，否則效益遞減。

2026 年我應該微調哪個基礎模型？

Llama 3.x 用於通用任務 (最佳的整体品質/大小比例)。Mistral 用於歐洲語言和高效推論。Qwen 2.5 用於多語言和程式碼任務。Phi-4 當您需要最小的 footprint 時。Gemma 2 用於 Google 生態系整合。

什麼是 GRPO，為什麼它很重要？

GRPO (Group Relative Policy Optimization)，由 DeepSeek 引入，是 RLHF 的繼任者，用於對齊訓練。主要優勢：它不需要訓練單獨的獎勵模型，這將計算成本削減了約一半。TRL v0.15.0 原生支援 GRPO，使其對任何使用 Hugging Face 生態系的人來說都易于使用。

如何防止災難性遺忘？

使用 LoRA 或 QLoRA 而不是全量微調，它們凍結基礎模型權重，從而保留通用知識。保持低學習率 (QLoRA 為 2e-4，全量微調為 2e-5)。僅訓練必要的 epoch 數 (通常 1-3 就足夠)。訓練後，在通用基準測試 (MMLU, HellaSwag) 上運行您的模型以驗證其沒有退步。

我可以微調後再結合使用 RAG 嗎？

絕對可以，許多生產系統正是這樣做的。微調以確保行為和格式一致性，然後連接 RAG 以獲取最新知識檢索。微調後的模型更善於使用檢索到的上下文，因為它理解您領域的語言和輸出要求。

微調需要多長時間？

對於大多數專案，30 分鐘到 8 小時。Unsloth + RTX 4090 上的 8B 模型配合 500 個範例可在 15-30 分鐘內完成。同樣的工作在免費 Colab T4 上需要 1-2 小時。A100 上的 70B 模型需要 5-8 小時。多 GPU 設置上的全量微調可能需要 20-40 小時。

OpenAI 的微調 API 值得嗎？

對於快速原型設計，是的。您可以上傳 JSONL 文件，並在 30 分鐘內獲得微調後的 GPT-4o-mini，無需 GPU 設置。對於生產環境，本地微調通常更好：您擁有權重，控制資料隱私，且在規模上成本更低。大多數團隊先使用 API 驗證方法，然後遷移到本地。

結論

微調 LLM 不再是兩年前的黑魔法。以下是關鍵要點：

1. 從 QLoRA + Unsloth 開始，它在消費級硬體上處理 90% 的用例
2. 好資料勝過大模型，每次都如此。將精力花在資料集品質上，而不是 GPU 升級上。
3. 成本障礙已消失，在雲端 GPU 上以低於 $1 的成本微調 8B 模型
4. 部署前始終與基礎模型進行評估比較。如果沒有顯著更好，就不要發布。
5. 優先考慮 RAG，僅當您需要模型表現不同，而不僅僅是知道不同事情時才微調

準備好實作了嗎？請參閱我們的 最佳 LLM 微調工具與平台 [即將推出] 以詳細比較訓練框架和部署選項。

如果您覺得本指南有用，請查看我們關於選擇正確的 AI 技術堆疊的教學，了解 AI 驅動產品周圍更廣泛的架構決策。

來源

• Unsloth GitHub Repository，具有 2-5 倍速度提升的微調框架
• Hugging Face TRL Documentation，SFTTrainer、DPO 和 GRPO 實作
• Hugging Face PEFT Documentation，LoRA 和參數高效微調
• QLoRA Paper (Dettmers et al., 2023) -- 4-bit NormalFloat 量化研究
• LoRA Paper (Hu et al., 2021)，大型語言模型的低秩適應
• OpenAI Fine-Tuning API Documentation，基於 API 的微調工作流程
• RunPod GPU Cloud Pricing，雲端 GPU 成本參考
• vLLM Documentation，生產級 LLM 服務
• Meta Llama Fine-Tuning Guide，官方 Llama 訓練建議
• DeepSeekMath Paper (GRPO)，群組相對策略優化