Langfuse vs LangSmith vs MLflow: Hai Là Công Cụ Observability, Một Là Nền Tảng ML (2026)

Langfuse vs LangSmith vs MLflow: Hai Là Công Cụ Observability, Một Là Nền Tảng ML (2026)

Chỉ hai trong ba công cụ ở langfuse vs langsmith vs mlflow được xây ra để theo dõi LLM. MLflow ra đời năm 2018 từ Databricks như một công cụ experiment tracking cho scikit-learn và XGBoost; GenAI tracing chỉ đến sau, đắp lên trên cái nền đó nhiều năm sau. Langfuse là mã nguồn mở MIT, sinh ra cho LLM; LangSmith độc quyền, gắn với LangChain; MLflow theo giấy phép Apache-2.0 và già hơn cả hai. Phả hệ, chứ không phải bảng tính năng, quyết định cuộc so sánh này. Phán quyết: Langfuse để sở hữu dữ liệu của bạn, LangSmith cho các đội LangGraph, MLflow nếu model ML cổ điển chia sẻ nền tảng với bạn.

Ý Chính

• Langfuse nếu bạn muốn mã nguồn mở (MIT) có thể tự host và sở hữu trọn dữ liệu trace. Lưu ý các thư mục ee/ của nó theo điều khoản thương mại riêng, đó là lý do GitHub báo cáo repo là NOASSERTION thay vì MIT.
• LangSmith nếu ứng dụng của bạn là LangChain hoặc LangGraph và bạn sẵn lòng trả theo seat để có tích hợp khít nhất.
• MLflow nếu bạn còn chạy cả model ML cổ điển và muốn experiments, model registry cùng tracing ở một nơi.
• Cả ba giờ đều nói chuyện OpenTelemetry, nên chạy song song hai công cụ là một lựa chọn hoàn toàn khả thi.

Langfuse vs LangSmith vs MLflow: Nhìn Nhanh

Langfuse là lựa chọn mã nguồn mở, LangSmith là lựa chọn gốc LangChain, và MLflow là lựa chọn khi đội của bạn chạy cả ML cổ điển song song với tính năng LLM. Hai trong ba công cụ là công cụ LLM observability. Cái thứ ba là một nền tảng ML học cách trace LLM, và khác biệt đó quyết định phần lớn các cuộc đánh giá này.

Mới biết đến chủ đề này? Hãy đọc bài nhập môn AI observability của chúng tôi trước.

Các con số lưu trữ đến từ chính vendor: các mốc 30/90 ngày/3 năm của Langfuse theo trang giá của họ, mức cơ bản 14 ngày và trace mở rộng 400 ngày của LangSmith theo bảng giá của LangChain (mở rộng là một loại trace tách riêng có phí thêm, không phải một công tắc bật tắt lưu trữ), còn MLflow giữ dữ liệu lâu chừng nào storage của bạn còn tồn tại.

Ba lựa chọn đích danh:

• Chọn Langfuse nếu bạn muốn code giấy phép MIT, tự host từ ngày đầu, và dữ liệu trace nằm trong Postgres cùng ClickHouse của chính bạn.
• Chọn LangSmith nếu stack của bạn là LangChain hoặc LangGraph và giá theo seat thắng giá theo trace.
• Chọn MLflow nếu các model sklearn và XGBoost chạy song song với tính năng LLM của bạn. Muốn xem chi tiết hai công cụ, đọc bài đối đầu Langfuse vs LangSmith đầy đủ của chúng tôi.

Bạn Cần Công Cụ Gốc LLM Hay Một Nền Tảng ML?

Nửa langfuse vs mlflow của truy vấn này thực chất là một câu hỏi về phả hệ. MLflow khởi đầu là experiment tracking và model registry cho ML cổ điển, rồi mới thêm LLM tracing. Langfuse khởi đầu với LLM tracing và không thêm gì khác. Nếu bạn không chạy model cổ điển nào, bộ máy vòng đời của MLflow là diện tích bề mặt bạn phải bảo trì mà không được gì, và một công cụ AI observability chuyên dụng là con đường ngắn hơn.

MLflow là công cụ già nhất trong ba cái, bỏ xa hai cái còn lại: giấy phép Apache-2.0, do Linux Foundation quản trị, hơn 27,000 sao GitHub tính đến ngày 5 tháng 8 năm 2026, được xây để trả lời câu "siêu tham số nào đã tạo ra artifact nào?" GenAI tracing của nó đến sau, trên cái nền đó. Với một đội vừa chạy model dự đoán rời bỏ XGBoost vừa chạy agent hỗ trợ GPT-4o, điều đó mua được một hệ thống ghi chép duy nhất: experiments, mục registry và LLM trace trong cùng một cơ sở dữ liệu.

Mặt trái: không chạy model cổ điển nào thì chẳng thứ nào trong số đó đáng giá. UX gốc LLM của MLflow non trẻ hơn của Langfuse, ít phím tắt hơn, màn hình trace thô hơn.

Một điểm cần nói rõ, vì autocomplete cho thấy người ta còn tìm kubeflow vs mlflow vs airflow: MLflow không phải trình điều phối workflow. Nó không lên lịch DAG; nó ghi lại những gì các lần chạy của bạn đã làm. Airflow và Kubeflow chạy job, MLflow theo dõi output của chúng. Về câu hỏi tầng (mlflow vs tensorflow): TensorFlow là framework mô hình hóa, MLflow nằm trên bất kể framework bạn dùng để train là gì. Bài so sánh của Leanware, kết quả biên tập duy nhất không phải vendor trên SERP này, cũng chia đúng như vậy.

Nếu đội của bạn không bao giờ mở Jupyter notebook, lợi thế lớn nhất của MLflow là gánh nặng. Chỉ một phép thử đó đã loại nó khỏi danh sách của phần lớn người đọc trang này.

Trace Đầu Tiên Thực Sự Tốn Bao Nhiêu Code?

Khoảng hai dòng Python cho cả ba, nhưng ma sát nằm ở những chỗ khác nhau. Langfuse và LangSmith đòi key tài khoản trước khi trace đầu tiên của bạn hạ cánh; MLflow đòi một tracking server đang chạy. Ít dòng code nhất và ít công sức nhất không phải là một.

Chúng tôi lấy cùng một bài toán, một lời gọi chat OpenAI cộng một hàm phụ, và gắn đo theo ba cách từ quickstart của từng vendor, đọc ngày 5 tháng 8 năm 2026.

Langfuse, qua decorator @observe:

# pip install langfuse
import os
from langfuse import observe
from langfuse.openai import openai  # drop-in wrapper

os.environ["LANGFUSE_PUBLIC_KEY"] = "pk-lf-..."
os.environ["LANGFUSE_SECRET_KEY"] = "sk-lf-..."
os.environ["LANGFUSE_BASE_URL"] = "https://cloud.langfuse.com"

@observe()
def answer(question: str, context: str) -> str:
    r = openai.chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": f"{context}\n\nQ: {question}"}],
    )
    return r.choices[0].message.content

LangSmith, qua @traceable:

# pip install langsmith
import os
from langsmith import traceable
from openai import OpenAI

os.environ["LANGSMITH_TRACING"] = "true"
os.environ["LANGSMITH_API_KEY"] = "lsv2-..."
client = OpenAI()

@traceable
def answer(question: str, context: str) -> str:
    r = client.chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": f"{context}\n\nQ: {question}"}],
    )
    return r.choices[0].message.content

MLflow, qua mlflow.openai.autolog():

# pip install mlflow
import mlflow
from openai import OpenAI

mlflow.set_tracking_uri("http://localhost:5000")  # server must be running
mlflow.openai.autolog()

def answer(question: str, context: str) -> str:
    r = OpenAI().chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": f"{context}\n\nQ: {question}"}],
    )
    return r.choices[0].message.content

Các con số chúng tôi rút ra từ ba quickstart đó:

Đếm từ quickstart của từng vendor, đọc ngày 5 tháng 8 năm 2026: docs SDK Langfuse, quickstart observability LangSmith, quickstart tracing MLflow. openai là dependency của chính ứng dụng, không tính. Bạn hãy tự đếm lại.

Cách diễn giải của chúng tôi, và xin ghi rõ đó là diễn giải: code gần như giống hệt nhau ở cả ba, nên quyết định không nằm ở đó. Langfuse và LangSmith dồn ma sát vào năm phút tạo tài khoản. MLflow dồn nó vào hạ tầng: dòng lệnh một dòng kia giả định một tracking server, một cơ sở dữ liệu đứng sau nó, và một người giữ cả hai sống sót. SDK mlflow-tracing mảnh của nó, mà MLflow nói là nhỏ hơn khoảng 95% so với gói đầy đủ, cắt giảm phần cài đặt chứ không cắt phần server.

LLM-as-a-Judge: Cùng Phương Pháp, Ba Chỗ Ở Khác Nhau

Cả ba đều chạy evaluator LLM-as-a-judge trên các dataset, nhưng eval engine của LangSmith được sản phẩm hóa kỹ nhất, Langfuse ghép judge managed với hàng đợi annotation và một GitHub Action để chặn trong CI, còn MLflow buộc judge vào bộ công cụ experiment và tối ưu prompt. Phương pháp luận giống hệt nhau; khác biệt là kết quả sống ở đâu.

Theo docs evaluation của MLflow, các judge của nó chạy bên trong cùng hệ thống experiment-tracking với metric ML cổ điển của bạn, đó chính là phần thưởng của lập luận phả hệ ở trên: một bảng điều khiển cho cả model dự đoán rời bỏ lẫn agent hỗ trợ. Theo docs của Langfuse, evaluator gắn vào trace và đổ về hàng đợi annotation mà đội của bạn xử lý trong UI.

Về phương pháp, hãy đọc cách đánh giá output LLM cho đúng; về bức tranh rộng hơn, xem các công cụ evaluation chúng tôi xếp hạng. Pipeline agent cần sự chăm sóc vượt ra ngoài việc chấm điểm output, được bàn trong đánh giá agent khi đã chạy production.

Quản Lý Prompt: Chỉ Một Công Cụ Version Prompt Song Song Với Model

Cố tình viết ngắn, vì chi tiết hai công cụ thuộc về bài viết anh em của chúng tôi. Hình hài của mỗi bên: Langfuse cung cấp quản lý prompt với versioning, nhãn và playground; LangSmith cung cấp prompt hub với versioning kiểu commit; MLflow cung cấp prompt registry lưu prompt như thực thể hạng nhất bên cạnh các model của bạn.

Khác biệt duy nhất đáng giá cho quyết định: MLflow version prompt song song với các mục model registry, nên một prompt và model mà nó được tinh chỉnh chung một hệ thống ghi chép. Langfuse và LangSmith giữ prompt tách khỏi bất kể thứ gì đang phục vụ model của bạn. Nếu bạn đưa model và prompt lên production cùng nhau và muốn một dấu vết kiểm toán chứng minh cặp nào đã phát hành, sự ghép đôi đó đáng giá hơn bất kỳ playground nào. Muốn xem chi tiết sâu về hai công cụ, đọc bài đối đầu Langfuse vs LangSmith đầy đủ của chúng tôi.

Tự Host, Quyền Sở Hữu Dữ Liệu và Cái Giá Của Việc Ra Đi

Langfuse tự host dưới dạng một stack đa dịch vụ mà bạn kiểm soát hoàn toàn, MLflow là một tracking server cộng một cơ sở dữ liệu bạn có thể truy vấn SQL trực tiếp, LangSmith chỉ theo điều khoản enterprise. Câu hỏi lối ra quan trọng hơn câu hỏi lối vào: bất kể bạn chọn công cụ nào, lịch sử trace là phần bạn không thể tạo lại.

Thực tế triển khai của từng công cụ. Langfuse chạy dưới dạng web, worker, Postgres, ClickHouse và một tầng cache/blob kể từ lần thiết kế lại thời ClickHouse, theo bài viết scale-engineering của Langfuse. Bối cảnh bạn cần nắm rõ: ClickHouse đã mua lại Langfuse vào ngày 16/01/2026 cùng với vòng Series D $400M, và cả hai cam kết rằng giấy phép MIT, khả năng tự host hạng nhất cùng lộ trình không thay đổi (tuyên bố của Langfuse). Việc tự host LangSmith là chuyện của gói enterprise, theo docs của họ. MLflow là một tracking server, một cơ sở dữ liệu tương thích Postgres và object storage.

Đường ra, phần mà không ai khác viết. Langfuse xuất sang blob storage dưới dạng JSONL hoặc Parquet qua xuất S3 có tài liệu, cộng một API đầy đủ. Backend của MLflow là một cơ sở dữ liệu mở bạn có thể truy vấn trực tiếp. Xuất hàng loạt của LangSmith nằm sau các gói trả phí. Phán quyết: lock-in của MLflow dễ khôi phục nhất, Langfuse bám sát ngay sau, LangSmith dưới mức enterprise là nơi một lựa chọn sai khiến bạn mất cả lịch sử.

SSO và RBAC canh cổng tầng Enterprise của Langfuse ($2,499/tháng) và gói Enterprise của LangSmith; với MLflow bạn tự đấu nối auth của mình, tự do và công sức chia đều.

Mỗi Công Cụ Tốn Bao Nhiêu Ở 100K, 1M và 10M Trace?

Langfuse tính phí theo unit, MLflow không tính phí gì cả, và LangSmith không còn công bố mức giá có thể so sánh theo mỗi trace. Unit và trace không phải cùng một đối tượng; một yêu cầu của người dùng có thể là một trace duy nhất chứa nhiều sự kiện tính phí. Chỉ hai trong ba cột dưới đây dựng được từ giá niêm yết.

Điểm cuối đó là một phát hiện, không phải một khoảng trống trong nghiên cứu của chúng tôi. Tính đến ngày 5 tháng 8 năm 2026, trang giá của LangChain đặt gói Plus ở mức $39 mỗi seat kèm 10K trace cơ bản đã gồm, sau đó tính phí sử dụng theo $1.50 mỗi LCU (compute) và $1.00 mỗi LSU (storage). Trang này không còn mức giá theo mỗi 1K trace nữa, và cũng không có trang thứ hai nào mang mức giá đó. Vì vậy một hóa đơn LangSmith ở một dung lượng trace cụ thể không thể suy ra được từ giá niêm yết, và chúng tôi sẽ không tự bịa ra một cách quy đổi.

Các con số của Langfuse là giá niêm yết từ trang giá của họ, đọc ngày 5 tháng 8 năm 2026, nhân với dung lượng hiển thị. Giá seat và các mức lưu trữ của LangSmith đến từ cùng lần đọc giá của LangChain trong ngày: trace cơ bản lưu 14 ngày, trace mở rộng lưu 400 ngày kèm một khoản phí thêm mà trang này không định lượng. Cột MLflow là ước tính của chúng tôi, không phải báo giá của vendor: Postgres managed ($15-25/tháng), object storage và một container chạy thường trực ($10-20/tháng), tăng dần theo lịch sử lưu trữ.

Hãy kiểm tra phép tính của chúng tôi ở chỗ có phép tính để kiểm tra. Langfuse công bố một biểu phí vượt mức theo bậc thang: $8.00 cho mỗi 100K unit từ 100K đến 1M, $7.00 từ 1M đến 10M, $6.50 từ 10M đến 50M, $6.00 trên mức đó. Ở 1M: $29 cộng 900K unit với giá $8 mỗi 100K = $101. Ở 10M: $29, cộng 900K với giá $8 ($72), cộng 9,000K với giá $7 ($630) = $731.

Để ý khác biệt về hình dạng: LangSmith tính phí theo người cộng mức tiêu thụ đo lường, hai công cụ kia thì không. Nếu vấn đề thật của bạn là chi tiêu token, một proxy LiteLLM đứng trước các model cắt hóa đơn trước khi bất kỳ công cụ nào trong số này kịp đo nó.

Chạy Song Song Hai Công Cụ Được Không?

Được. Langfuse và MLflow đều xây trên OpenTelemetry, nên một collector có thể quạt cùng các span GenAI tới hai backend. Cặp ghép thực tế: MLflow làm hệ thống ghi chép cho vòng đời model, Langfuse làm UX trace gốc LLM. Dễ về mặt kỹ thuật; về mặt tổ chức, phải có ai đó sở hữu cái collector.

Cơ chế: một collector OTel với hai exporter OTLP, dùng convention ngữ nghĩa GenAI để hai bên parse span theo cùng một cách.

# Illustrative sketch, not a copy-paste-complete collector config
exporters:
  otlp/langfuse:
    endpoint: https://cloud.langfuse.com/api/public/otel:443
    headers:
      Authorization: "Basic <base64 public_key:secret_key>"
  otlp/mlflow:
    endpoint: http://localhost:5000/otel  # your MLflow tracking server

service:
  pipelines:
    traces:
      receivers: [otlp]
      processors: [batch]
      exporters: [otlp/langfuse, otlp/mlflow]  # same spans, two backends

Hãy dán nhãn rõ ràng: cách sắp đặt ở trên là diễn giải kiến trúc của chúng tôi, không phải một cấu hình được vendor hỗ trợ. Leanware là trang duy nhất khác trên SERP này có nhắc đến việc chạy hai công cụ cùng lúc, trong đúng một đoạn văn. Chạy song song nghĩa là hai hệ thống, hai hóa đơn, storage nhân đôi, và một collector sẽ gọi ai đó dậy lúc 3 giờ sáng.

Gửi trace đi hai nơi thì dễ về kỹ thuật và đắt về tổ chức. Backend thứ hai miễn phí cho đến khi có ai đó phải giữ nó sống.

Langfuse vs LangSmith vs MLflow: Ai Nên Chọn Cái Nào?

Ưu và nhược của langfuse vs langsmith vs mlflow gom lại thành sáu hồ sơ. Mỗi hàng gọi tên một công cụ, vì "còn tùy" mà không kèm lựa chọn là thứ vô dụng.

Nếu câu trả lời thành thật của bạn là "không cái nào trong ba cái này", bảy công cụ còn lại trong mười nền tảng chúng tôi xếp hạng bao gồm các lựa chọn hosted và chỉ dành cho enterprise mà chúng tôi không đưa vào trang này.

Câu Hỏi Thường Gặp

Vì sao dùng MLflow cho LLM tracing?

Hãy dùng MLflow cho LLM tracing khi đội của bạn đã chạy các model ML cổ điển và muốn một hệ thống ghi chép duy nhất: experiment tracking, model registry và GenAI tracing trong một nền tảng Apache-2.0 duy nhất, không phí theo trace. Nếu bạn chỉ chạy tính năng LLM, Langfuse hoặc LangSmith cho bạn một trải nghiệm trẻ hơn, ưu tiên LLM hơn.

Dùng LangSmith và MLflow cùng nhau được không?

Được. Cả hai đều nhận dữ liệu trace tương thích OpenTelemetry, nên một collector OTel có thể xuất cùng các span sang LangSmith và một tracking server MLflow cùng lúc. Cái giá là vận hành: hai backend, hai hóa đơn, storage nhân đôi. Phần lớn các đội chúng tôi nói chuyện chọn một hệ thống ghi chép và bỏ qua cái thứ hai.

LangSmith có phải mã nguồn mở không?

Không. LangSmith là phần mềm độc quyền, đóng nguồn từ LangChain Inc. SDK client của LangSmith thì mở, nhưng nền tảng, UI và backend thì không. Nếu giấy phép mã nguồn mở quan trọng với bạn, Langfuse (MIT) và MLflow (Apache 2.0) là hai lựa chọn trong bài so sánh này mà bạn có thể tự host thoải mái.

MLflow chỉ dành cho machine learning cổ điển?

Không. MLflow đã thêm hỗ trợ GenAI hạng nhất: mlflow.openai.autolog() tự động trace các lời gọi OpenAI, @mlflow.trace phủ các hàm tùy chỉnh, và các judge tích hợp sẵn đánh giá output LLM. Di sản ML cổ điển lộ ra ở UX, kém gốc LLM hơn so với Langfuse, nhưng bản thân phần tracing đạt chuẩn production.

MLflow có phải trình điều phối workflow như Airflow hay Kubeflow không?

Không. MLflow không lên lịch DAG hay chạy pipeline; nó ghi lại những gì các lần chạy của bạn đã làm: tham số, metric, artifact và trace. Airflow và Kubeflow điều phối job, MLflow theo dõi kết quả của chúng. Người ta nhầm ba thứ vì chúng cùng xuất hiện trong các stack MLOps, nhưng chúng nằm ở những tầng khác nhau và thường chạy cùng nhau.

Những lựa chọn mã nguồn mở thay cho LangSmith và MLflow là gì?

Langfuse (MIT) là lựa chọn mã nguồn mở gần nhất với LangSmith, với tự host và tracing gốc OTel, và bản thân MLflow cũng là mã nguồn mở theo Apache 2.0. Ngoài bài so sánh này, Lunary, Arize Phoenix và OpenLIT là những lựa chọn LLM observability mã nguồn mở đáng xem trước khi bạn cam kết với một nền tảng độc quyền.

Công cụ nào rẻ nhất trong ba cái ở 10 triệu trace mỗi tháng?

MLflow, chỉ tính hạ tầng: ước tính của chúng tôi là $150-400 mỗi tháng cho Postgres, object storage và một container. Langfuse Cloud rơi vào $731 cho 10M unit trên gói Core cộng phí vượt mức theo bậc thang. LangSmith không thể tính giá từ trang của họ: từ giữa năm 2026 LangChain công bố mức giá theo seat và LCU/LSU, không phải giá niêm yết theo mỗi trace.

Langfuse thay thế MLflow, hay ngược lại?

Không bên nào thay gọn bên kia. Langfuse thay thế tầng tracing và eval của MLflow cho các đội chỉ làm LLM và bỏ đi bộ máy experiment-tracking cùng model-registry. MLflow thay thế Langfuse khi các model ML cổ điển chia sẻ nền tảng của bạn và một hệ thống ghi chép thắng hai. Chúng chồng lấn ở tracing; chúng phân kỳ ở mọi thứ xung quanh nó.

Langfuse còn là mã nguồn mở không khi ClickHouse đã mua lại?

Còn, tính đến thông báo ngày 16/01/2026. ClickHouse mua lại Langfuse cùng với vòng Series D $400M, và cả hai công ty đã công khai cam kết giữ giấy phép MIT, khả năng tự host hạng nhất và một lộ trình không đổi. Đó là một cam kết công khai, không phải một bảo đảm pháp lý vĩnh viễn, nhưng hôm nay không có gì trong câu chuyện tự host thay đổi.

Nguồn

Mọi nguồn dưới đây đều là biên tập và dofollow; không nguồn nào là trả phí hay trao đổi.

Nếu Bạn Chỉ Nhớ Ba Điều

• Hai trong ba công cụ được xây cho LLM. MLflow được xây năm 2018 cho ML cổ điển và học tracing sau đó.
• Langfuse nếu bạn muốn dữ liệu trace giấy phép MIT, tự host, thuộc trọn về bạn. LangSmith nếu ứng dụng của bạn là LangChain hoặc LangGraph. MLflow nếu các model ML cổ điển chia sẻ nền tảng của bạn.
• Hỏi câu hỏi lối ra trước: Langfuse xuất sang S3, cơ sở dữ liệu của MLflow là của bạn để truy vấn, xuất hàng loạt của LangSmith nằm sau các gói trả phí.
• Ở 10M sự kiện mỗi tháng: $731 theo giá niêm yết trên Langfuse Cloud và $150-400 hạ tầng trên MLflow (ước tính của chúng tôi). LangSmith không có con số tương đương vì đã ngừng công bố giá theo mỗi trace.

Phán quyết, nhắc lại: chọn theo phả hệ, không chọn theo tính năng. Muốn nghe ý kiến thứ hai về việc công cụ nào hợp với stack của bạn, hoặc cần giúp đấu nối? Nói chuyện với Techsy. Chúng tôi chọn những công cụ này cho các lần triển khai agent của khách hàng và không bán công cụ nào.