2026년 최고의 오픈소스 LLM: 8개 벤치마크 결과 — GPT-4급을 넘은 건 단 3개

2026년 최고의 오픈소스 LLM: 8개 벤치마크 결과 — GPT-4급을 넘은 건 단 3개

최종 업데이트: 2026년 7월 5일. 이 가이드의 모든 벤치마크 점수, VRAM 수치, 라이선스는 이번 업데이트에서 재검증했습니다. 아래 순위는 2026년 중반까지 출시된 오픈 웨이트 모델을 반영하며, 새로운 출시로 순위가 바뀌면 당월 내에 이 페이지를 업데이트합니다.

2026년 최고의 오픈소스 LLM은 종합 추론과 코딩에서 Qwen 3 235B-A22B이며, 심층 수학 추론에서는 DeepSeek R1, 장문 컨텍스트(1,000만 토큰)에서는 Llama 4 Scout이 선두입니다. 소비자용 GPU 1장으로는 Gemma 3 27B(VRAM 16GB)와 Phi-4 14B(8GB)가 셀프 호스팅이 가장 쉽습니다. 상위 3개 모델 모두 코드와 수학에서 GPT-4급 성능을 내면서도 무료로 배포할 수 있습니다.

주요 오픈소스 LLM: 벤치마크 스냅샷

아래 표는 널리 배포된 오픈소스 모델 5개를 표준 공개 벤치마크로 평가한 결과입니다. MMLU는 광범위한 일반 지식을, HumanEval은 코드 생성 통과율을 측정합니다.

이 표는 매월 갱신합니다.

오픈소스 LLM은 더 이상 독점 모델과 "경쟁"하는 수준이 아닙니다. 코딩, 수학, 장문 컨텍스트 작업에서는 오히려 이기고 있습니다. 월 200달러 API 비용과 셀프 호스팅 오픈 모델 사이의 격차가 그 어느 때보다 좁아졌습니다.

이 순위는 과대광고를 걷어냅니다. 여기에 포함된 모든 모델은 중요한 벤치마크, 실제로 필요한 하드웨어, 그리고 각 모델이 가장 빛나는 구체적인 사용 사례를 기준으로 평가했습니다.

빠른 요약: 어떤 오픈소스 LLM을 골라야 할까?

최고의 추론 성능이 필요하다면? Qwen 3 235B 또는 DeepSeek R1을 선택하세요. GPU 1장으로 돌리고 싶다면? Gemma 3 27B 또는 Phi-4 14B. 대규모 문서를 처리한다면? Llama 4 Scout의 1,000만 토큰 컨텍스트는 따라올 모델이 없습니다.

VRAM 수치는 Q4 양자화 기준입니다. 전체 정밀도에서는 2~4배 더 필요합니다. 로컬에서 모델 실행하기가 처음이라면 Gemma 3이나 Phi-4로 시작하세요. 이 목록에서 하드웨어 부담이 가장 적은 옵션입니다.

오픈소스 LLM 리더보드: 2026년 7월 순위

2026년 7월 기준, Qwen 3 235B-A22B가 종합 추론과 코딩에서 오픈소스 LLM 리더보드 1위를 차지했으며, 심층 수학에서는 DeepSeek R1이 2위, 장문 컨텍스트에서는 Llama 4 Scout이 3위입니다. 아래 전체 순위는 이 가이드에서 평가한 8개 모델 전부를 다루며, 데이터센터급 장비부터 노트북 친화적 모델까지 포함합니다.

이 순위는 벤치마크, 하드웨어 요구사항, 라이선스 조건을 매월 재확인한 결과입니다.

이제 각 모델이 주목할 만한 이유를 하나씩 살펴보겠습니다.

1. Qwen 3 235B-A22B — 종합 최고 오픈소스 LLM

Alibaba의 Qwen 3 235B-A22B는 현재 가장 강력한 모델입니다. 총 2,350억 파라미터의 Mixture-of-Experts 아키텍처이지만, 토큰당 활성화되는 파라미터는 220억 개에 불과하여 비슷한 품질의 밀집형 모델 대비 연산량을 약 90% 줄입니다.

Qwen 3의 차별점은 듀얼 모드 사고입니다. 복잡한 수학과 코딩 문제에는 "사고 모드"(모델이 사고 과정을 표시)를, 빠른 대화에는 "비사고 모드"를 전환할 수 있습니다. 이 유연성은 프로덕션 환경에서 큰 차이를 만듭니다.

벤치마크 하이라이트:

이 수치는 DeepSeek R1, OpenAI의 o1, Gemini 2.5 Pro와 같은 등급입니다. 다만 Apache 2.0 라이선스로 다운로드, 파인튜닝, 원하는 곳 어디든 배포할 수 있다는 점이 다릅니다.

하드웨어 요구사항: 전체 모델은 Q4 양자화 기준 약 132GB의 VRAM이 필요합니다. 멀티 GPU 구성이 필요하며, RTX 3090 5장, A40 3장, 또는 듀얼 H100 구성을 생각하면 됩니다. 저렴하지는 않지만 스타트업이나 연구실에서는 충분히 감당할 수 있는 수준입니다. Qwen 3 제품군에는 소비자용 하드웨어에서 실행 가능한 소형 변형(32B, 14B, 8B, 4B)도 포함되어 있습니다.

누가 사용해야 하나: 프론티어급 추론과 코딩이 필요하지만 인프라를 직접 소유하고 싶은 팀. 256K 컨텍스트와 100개 이상 언어 지원으로 다국어 워크로드에 특히 강합니다. 특정 도메인에 맞게 모델을 파인튜닝할 계획이라면, Qwen 3의 Apache 2.0 라이선스가 완전한 자유를 보장합니다.

2. DeepSeek R1 — 심층 추론 최고

DeepSeek R1은 2025년 초 출시 당시 오픈소스 모델이 추론 작업에서 OpenAI의 o1과 대등할 수 있음을 증명하며 판도를 바꿨습니다. R1-0528 업데이트에서는 AIME 2025 정확도가 70%에서 87.5%로 더욱 향상되었습니다.

이 모델의 비결은 학습 방법론에 있습니다. DeepSeek은 먼저 지도 파인튜닝 워밍업 없이 순수 강화학습만으로 R1-Zero를 만들었습니다. 모델은 자발적으로 연쇄 사고(chain-of-thought) 추론, 자기 검증, 백트래킹 행동을 개발했습니다. 말 그대로 자기 답을 스스로 확인하는 법을 학습한 것입니다.

벤치마크 하이라이트:

하드웨어 요구사항: DeepSeek V3와 동일한 671B MoE 아키텍처이므로 Q4 기준 약 136GB의 VRAM이 필요합니다. 하지만 실질적인 관점에서, DeepSeek은 1.5B, 7B, 14B, 32B, 70B 파라미터의 증류(distilled) 변형도 공개했습니다. 32B 증류 모델은 RTX 4090 1장에서 실행되면서도 추론 작업에서 더 큰 모델 다수를 능가합니다.

누가 사용해야 하나: 단계별 추론, 정리 증명, 복잡한 코드 디버깅, 과학적 분석이 필요한 애플리케이션을 만드는 모든 분. 예산 내에서 추론 기능이 필요하다면 증류 변형이 특히 유용합니다. 소형 증류 모델을 자체 하드웨어에 배포하고 싶다면 로컬 LLM 실행을 위한 최고의 도구를 참고하세요.

3. Llama 4 Scout — 장문 컨텍스트 최고

Meta의 Llama 4 Scout은 오픈소스 세계에 genuinely 새로운 것을 가져왔습니다: 1,000만 토큰 컨텍스트 윈도우. 오타가 아닙니다. 코드베이스 전체, 연구 논문 한 묶음, 또는 20시간 분량의 영상 전사를 하나의 프롬프트에 넣을 수 있습니다.

Scout은 16개의 MoE 전문가 중 토큰당 2개만 활성화하여, 총 109B 파라미터 중 활성 파라미터는 17B에 불과합니다. Meta는 INT4 양자화 시 H100 1장에 올라간다고 주장하지만, 1,000만 토큰 컨텍스트 윈도우를 실제로 사용하려면 당연히 KV 캐시에 더 많은 메모리가 필요합니다.

벤치마크 하이라이트:

1,000만 토큰에서 Needle-in-a-Haystack 100%는 놀라운 결과입니다. 대부분의 모델은 128K 훨씬 이전부터 정보를 잃기 시작합니다. Scout은 문서 간 경계를 유지하는 새로운 문서 간 어텐션 마스킹 방식을 사용하여, 거대한 컨텍스트 윈도우 안에서도 문서 간 경계를 유지합니다.

하드웨어 요구사항: Q4 기준 모델 가중치에 약 55GB의 VRAM이 필요합니다. H100 1장(80GB)이면 여유롭게 처리합니다. 소비자용 하드웨어에서는 RTX 4090 2장(총 48GB)으로 짧은 컨텍스트 길이를 처리할 수 있습니다. 단, 1,000만 토큰 컨텍스트 윈도우를 실제로 사용하려면 모델 가중치 위에 막대한 KV 캐시 메모리가 추가로 필요합니다. 실제로 대부분의 셀프 호스팅 배포는 128K~256K 토큰에서 상한을 둡니다.

누가 사용해야 하나: 대규모 문서, 법률 분석, 코드 저장소 Q&A, 연구 논문 종합을 다루는 팀. 멀티모달 기능(텍스트 + 이미지 입력)도 강력합니다. 다만 컨텍스트 길이에 대해서는 현실적으로 접근하세요: 1,000만 상한은 실제로 가능하지만, 이를 활용하려면 서버급 하드웨어가 필요합니다.

4. DeepSeek V3 — 최고의 범용 오픈소스 LLM

DeepSeek R1이 추론으로 헤드라인을 장식하는 동안, DeepSeek V3는 일상적 사용에서 arguably 더 실용적인 모델입니다. 빠르고, 전반적으로 유능하며, 크기 대비 놀라울 정도로 효율적인 일꾼입니다.

V3는 R1과 동일한 671B MoE / 37B 활성 아키텍처를 공유하지만, 심층 추론 체인 대신 더 빠른 응답 시간과 더 넓은 범용 기능을 선택했습니다. V3-0324 업데이트에는 R1 학습의 강화학습 기법이 통합되어, 명시적 연쇄 사고의 지연 없이 추론 성능을 끌어올렸습니다.

벤치마크 하이라이트:

DeepSeek V3는 코딩과 수학 벤치마크에서 GPT-4.5를 능가합니다. 학습 효율은 전설적인데, 전체 사전 학습에 단 278만 8천 H800 GPU 시간만 소요되었으며, 이는 동급 모델이 요구하는 것의 극히 일부입니다.

하드웨어 요구사항: R1과 동일(Q4 기준 약 136GB VRAM). 실질적 배포에서는 GGUF 양자화 버전을 llama.cpp 또는 Ollama로 멀티 GPU 소비자용 구성에서 실행할 수 있습니다.

누가 사용해야 하나: 채팅, 코딩, 분석, 번역, 요약 등 모든 것을 처리할 하나의 모델이 필요하다면 V3가 가장 균형 잡힌 선택입니다. 어려운 추론에서 R1을, 컨텍스트 길이에서 Scout을 이기지는 못하지만, 속도와 다재다능함이 최고 벤치마크 점수보다 중요한 일반적인 프로덕션 워크로드에서는 둘 다 능가합니다.

5. Mistral Large 3 — 다국어 및 엔터프라이즈 최고

Mistral Large 3는 Mistral을 프론티어로 복귀시켰습니다. 총 675B 파라미터(41B 활성)의 완전한 MoE 모델로 Apache 2.0 라이선스로 출시되었으며, 이는 Mistral Large 2의 제한적 연구 라이선스에서 큰 전환입니다.

이 모델은 3,000개의 NVIDIA H200 GPU로 처음부터 학습되었으며, 그 결과가 나타납니다. LMSYS Chatbot Arena에서 오픈 모델 중 2위, 전체(독점 모델 포함) 6위를 기록했습니다. 유럽 팀에 특히 흥미로운 점은 다국어 강점으로, 균형 잡힌 다국어 MMLU 테스트에서 약 85.5%의 정확도를 보였습니다.

벤치마크 하이라이트:

Mistral 모델을 차별화하는 특징 하나: 환각(hallucination) 대신 "모르겠습니다"라고 말하도록 학습되었습니다. 이로 인해 Mistral Large 3는 사실적 정확성이 창의적 출력보다 중요한 RAG 파이프라인과 엔터프라이즈 애플리케이션에 적합합니다.

하드웨어 요구사항: 총 675B 파라미터로 VRAM 요구사항은 DeepSeek과 유사(Q4 기준 약 140GB)합니다. Mistral은 단일 소비자용 GPU에 맞고 추론과 코딩에서 체급 이상을 발휘하는 14B Small 3 변형도 제공합니다.

누가 사용해야 하나: 다국어 기능과 데이터 주권이 필요한 유럽 기업. 환각 감소가 중요한 RAG 시스템을 구축하는 엔터프라이즈 팀. Apache 2.0 라이선스로 상업적 마찰이 완전히 제거됩니다.

6. Gemma 3 27B — 단일 GPU 배포 최고

Google의 Gemma 3 27B는 성능과 접근성의 최적 균형점입니다. 밀집형 아키텍처의 270억 파라미터로, Q4 양자화 시 RTX 4090 1장에서 실행됩니다. 멀티 GPU 구성도, 서버급 하드웨어도 필요 없이 일반 게이밍 카드면 됩니다.

적은 파라미터 수에 속지 마세요. Gemma 3 27B는 체급 이상을 발휘하며, 특히 멀티모달 작업에서 두드러집니다. 텍스트와 이미지 입력을 모두 처리하고, 140개 이상 언어를 지원하며, 130K 컨텍스트 윈도우는 이 크기 모델치고 넉넉합니다.

벤치마크 하이라이트:

이 멀티모달 점수(DocVQA 85.6%, ChartQA 76.3%)는 3~5배 큰 모델과 경쟁합니다. GPU 클러스터 없이 이미지 이해가 필요한 개발자에게 Gemma 3는 명백한 선택입니다.

하드웨어 요구사항: Q4 양자화 기준 약 16GB VRAM, Q8에서는 32GB. RTX 4090 1장(24GB)이면 여유롭습니다. 32GB 통합 메모리의 M2 MacBook Pro에서도 실행 가능합니다. 로컬 LLM 실행 가이드를 따라 하고 있다면, Gemma 3는 시작하기 가장 쉬운 모델 중 하나입니다.

누가 사용해야 하나: 솔로 개발자, 소규모 팀, 클라우드 GPU 대여 없이 유능한 멀티모달 모델을 원하는 모든 분. 프로토타이핑에도 훌륭합니다. 로컬에서 Gemma 3로 파이프라인을 테스트한 후, 필요하면 프로덕션에서 더 큰 모델로 확장하세요. Google의 더 새로운 소형 모델은 Gemma 4 12B 가이드를 참고하세요.

7. Phi-4 Reasoning — 엣지 및 리소스 제한 환경 최고

Microsoft의 Phi-4 Reasoning은 파라미터 수가 전부가 아님을 증명합니다. 단 140억 파라미터로, 여러 추론 벤치마크에서 DeepSeek R1의 70B 증류 모델을 능가합니다. 최근 출시된 Phi-4-reasoning-vision-15B는 멀티모달 기능을 추가하여, 수학-시각 추론 작업에서 Gemma 3 12B보다 17% 높은 점수를 기록했습니다.

Phi-4 제품군의 비결은 학습 데이터 품질입니다. Microsoft의 접근법은 원시 규모보다 큐레이션된 고품질 데이터를 우선시하며, 이것이 통합니다. Phi-4는 MATH와 MGSM 벤치마크에서 80% 이상을 기록하며, 수학적 추론에서 Google의 Gemini Pro와 GPT-4o-mini를 능가합니다.

벤치마크 하이라이트:

하드웨어 요구사항: Q4 기준 약 8GB VRAM — 노트북 GPU 또는 구형 데스크톱 카드면 됩니다. Apple Silicon MacBook에서 여유롭게 실행되어 진정한 휴대성이 가능합니다. 엣지 배포에서는 합리적인 지연 시간으로 온디바이스 실행이 가능한 몇 안 되는 모델 중 하나입니다.

누가 사용해야 하나: 모바일 및 엣지 개발자, 온디바이스 AI 기능을 구축하는 팀, 최소 하드웨어에서 강력한 추론이 필요한 모든 분. Phi-4는 작은 크기 덕분에 학습 반복이 빠르고 저렴하여 파인튜닝 모델 평가에도 좋은 선택입니다. MIT 라이선스로 상업적 제한이 없습니다.

8. GLM-4.7 — 에이전트 코딩 최고

Z.ai의 GLM-4.7은 특정 사용 사례를 위해 설계되었습니다: 모델이 추론하고, 도구를 사용하고, 긴 다단계 상호작용 전반에 걸쳐 컨텍스트를 유지해야 하는 에이전트 코딩 워크플로입니다.

아키텍처는 355B MoE에 활성 파라미터 32B이지만, 눈에 띄는 기능은 3단계 사고 시스템입니다. 대부분의 모델이 매 턴마다 추론 프로세스를 다시 시작하는 것과 달리, GLM-4.7은 대화 전체에 걸쳐 사고 블록을 유지합니다. 이 지속적 추론 컨텍스트는 모델이 복잡한 다단계 코딩 작업을 오케스트레이션할 때 실질적인 차이를 만듭니다.

벤치마크 하이라이트:

SWE-bench 73.8%는 Claude Sonnet 4.5와 경쟁하는 수치입니다. 합성 벤치마크가 아닌 실전 소프트웨어 엔지니어링 작업에서요. 그리고 HumanEval 94.2%는 이 목록의 모든 모델 중 최고입니다.

하드웨어 요구사항: 다른 대형 MoE 모델과 유사(Q4 기준 약 130GB VRAM). 200K 컨텍스트 윈도우와 131K 최대 출력으로 긴 에이전트 세션 중 메모리 소모가 큽니다.

누가 사용해야 하나: 코딩 에이전트, 자동화된 디버깅 도구, 코드 리뷰 시스템을 구축하는 AI 지원 개발 팀. 코딩 특화 모델을 위한 파인튜닝 도구를 선택 중이라면 GLM-4.7은 강력한 기반입니다. MIT 라이선스로 완전한 상업적 사용이 가능합니다.

코딩에 최고의 오픈소스 LLM (2026년 7월)

2026년 7월 코딩에서는 GLM-4.7이 최고의 오픈소스 선택입니다. HumanEval 94.2%, SWE-bench 73.8%로 실전 소프트웨어 작업에서 Claude Sonnet 4.5와 경쟁합니다. 소비자용 하드웨어에서 강력한 코딩 모델을 원한다면? DeepSeek R1 32B 증류 모델이 RTX 4090 1장에서 실행됩니다.

더 새로운 GLM 출시를 고려 중이라면? GLM 5.2 분석에서 비교 내용을 확인하세요.

선택 방법: 의사결정 프레임워크

"최고의" 모델은 전적으로 여러분의 제약 조건에 달려 있습니다. 이 매트릭스로 결정을 좁혀보세요.

아직 고민되나요? 여기서 시작하세요: 멀티 GPU 하드웨어가 있나요? 없다면 선택지는 Gemma 3와 Phi-4입니다. 있다면, 코딩 에이전트를 만들고 있나요? GLM-4.7 또는 DeepSeek R1을 선택하세요. 장문 컨텍스트가 필요하면? Llama 4 Scout. 그 외에는? Qwen 3 235B가 가장 안전한 기본값입니다.

순위 산정 방법

순위는 단일 벤치마크에 기반하지 않습니다. 각 모델은 5가지 차원에서 평가했습니다:

1. 벤치마크 성능 — MMLU, HumanEval, AIME, SWE-bench 및 도메인별 테스트
2. 하드웨어 접근성 — 실제 팀이 배포할 수 있는가?
3. 라이선스 자유도 — Apache 2.0과 MIT가 제한적 라이선스보다 높은 점수
4. 생태계 성숙도 — Hugging Face, Ollama, vLLM 및 주요 추론 엔진에서 사용 가능한가
5. 실제 도입 — 활발한 커뮤니티, 프로덕션 배포, 지속적인 업데이트

벤치마크 점수는 좋지만 아무도 가지고 있지 않은 GPU 클러스터가 필요한 모델(671B 전체 정밀도, 바로 너야)은 감점됩니다. 상업적 사용을 차단하는 제한적 라이선스의 모델도 감점됩니다. 목표는 리더보드 자랑이 아닌 실질적 가치입니다.

이 모델을 직접 테스트하고 싶다면, LLM 평가 가이드에서 체계적 벤치마크 설정 방법을 안내하며, 최고의 평가 도구 모음에서 필요한 프레임워크를 다룹니다.

FAQ

2026년 최신 오픈소스 LLM은 무엇인가요?

2026년 프론티어는 Qwen 3(Alibaba), DeepSeek R1과 V3, Llama 4 Scout(Meta), Mistral Large 3, GLM-4.7(Z.ai)이 이끌고 있습니다. DeepSeek R1-0528과 Phi-4 reasoning-vision 변형 같은 포인트 릴리스는 2026년 중반까지 도착했습니다. 이 목록은 매월 재확인하며, 새 출시로 순위가 바뀌면 리더보드를 업데이트합니다.

이 오픈소스 LLM 리더보드는 얼마나 자주 업데이트되나요?

매월. 매월 초 벤치마크 점수, VRAM 요구사항, 라이선스를 재검증하고 새 모델이 출시되면 추가합니다. 제목 아래의 "최종 업데이트" 날짜가 가장 최근 검토를 반영합니다.

2026년 최고의 오픈소스 LLM은 무엇인가요?

Qwen 3 235B-A22B가 현재 가장 넓은 범위의 벤치마크에서 선두이며, Apache 2.0 라이선스로 최상급 추론, 코딩, 다국어 기능을 결합합니다. 특정 사용 사례에서는 DeepSeek R1(추론)과 Llama 4 Scout(장문 컨텍스트)이 더 나은 선택일 수 있습니다.

소비자용 하드웨어에서 오픈소스 LLM을 실행할 수 있나요?

네. Gemma 3 27B는 RTX 4090 1장(VRAM 24GB)에서 실행되고, Phi-4 14B는 8GB 노트북 GPU에 맞습니다. 더 큰 모델의 양자화 버전(Q4, Q8)도 Ollama와 llama.cpp 같은 도구로 멀티 GPU 소비자용 구성에서 작동합니다.

오픈소스 LLM은 ChatGPT나 Claude만큼 좋은가요?

코딩과 수학 벤치마크에서 최고의 오픈소스 모델은 GPT-4.5와 대등하거나 능가하며, Claude Sonnet 4.5 성능에 근접합니다. 격차는 구조화된 작업(코드, 수학, 추론)에서 가장 좁고, 창의적 글쓰기와 미묘한 지시 이행에서 가장 큽니다.

MoE(Mixture-of-Experts)는 하드웨어에 어떤 의미인가요?

MoE 모델은 총 파라미터 수가 크지만 토큰당 일부만 활성화합니다. 그러나 라우터가 전문가를 선택하려면 전체 모델을 메모리에 로드해야 합니다. 22B 활성의 235B MoE 모델도 235B 상당의 VRAM이 필요합니다. 메모리를 절약하는 것이 아니라 연산을 절약하는 것입니다.

코딩에 가장 좋은 오픈소스 LLM은 무엇인가요?

GLM-4.7이 HumanEval 94.2%, SWE-bench 73.8%로 선두입니다. 순수 코드 생성에서는 DeepSeek R1과 Qwen 3 235B가 바짝 뒤따릅니다. 소비자용 하드웨어에서의 코딩은 DeepSeek R1 32B 증류 모델이 성능 대비 비용이 가장 좋습니다.

Llama 4 Scout은 정말 1,000만 토큰 컨텍스트인가요?

아키텍처는 이를 지원하며, Meta는 1,000만 토큰에서 완벽한 Needle-in-a-Haystack 검색을 시연했습니다. 하지만 전체 컨텍스트를 실제로 사용하려면 막대한 KV 캐시 메모리가 필요합니다. 대부분의 셀프 호스팅 배포는 현실적으로 128K~256K 토큰에서 상한을 둡니다. Together AI와 Fireworks 같은 클라우드 제공업체는 더 긴 컨텍스트 윈도우를 제공합니다.

오픈소스 LLM에서 어떤 라이선스를 찾아야 하나요?

Apache 2.0과 MIT가 가장 관대합니다. 완전한 상업적 사용, 수정, 재배포가 가능합니다. Llama의 커스텀 라이선스는 상업적 사용을 허용하지만 7억 명 이상 사용자의 앱에는 제한이 있습니다. 일부 "오픈 웨이트" 모델(Gemma 등)은 특정 조건이 있으므로, 프로덕션 배포 전 항상 라이선스를 읽으세요.

70B 모델에 VRAM이 얼마나 필요한가요?

Q4 양자화 기준 70B 밀집형 모델은 약 35~40GB의 VRAM이 필요합니다. A100 1장(80GB)이면 쉽게 처리하고, RTX 4090 2장(총 48GB)도 가능합니다. 전체 정밀도(BF16)에서는 140GB 이상으로, 사실상 A100 4장 또는 동급이 필요합니다.

오픈소스 LLM을 제 사용 사례에 맞게 파인튜닝할 수 있나요?

물론입니다. QLoRA를 사용하면 24GB GPU 1장으로 70B 모델 파인튜닝이 가능합니다. Phi-4와 Gemma 3 같은 소형 모델은 파인튜닝 실험에 더 접근하기 쉽습니다. Apache 2.0과 MIT 라이선스 모델은 파생 저작물에 제한이 없습니다.

오픈소스 멀티모달 LLM은 어떤가요?

Gemma 3 27B와 Llama 4 Scout 모두 텍스트와 이미지 입력을 네이티브로 처리합니다. Phi-4-reasoning-vision-15B는 더 작은 규모에서 시각적 추론을 추가합니다. 영상 이해의 경우 Llama 4 Scout은 컨텍스트 윈도우 내에서 최대 20시간의 영상 입력을 지원합니다.

지금 당장 최고의 오픈소스 LLM은 무엇인가요?

현재 Qwen 3 235B-A22B가 종합 최고 오픈소스 LLM으로, Apache 2.0 라이선스로 추론과 코딩에서 선두입니다. 단일 소비자용 GPU에서는 Gemma 3 27B(VRAM 16GB)가 최고의 선택이며, 코딩 에이전트에서는 GLM-4.7이 HumanEval 94.2%로 우승합니다.

오픈소스 LLM 리더보드가 있나요?

네. 위의 2026년 7월 리더보드는 이 가이드의 8개 모델 전부를 순위 매기며, Hugging Face는 더 넓은 범위의 커뮤니티 운영 Open LLM Leaderboard를 호스팅합니다. MMLU, HumanEval, AIME, SWE-bench 같은 벤치마크로 매월 순위를 재검증합니다.

도구를 선택하는 것은 쉬운 절반입니다. 실제 제품 안에서 안정적으로 실행하는 것이 대부분의 팀이 막히는 곳이며, 이것이 바로 저희 AI 통합 팀이 고객을 위해 구축하는 것입니다. RAG 파이프라인부터 커스텀 에이전트까지요. 스택에 대한 세컨드 오피니언이 필요하신가요? 무료 상담 받기.

출처

• Qwen 3 Technical Report - arXiv
• Meta Llama 4 Official Page
• DeepSeek R1 - Hugging Face
• Gemma 3 - Google DeepMind
• Phi-4 Reasoning Technical Report - Microsoft Research
• Mistral Large 3 Announcement
• GLM-4.7 - Hugging Face
• Open LLM Leaderboard - Hugging Face