๋ฒ ์คํธ
5๊ฐ์ง ์ต๊ณ ์ ์คํ์์ค LLM(2026๋ XNUMX์)

์คํ์์ค AI๋ ํ์์์ค ์์คํ ์ ๋ฐ๋ผ์ก์์ต๋๋ค. ์ด ๋ค์ฏ ๊ฐ์ง ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM) ๋ฐ๋ณต์ ์ธ API ๋น์ฉ์ด๋ ๋ฒค๋ ์ข ์ ์์ด ์ํฐํ๋ผ์ด์ฆ๊ธ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค. ๊ฐ ์๋ฃจ์ ์ ์จ๋๋ฐ์ด์ค ์ถ๋ก ๋ถํฐ ๋๊ท๋ชจ ๋ค๊ตญ์ด ์ง์๊น์ง ๋ค์ํ ์ฌ์ฉ ์ฌ๋ก๋ฅผ ์ฒ๋ฆฌํฉ๋๋ค.
์ด ๊ฐ์ด๋์์๋ GPT-OSS-120B, DeepSeek-R1, Qwen3-235B, LLaMA 4 ๋ฐ Mixtral-8x22B์ ๋ํ ๊ตฌ์ฒด์ ์ธ ๊ธฐ๋ฅ, ๋น์ฉ ๋ฐ ๋ฐฐํฌ ์๊ตฌ ์ฌํญ์ ์ค๋ช ํฉ๋๋ค.
๋น ๋ฅธ ๋น๊ต
| ์๋จ | ์ง์ ๊ธฐ๊ธฐ | ์ด๊ธฐ ๊ฐ๊ฒฉ | ์ฃผ์ ํน์ง |
|---|---|---|---|
| GPT-OSS-120B | ๋จ์ผ GPU ๋ฐฐํฌ | ๋ฌด๋ฃ(์ํ์น 2.0) | 120B ๋งค๊ฐ๋ณ์๋ฅผ ๊ฐ์ง 80GB GPU์์ ์คํ๋ฉ๋๋ค. |
| DeepSeek-R1 | ๋ณต์กํ ์ถ๋ก ๊ณผ์ | ๋ฌด๋ฃ(MIT) | ํฌ๋ช ํ ์ฌ๊ณ ๋ฅผ ํตํ 671B ๋งค๊ฐ๋ณ์ |
| Qwen3-235B | ๋ค๊ตญ์ด ์ ํ๋ฆฌ์ผ์ด์ | ๋ฌด๋ฃ(์ํ์น 2.0) | ํ์ด๋ธ๋ฆฌ๋ ์ฌ๊ณ ๋ฐฉ์์ผ๋ก 119๊ฐ ์ด์์ ์ธ์ด๋ฅผ ์ง์ํฉ๋๋ค. |
| ๋ผ๋ง 4 | ๋ฉํฐ๋ชจ๋ฌ ์ฒ๋ฆฌ | ๋ฌด๋ฃ(์ฌ์ฉ์ ์ ์ ๋ผ์ด์ผ์ค) | 10M ํ ํฐ ์ปจํ ์คํธ ์ฐฝ |
| ๋ฏน์คํธ๋-8x22B | ๋น์ฉ ํจ์จ์ ์ธ ์์ฐ | ๋ฌด๋ฃ(์ํ์น 2.0) | ๊ณ ๋ฐ๋ ๋ชจ๋ธ ๋๋น 75% ์ปดํจํ ์ ๊ฐ |
1. GPT-OSS-120B
OpenAI๋ 2025๋ 8์ GPT-2 ์ดํ ์ฒซ ๋ฒ์งธ ์คํ ์จ์ดํธ ๋ชจ๋ธ์ ์ถ์ํ์ต๋๋ค. GPT-OSS-120B๋ ์ ๋ฌธ๊ฐ ํผํฉ ์ด 117์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฐ์ง์ง๋ง ํ ํฐ๋น ํ์ฑํ๋ ๋งค๊ฐ๋ณ์๋ 5.1์ต ๊ฐ์ ๋ถ๊ณผํ ์ํคํ ์ฒ์ ๋๋ค. ์ด์ฒ๋ผ ํฌ์ํ ์ค๊ณ ๋๋ถ์ ์ฌ๋ฌ GPU ํด๋ฌ์คํฐ๋ฅผ ํ์๋ก ํ์ง ์๊ณ ๋ 80GB GPU ํ๋๋ง์ผ๋ก๋ ์คํํ ์ ์์ต๋๋ค.
์ด ๋ชจ๋ธ์ ํต์ฌ ๋ฒค์น๋งํฌ์์ o4-mini ์ฑ๋ฅ๊ณผ ์ผ์นํฉ๋๋ค. MMLU ํ ์คํธ์์๋ 90%, GPQA ์ถ๋ก ๊ณผ์ ์์๋ ์ฝ 80%์ ์ ํ๋๋ฅผ ๋ฌ์ฑํฉ๋๋ค. ์ฝ๋ ์์ฑ์ 1ํ ํต๊ณผ์จ 62%๋ก, ํ์ํ ์์ค ์ฝ๋์ ๋น๊ตํ์ ๋ ๊ฒฝ์๋ ฅ์ ๊ฐ์ถ๊ณ ์์ต๋๋ค. 128,000๊ฐ์ ํ ํฐ์ผ๋ก ๊ตฌ์ฑ๋ ์ปจํ ์คํธ ์๋์ฐ๋ ์ฒญํน ์์ด ํฌ๊ด์ ์ธ ๋ฌธ์ ๋ถ์์ ์ฒ๋ฆฌํฉ๋๋ค.
OpenAI๋ o3 ๋ฐ ๊ธฐํ ํ๋ก ํฐ์ด ์์คํ ์ ๊ธฐ์ ์ ์ฌ์ฉํ์ฌ ์ด๋ฌํ ๋ชจ๋ธ์ ํ์ต์์ผฐ์ต๋๋ค. ํต์ฌ์ ๊ท๋ชจ๋ณด๋ค๋ ์ค์ง์ ์ธ ๋ฐฐํฌ์์ต๋๋ค. OpenAI๋ ๋ชจ๋ธ๊ณผ ํจ๊ป o200k_harmony ํ ํฌ๋์ด์ ๋ฅผ ์คํ์์ค๋ก ๊ณต๊ฐํ์ฌ ๊ตฌํ ์ ๋ฐ์ ๊ฑธ์ณ ์ ๋ ฅ ์ฒ๋ฆฌ ๋ฐฉ์์ ํ์คํํ์ต๋๋ค.
์ฅ์ ๊ณผ ๋จ์
- ๋จ์ผ 80GB GPU ๋ฐฐํฌ๋ก ๋ค์ค GPU ์ธํ๋ผ ๋น์ฉ ์ ๊ฐ
- ๋ค์ดํฐ๋ธ 128K ์ปจํ ์คํธ ์ฐฝ์ ์ ์ฒด ์ฝ๋๋ฒ ์ด์ค ๋๋ ๊ธด ๋ฌธ์๋ฅผ ์ฒ๋ฆฌํฉ๋๋ค.
- Apache 2.0 ๋ผ์ด์ ์ค๋ ์ ํ ์๋ ์์ ์ ์ฌ์ฉ ๋ฐ ์์ ์ ํ์ฉํฉ๋๋ค.
- PyTorch, Triton ๋ฐ Metal์ ์ฐธ์กฐ ๊ตฌํ์ ํตํฉ์ ๋จ์ํํฉ๋๋ค.
- 90% MMLU ์ ํ๋๋ ์ถ๋ก ๋ฒค์น๋งํฌ์์ ๋ ์ ๋ชจ๋ธ๊ณผ ์ผ์นํฉ๋๋ค.
- ์์ด ์ค์ฌ ๊ต์ก์ ๋์์ ๋นํด ๋ค๊ตญ์ด ๋ฅ๋ ฅ์ ์ ํํฉ๋๋ค.
- 5.1B ํ์ฑ ๋งค๊ฐ๋ณ์๋ ํน์ ์์ ์์ ๊ณ ๋ฐ๋ ๋ชจ๋ธ๋ณด๋ค ์ฑ๋ฅ์ด ๋จ์ด์ง ์ ์์ต๋๋ค.
- ์ต์ 80GB VRAM์ด ํ์ํ๋ฉฐ ์๋น์ ๋ฑ๊ธ GPU ๋ฐฐํฌ๋ ์ ์ธ๋ฉ๋๋ค.
- ์์ง ๋ฆฌ์์ค๊ฐ ์ ํ๋ ํ๊ฒฝ์์ ์ฌ์ฉํ ์ ์๋ ์ ์ ๋ ๋ณํ์ด ์์ต๋๋ค.
- ์ธ๋ฐํ๊ฒ ์กฐ์ ๋ ๋์์ ๋นํด ์ ํ๋ ๋๋ฉ์ธ ์ ๋ฌธํ
๊ฐ๊ฒฉ: GPT-OSS-120B๋ Apache 2.0 ๋ผ์ด์ ์ค๋ก ์ด์๋๋ฉฐ ๋ฐ๋ณต ๋น์ฉ์ด ์์ต๋๋ค. 80GB ๋ชจ๋ธ(NVIDIA A100 ๋๋ H100 GPU)์ ์คํํ ์ ์๋ ํ๋์จ์ด๊ฐ ํ์ํฉ๋๋ค. AWS, Azure ๋๋ GCP์์ ํด๋ผ์ฐ๋๋ฅผ ๊ตฌ์ถํ๋ ๋ฐ๋ ์ ์ ํ ์ธ์คํด์ค ์ ํ์ ๋ฐ๋ผ ์๊ฐ๋น ์ฝ 3~5๋ฌ๋ฌ๊ฐ ์์๋ฉ๋๋ค. ์ ํ ํธ์คํ ๋ฐฐํฌ์๋ ์ผํ์ฑ GPU ๊ตฌ๋งค๊ฐ ํ์ํฉ๋๋ค(์ค๊ณ A100์ ๊ฒฝ์ฐ ์ฝ 10,000~15,000๋ฌ๋ฌ).
๊ตฌ๋ ๋ฃ ์์, API ์ ํ ์์, ๊ณต๊ธ์ ์ฒด ์ข ์ ์์
2. DeepSeek-R1
DeepSeek-R1์ ํฌ๋ช ์ถ๋ก ์ ์ํด ํน๋ณํ ๋ชจ๋ธ์ ๊ตฌ์ถํ์ต๋๋ค. ์ด ์ํคํ ์ฒ๋ ์ด 671์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ์ฌ์ฉํ๋ฉฐ, ์๋ฐฉํฅ ํจ์ค๋น 37์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๊ฐ ํ์ฑํ๋ฉ๋๋ค. ํ๋ จ์ ๊ธฐ์กด์ ์ง๋ ํ์ต ๋ฏธ์ธ ์กฐ์ ๊ณผ์ ์์ด ๊ฐํ ํ์ต์ ์ค์ ์ ๋์ด, ์ถ๋ก ํจํด์ด ๊ฐํ ํ์ต ๊ณผ์ ์์ ์์ฐ์ค๋ฝ๊ฒ ๋์ถ๋๋๋ก ํ์ต๋๋ค.
์ด ๋ชจ๋ธ์ MATH-500 ํ๊ฐ์์ 97%์ ์ ํ๋๋ฅผ ๋ฌ์ฑํ๋ฉฐ, ๋ณต์กํ ์ถ๋ก ๊ณผ์ ์์๋ OpenAI์ o1๊ณผ ์ ์ฌํ ์ฑ๋ฅ์ ๋ณด์ ๋๋ค. DeepSeek-R1์ ๊ฐ์ฅ ํฐ ํน์ง์ ์ฌ๊ณ ๊ณผ์ ์ ๊ด์ฐฐํ ์ ์๋ค๋ ๊ฒ์ ๋๋ค. ์ด ๋ชจ๋ธ์ ์ต์ข ๊ฒฐ๊ณผ๋ง ๋ณด์ฌ์ฃผ๋ ๊ฒ์ด ์๋๋ผ ๋จ๊ณ๋ณ ๋ ผ๋ฆฌ๋ฅผ ๋ณด์ฌ์ค๋๋ค. ์ด๋ฌํ ํฌ๋ช ์ฑ์ ์ฌ๋ฌด ๋ถ์์ด๋ ์์ง๋์ด๋ง ๊ฒ์ฆ๊ณผ ๊ฐ์ด ์ถ๋ก ๊ณผ์ ์ ๊ฒ์ฆํด์ผ ํ๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ค์ํฉ๋๋ค.
DeepSeek์ ๊ธฐ๋ณธ ๋ชจ๋ธ๊ณผ ํจ๊ป 6๊ฐ์ ์ฆ๋ฅ ๋ฒ์ ์ ์ถ์ํ์ต๋๋ค. ์ด ๋ฒ์ ์ 1.5์ต ๊ฐ์์ 70์ต ๊ฐ์ ๋ฌํ๋ ๋งค๊ฐ๋ณ์๋ฅผ ์ง์ํ๋ฉฐ, ๊ณ ๊ธ ์๋น์์ฉ GPU๋ถํฐ ์ฃ์ง ๊ธฐ๊ธฐ๊น์ง ๋ค์ํ ํ๋์จ์ด์์ ์คํ๋ฉ๋๋ค. Qwen-32B ์ฆ๋ฅ ๋ฒ์ ์ ๋ฒค์น๋งํฌ์์ 1-mini๋ณด๋ค ํจ์ฌ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ฐํํ๋ฉด์๋ ํจ์ฌ ์ ์ ์ปดํจํ ์์์ ์๊ตฌํฉ๋๋ค.
์ฅ์ ๊ณผ ๋จ์
- 97% MATH-500 ์ ํ๋๋ ์ํ์ ์ถ๋ก ์ ์์ด ์คํ ์์ค ๋ชจ๋ธ์ ์ ๋ํฉ๋๋ค.
- ํฌ๋ช ํ ์ฌ๊ณ ๊ณผ์ ์ ํตํด ๊ฒ์ฆ ๋ฐ ๋๋ฒ๊น ์ด ๊ฐ๋ฅํฉ๋๋ค.
- 671B ๋งค๊ฐ๋ณ์ ์ค์ผ์ผ์ ์ฌ์ธต์ ์ธ ๋ถ์ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- 6๊ฐ์ง ์ ์ ๋ ๋ณํ์ ํตํด ํ๋์จ์ด ๊ตฌ์ฑ ์ ๋ฐ์ ๋ฐฐํฌ ๊ฐ๋ฅ
- MIT ๋ผ์ด์ ์ค๋ ์ ํ ์๋ ์์ ์ ์ฌ์ฉ์ ํ์ฉํฉ๋๋ค.
- 671B ๋งค๊ฐ๋ณ์์๋ ์ ์ฒด ๋ชจ๋ธ ๋ฐฐํฌ๋ฅผ ์ํ ์๋นํ ์ธํ๋ผ๊ฐ ํ์ํฉ๋๋ค.
- ์ถ๋ก ๋ชจ๋๋ ์ง์ ๋ต๋ณ ์์ฑ์ ๋นํด ๋๊ธฐ ์๊ฐ์ ์ฆ๊ฐ์ํต๋๋ค.
- ์์ด์ ์ต์ ํ๋ ๊ต์ก์ ๋ค๋ฅธ ์ธ์ด์์์ ์ฑ๋ฅ์ ์ ํํฉ๋๋ค.
- ๊ฐํ ํ์ต ์ ๊ทผ ๋ฐฉ์์ ์์ธํ ์ค๋ช ์ ์์ฑํ ์ ์์ต๋๋ค.
- ์ปค๋ฎค๋ํฐ ํด๋ง์ ๊ธฐ์กด ๋ชจ๋ธ์ ๋นํด ์์ง ์ฑ์ ๋จ๊ณ์ ์์ต๋๋ค.
๊ฐ๊ฒฉ: DeepSeek-R1์ MIT ๋ผ์ด์ ์ค๋ก ์ถ์๋๋ฉฐ ์ฌ์ฉ๋ฃ๋ ์์ต๋๋ค. ์ ์ฒด 671B ๋ชจ๋ธ์ ์ต์ 8๊ฐ์ A100 GPU๊ฐ ํ์ํฉ๋๋ค(ํด๋ผ์ฐ๋ ๋น์ฉ: ์๊ฐ๋น ์ฝ 25~30๋ฌ๋ฌ). ์ ์ ๋ ๋ชจ๋ธ์ ํจ์ฌ ์ ๋ ดํ๊ฒ ๊ตฌ๋๋ฉ๋๋ค. 32B ๋ชจ๋ธ์ ๋จ์ผ A100๋ง ์์ผ๋ฉด ๋ฉ๋๋ค(ํด๋ผ์ฐ๋ ๋น์ฉ: ์๊ฐ๋น ์ฝ 3~5๋ฌ๋ฌ, ํ๋์จ์ด ๊ตฌ๋งค ๋น์ฉ: ์ฝ 10,000๋ฌ๋ฌ). 7B ๋ฒ์ ์ ์ผ๋ฐ ์๋น์์ฉ RTX 4090 GPU์์ ์คํ๋ฉ๋๋ค.
DeepSeek์ ํ ์คํธ์ฉ API ์ก์ธ์ค๋ฅผ ๋ฌด๋ฃ๋ก ์ ๊ณตํ๋ฉฐ, ์๋ ์ ํ์ด ์์ต๋๋ค. ํ๋ก๋์ ๋ฐฐํฌ์๋ ์ ํ ํธ์คํ ๋๋ ํด๋ผ์ฐ๋ ์ธํ๋ผ๊ฐ ํ์ํฉ๋๋ค.
3. Qwen3-235B
์๋ฆฌ๋ฐ๋ฐ์ Qwen3-235B๋ ์คํ์์ค ๋ชจ๋ธ์ ํ์ด๋ธ๋ฆฌ๋ ์ฌ๊ณ ๋ฐฉ์์ ์ ์ฉํฉ๋๋ค. ์ฌ์ฉ์๋ ์์ ๋ณต์ก์ฑ์ ๋ฐ๋ผ ์ถ๋ก ๋ ธ๋ ฅ ์์ค(๋ฎ์, ์ค๊ฐ, ๋์)์ ์กฐ์ ํ ์ ์์ต๋๋ค. ์ ์ํ ๊ณ ๊ฐ ์๋น์ค ๋์์ด ํ์ํ์ ๊ฐ์? ๋ฎ์ ์ฌ๊ณ ๋ชจ๋๊ฐ ๋น ๋ฅธ ๋ต๋ณ์ ์ ๊ณตํฉ๋๋ค. ๋ณต์กํ ๋ฐ์ดํฐ ๋ถ์์ ์คํํ์๋์? ๋์ ์ฌ๊ณ ๋ชจ๋๊ฐ ์ฒด๊ณ์ ์ธ ์ถ๋ก ์ ์ ์ฉํฉ๋๋ค.
์ด ์ํคํ ์ฒ๋ ์ด 235์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ์ฌ์ฉํ๋ฉฐ, ๊ทธ์ค 22์ต ๊ฐ๊ฐ 94๊ฐ ๊ณ์ธต์ ๊ฑธ์ณ ํ์ฑํ๋ฉ๋๋ค. ๊ฐ ๊ณ์ธต์ 128๋ช ์ ์ ๋ฌธ๊ฐ๋ก ๊ตฌ์ฑ๋๋ฉฐ, ํ ํฐ๋น 8๋ช ์ด ํ์ฑํ๋ฉ๋๋ค. ์ด๋ฌํ ์ ๋ฌธ๊ฐ ์ ํ์ ์ฑ๋ฅ์ ์ ์งํ๋ฉด์ ํจ์จ์ ์ธ ์ฒ๋ฆฌ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค. ์ด ๋ชจ๋ธ์ 119๊ฐ ์ธ์ด์ ๊ฑธ์ณ 10์ต ๊ฐ ์ด์์ ํ ํฐ์ ์ฌ์ฉํ์ฌ ํ์ต๋์์ผ๋ฉฐ, ์ด๋ ์ด์ Qwen ๋ฒ์ ๋ณด๋ค 1๋ฐฐ ๋ ๋ง์ ๋ค๊ตญ์ด ๋ฐ์ดํฐ๋ฅผ ๋ํ๋ ๋๋ค.
์ฑ๋ฅ์ 87-88%์ MMLU ์ ํ๋์ ๊ฐ๋ ฅํ ๋ค๊ตญ์ด ๋ฒค์น๋งํฌ๋ฅผ ์๋ํฉ๋๋ค. ์ด ๋ชจ๋ธ์ ์์์, ์ ๋ฝ ๋ฐ ๊ธฐํ ์์ฅ์ C-Eval ๋ฐ ์ง์ญ๋ณ ํ๊ฐ์์ ํ์ํ ์ฑ๊ณผ๋ฅผ ๋ณด์์ต๋๋ค. ์ฝ๋ ์์ฑ์ 37%์ ์ ๋ก์ท์ ๊ธฐ๋กํ์ง๋ง, ๋ณต์กํ ํ๋ก๊ทธ๋๋ฐ ์์ ์ ์ํด ์ฌ๊ณ ๋ชจ๋๋ฅผ ํ์ฑํํ๋ฉด ์๋นํ ๊ฐ์ ํจ๊ณผ๋ฅผ ๋ณด์ ๋๋ค.
์ฅ์ ๊ณผ ๋จ์
- 119๊ฐ ์ด์์ ์ธ์ด ์ง์์ ํตํด ์ธ์ด ์ฅ๋ฒฝ ์์ด ๊ธ๋ก๋ฒ ๋ฐฐํฌ๊ฐ ๊ฐ๋ฅํฉ๋๋ค.
- ํ์ด๋ธ๋ฆฌ๋ ์ฌ๊ณ ์ ์ด๋ ์์ฒญ๋น ๋น์ฉ ์ฑ๋ฅ ๊ท ํ์ ์ต์ ํํฉ๋๋ค.
- 128K ํ ํฐ ์ปจํ ์คํธ๋ ๊ด๋ฒ์ํ ๋ฌธ์ ๋ถ์์ ์ฒ๋ฆฌํฉ๋๋ค.
- Apache 2.0 ๋ผ์ด์ผ์ค๋ ์์ ์ ์์ ์ ํ์ฉํฉ๋๋ค.
- 87% MMLU ์ฑ๋ฅ์ ์ ๋์ ์ธ ๋ ์ ์์คํ ๊ณผ ๊ฒฝ์ํฉ๋๋ค.
- 235B ๋งค๊ฐ๋ณ์์๋ ํ๋ก๋์ ๋ฐฐํฌ๋ฅผ ์ํ ๋ค์ค GPU ์ค์ ์ด ํ์ํฉ๋๋ค.
- 37%์ ์ฝ๋ ์์ฑ ๊ธฐ์ค์ ์ด ํน์ ์ฝ๋ฉ ๋ชจ๋ธ์ ๋ค์ฒ์ง
- ์ฌ๊ณ ๋ชจ๋ ์ ํ์ ์ ํ๋ฆฌ์ผ์ด์ ๋ก์ง์ ๋ณต์ก์ฑ์ ๋ํฉ๋๋ค.
- ์ค๊ตญ์ด ํธํฅ์ ์ค๊ตญ์ด์ ๋ํ ์ฑ๊ณผ๊ฐ ๋ค๋ฅธ ์ธ์ด์ ๋นํด ๋ ๊ฐํจ์ ๋ณด์ฌ์ค๋๋ค.
- LLaMA ์ํ๊ณ์ ๋นํด ์ ํ๋ ์ปค๋ฎค๋ํฐ ํด๋ง
๊ฐ๊ฒฉ: Qwen3-235B๋ Apache 2.0 ๋ผ์ด์ ์ค๋ฅผ ๋ฌด๋ฃ๋ก ์ฌ์ฉํฉ๋๋ค. ์ ์ฒด ๋ชจ๋ธ์ ์์ํ ๋ฐฉ์์ ๋ฐ๋ผ A100 GPU 4~8๊ฐ๊ฐ ํ์ํฉ๋๋ค(ํด๋ผ์ฐ๋: ์๊ฐ๋น ์ฝ 15~30๋ฌ๋ฌ). Alibaba Cloud๋ ํ ํฐ๋น ์๊ธ์ ๋ก ๊ด๋ฆฌํ ์๋ํฌ์ธํธ๋ฅผ ์ ๊ณตํ๋ฉฐ, ์ฌ๊ณ ๋ชจ๋๋ ํ ํฐ 1๊ฐ๋น 0.002๋ฌ๋ฌ, ํ์ค ๋ชจ๋๋ ํ ํฐ 1๊ฐ๋น 0.0003๋ฌ๋ฌ๋ถํฐ ์์ํฉ๋๋ค.
๋ ์์ Qwen3 ๋ชจ๋ธ(7B, 14B, 72B)์ ์ผ๋ฐ ์๋น์์ฉ ํ๋์จ์ด์์ ์คํ๋ฉ๋๋ค. 7B ๋ชจ๋ธ์ 24GB ์ผ๋ฐ ์๋น์์ฉ GPU์์ ์๋ํฉ๋๋ค.
4. ๋ผ๋ง 4
Meta์ LLaMA 4๋ ํ ์คํธ, ์ด๋ฏธ์ง, ์งง์ ๋น๋์ค ์ ๋ฐ์ ๊ฑธ์ณ ๋ค์ดํฐ๋ธ ๋ฉํฐ๋ชจ๋ฌ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. Scout ๋ฒ์ ์ 109์ต ๊ฐ์ ๋งค๊ฐ๋ณ์์ 17์ต ๊ฐ์ ํ์ฑ ๋งค๊ฐ๋ณ์๋ฅผ ํฌํจํ๋ ๋ฐ๋ฉด, Maverick์ ์ ๋ฌธํ๋ ์์ ์ ์ํด ๋ ํฐ ์ ๋ฌธ๊ฐ ํ์ ์ฌ์ฉํฉ๋๋ค. ๋ ๋ฒ์ ๋ชจ๋ ์ด๊ธฐ ํจ์ ๊ธฐ์ ์ ํตํด ์ฌ๋ฌ ์ฝํ ์ธ ์ ํ์ ์ฒ๋ฆฌํ์ฌ ๋ชจ๋ฌ๋ฆฌํฐ๋ฅผ ํตํฉ๋ ํํ์ผ๋ก ํตํฉํฉ๋๋ค.
์ปจํ ์คํธ ์ฒ๋ฆฌ๊ฐ ์๋ก์ด ์์ค์ ๋๋ฌํ์ต๋๋ค. LLaMA 4 Scout๋ ๊ด๋ฒ์ํ ๋ฌธ์ ๋ถ์ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ํด ์ต๋ 1์ฒ๋ง ๊ฐ์ ํ ํฐ์ ์ง์ํฉ๋๋ค. ํ์ค ์ปจํ ์คํธ๋ 12๋ง 8์ฒ ๊ฐ์ ํ ํฐ์ผ๋ก, ๋๋ถ๋ถ์ ์ฌ์ฉ ์ฌ๋ก์์ ์ด๋ฏธ ์๋นํ ๊ท๋ชจ์ ๋๋ค. ์ด ๋ชจ๋ธ์ LLaMA 3 ํ๋ จ ๊ตฌ์ฑ์ ๋ ๋ฐฐ์ธ 30์กฐ ๊ฐ ์ด์์ ํ ํฐ์ผ๋ก ์ฌ์ ํ์ต๋์์ต๋๋ค.
์ฑ๋ฅ ๋ฒค์น๋งํฌ ๊ฒฐ๊ณผ, LLaMA 4๋ ์ฝ๋ฉ, ์ถ๋ก ๋ฐ ๋ค๊ตญ์ด ํ ์คํธ์์ GPT-4o์ Gemini 2.0 Flash๋ณด๋ค ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์์ต๋๋ค. Meta๋ ๋ชจ๋ธ ๊ท๋ชจ์ ๋ฐ๋ผ ํ์ดํผํ๋ผ๋ฏธํฐ๋ฅผ ์์ ์ ์ผ๋ก ์ค์ ํ๋ ๊ธฐ์ ์ธ MetaP๋ฅผ ๊ฐ๋ฐํ์ต๋๋ค. ์ด๋ฅผ ํตํด ํ์ต๋ ํ๋ผ๋ฏธํฐ๋ฅผ ๋ค์ํ ๊ตฌ์ฑ์ผ๋ก ์ ํํ ๋ ์ผ๊ด๋ ์ฑ๋ฅ์ ์ ์งํ ์ ์์ต๋๋ค.
์ฅ์ ๊ณผ ๋จ์
- 10M ํ ํฐ ์ปจํ ์คํธ ์ฐฝ์ ํตํด ์ ์ฒด ์ฝ๋๋ฒ ์ด์ค ๋๋ ๋ฐ์ดํฐ ์ธํธ๋ฅผ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค.
- ๋ค์ดํฐ๋ธ ๋ฉํฐ๋ชจ๋ฌ ์ฒ๋ฆฌ๋ก ํ ์คํธ, ์ด๋ฏธ์ง, ๋น๋์ค ์ ๋ ฅ์ ์ฒ๋ฆฌํฉ๋๋ค.
- 30T ํ ํฐ ๊ต์ก์ ํฌ๊ด์ ์ธ ์ง์ ๋ฒ์๋ฅผ ์ ๊ณตํฉ๋๋ค.
- ์ฃ์ง ๋ฐฐํฌ๋ถํฐ ๋ฐ์ดํฐ ์ผํฐ ํ์ฅ๊น์ง ๋ค์ํ ํฌ๊ธฐ ๋ณํ
- ์ฝ๋ฉ ๋ฐ ์ถ๋ก ๋ฒค์น๋งํฌ์์ GPT-4o๋ณด๋ค ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์ ๋๋ค.
- ๋๊ท๋ชจ ๋ฐฐํฌ๋ฅผ ์ํด์๋ ๋ง์ถคํ ์์ฉ ๋ผ์ด์ ์ค ๊ฒํ ๊ฐ ํ์ํฉ๋๋ค.
- ๋ฉํฐ๋ชจ๋ฌ ํจ์ ์ ๋ฐฐํฌ ํ์ดํ๋ผ์ธ์ ๋ณต์ก์ฑ์ ๋ํฉ๋๋ค.
- ์ต์ ํ๋ฅผ ํ๋๋ผ๋ 10M ์ปจํ ์คํธ์๋ ์๋นํ ๋ฉ๋ชจ๋ฆฌ๊ฐ ํ์ํฉ๋๋ค.
- ๋ชจ๋ธ ํฌ๊ธฐ ๋ณํ๋ก ์ธํด ์ด๋ค ๋ณํ์ ์ฌ์ฉํ ์ง ํผ๋์ค๋ฌ์์ง๋๋ค.
- ์ต์ ๊ธฐ๋ฅ์ ๋ํ ๋ฌธ์๊ฐ ๊ณ์ ๋์ค๊ณ ์์ต๋๋ค.
๊ฐ๊ฒฉ: LLaMA 4๋ Meta์ ๋ง์ถคํ ์์ฉ ๋ผ์ด์ ์ค(๋๋ถ๋ถ์ ๊ฒฝ์ฐ ๋ฌด๋ฃ, 700์ต ๋ช ์ด์ ์ฌ์ฉ์ ์๋น์ค ์ ํ)๋ฅผ ์ฌ์ฉํฉ๋๋ค. Scout ๋ฒ์ ์ H100 GPU 2~4๊ฐ(ํด๋ผ์ฐ๋: ์๊ฐ๋น ์ฝ 10~20๋ฌ๋ฌ)๊ฐ ํ์ํฉ๋๋ค. Maverick์ H100 GPU 4~8๊ฐ(์๊ฐ๋น ์ฝ 20~40๋ฌ๋ฌ)๊ฐ ํ์ํฉ๋๋ค. Meta๋ ํ๋ซํผ์ ํตํด ์๋ ์ ํ์ด ์๋ ๋ฌด๋ฃ API ์ก์ธ์ค๋ฅผ ์ ๊ณตํฉ๋๋ค.
์ํ LLaMA ๋ชจ๋ธ์ ์๋น์์ฉ ํ๋์จ์ด์์ ์คํ๋ฉ๋๋ค. 8B ๋ชจ๋ธ์ 16GB GPU์์ ์๋ํฉ๋๋ค. ์ํฐํ๋ผ์ด์ฆ ๋ฐฐํฌ ์์๋ Meta์ ์ง์ ๋ผ์ด์ ์ค ํ์์ด ๊ฐ๋ฅํฉ๋๋ค.
5. ๋ฏน์คํธ๋-8x22B
Mistral AI์ Mixtral-8x22B๋ ๋๊ธ ๊ณ ๋ฐ๋ ๋ชจ๋ธ ๋๋น 75%์ ์ฐ์ฐ ์ ๊ฐ ํจ๊ณผ๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ ๋ฌธ๊ฐ ํผํฉ ์ค๊ณ๋ 220์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฐ์ง 8๊ฐ์ ์ ๋ฌธ๊ฐ๋ฅผ ํฌํจํ๋ฉฐ, ์ด 1,410์ต ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฐ์ง๋ง, ์ถ๋ก ๊ณผ์ ์์ ํ์ฑํ๋๋ ๋งค๊ฐ๋ณ์๋ 390์ต ๊ฐ์ ๋ถ๊ณผํฉ๋๋ค. ์ด๋ฌํ ํฌ์ ํ์ฑํ ๋ฐฉ์์ 700์ต ๊ฐ์ ๊ณ ๋ฐ๋ ๋ชจ๋ธ๋ณด๋ค ๋น ๋ฅธ ์๋๋ก ์คํ๋๋ฉด์๋ ํ์ํ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
์ด ๋ชจ๋ธ์ ์ ๊ตํ ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ์ ์ํ ๋ค์ดํฐ๋ธ ํจ์ ํธ์ถ์ ์ง์ํฉ๋๋ค. ์ฌ์ฉ์ ์ง์ ํตํฉ ๊ณ์ธต ์์ด ์์ฐ์ด ์ธํฐํ์ด์ค๋ฅผ API ๋ฐ ์ํํธ์จ์ด ์์คํ ์ ์ง์ ์ฐ๊ฒฐํ ์ ์์ต๋๋ค. 64,000๊ฐ์ ํ ํฐ์ผ๋ก ๊ตฌ์ฑ๋ ์ปจํ ์คํธ ์ฐฝ์ ํ์ฅ๋ ๋ํ์ ํฌ๊ด์ ์ธ ๋ฌธ์ ๋ถ์์ ์ฒ๋ฆฌํฉ๋๋ค.
์์ด, ํ๋์ค์ด, ์ดํ๋ฆฌ์์ด, ๋ ์ผ์ด, ์คํ์ธ์ด์์ ๋ค๊ตญ์ด ์ฑ๋ฅ์ด ๋๋๋ฌ์ง๋๋ค. Mistral์ ์ ๋ฝ ์ธ์ด์ ํนํ๋์ด ์ธ์ด ๋ฒ์๊ฐ ๋์ง๋ง ์์ ๋ชจ๋ธ๋ณด๋ค ๋ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์์ต๋๋ค. ์ํ์ ์ถ๋ก ์ GSM8K์์ 90.8%๋ฅผ ๊ธฐ๋กํ์ผ๋ฉฐ, ์ฝ๋ฉ์ HumanEval ๋ฐ MBPP ๋ฒค์น๋งํฌ์์ ์ฐ์ํ ๊ฒฐ๊ณผ๋ฅผ ๋ณด์์ต๋๋ค.
์ฅ์ ๊ณผ ๋จ์
- ๊ณ ๋ฐ๋ ๋ชจ๋ธ ๋๋น 75% ์ปดํจํ ๊ฐ์๋ก ์ธํ๋ผ ๋น์ฉ ์ ๊ฐ
- ๋ค์ดํฐ๋ธ ํจ์ ํธ์ถ๋ก API ํตํฉ์ด ๊ฐ์ํ๋ฉ๋๋ค.
- ๋ค๊ตญ์ด ์ ํ๋ฆฌ์ผ์ด์ ์ ์ํ ๊ฐ๋ ฅํ ์ ๋ฝ ์ธ์ด ์ง์
- 90.8% GSM8K ์ ํ๋๋ก ๊ฒฌ๊ณ ํ ์ํ์ ์ถ๋ก ์ ๊ณต
- Apache 2.0 ๋ผ์ด์ ์ค๋ ์ ํ ์๋ ์์ ์ ์ฌ์ฉ์ ํ์ฉํฉ๋๋ค.
- 128K+ ์ฐฝ์ ์ ๊ณตํ๋ ๊ฒฝ์์ฌ๋ณด๋ค 64K ์ปจํ ์คํธ๊ฐ ๋ ์งง์ต๋๋ค.
- ์ ๋ฝ โโ์ธ์ด์ ์ง์คํ๋ฉด ์์์ ์ธ์ด ์ฑ๊ณผ๊ฐ ์ฝํด์ง๋ค
- 39B ํ์ฑ ๋งค๊ฐ๋ณ์๋ ๋ณต์กํ ์ถ๋ก ์์ ์ ๊ธฐ๋ฅ์ ์ ํํ ์ ์์ต๋๋ค.
- ์ ๋ฌธ๊ฐ ๋ผ์ฐํ ๋ ผ๋ฆฌ๋ก ์ธํด ๋ฐฐํฌ ๋ณต์ก์ฑ์ด ์ฆ๊ฐํฉ๋๋ค.
- LLaMA ์ํ๊ณ์ ๋นํด ์ปค๋ฎค๋ํฐ๊ฐ ์์
๊ฐ๊ฒฉ: Mixtral-8x22B๋ Apache 2.0 ๋ผ์ด์ ์ค์ ๋ฐ๋ผ ์ด์๋๋ฉฐ ์์๋ฃ๊ฐ ์์ต๋๋ค. ํ๋ก๋์ ์๋ A100 GPU 2~4๊ฐ๊ฐ ํ์ํฉ๋๋ค(ํด๋ผ์ฐ๋: ์๊ฐ๋น ์ฝ 10~15๋ฌ๋ฌ). Mistral์ ์ ๋ ฅ ํ ํฐ 100๋ง ๊ฐ๋น 2๋ฌ๋ฌ, ์ถ๋ ฅ ํ ํฐ 100๋ง ๊ฐ๋น 6๋ฌ๋ฌ์ ๊ด๋ฆฌํ API ์ก์ธ์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ ํ ํธ์คํ ์ ํตํด ์ด๊ธฐ ํ๋์จ์ด ํฌ์ ํ ํ ํฐ๋น ๋น์ฉ์ด ๋ฐ์ํ์ง ์์ต๋๋ค.
์์ํ๋ ๋ฒ์ ์ ํ์ฉ ๊ฐ๋ฅํ ์ฑ๋ฅ ์ ํ๋ฅผ ๊ฐ์ํ๋ฉฐ ๋จ์ผ A100์์ ์คํ๋ฉ๋๋ค. ์ด ๋ชจ๋ธ์ ํจ์จ์ฑ์ ๋๋ ์์ฐ ์ํฌ๋ก๋์ ๋น์ฉ ํจ์จ์ ์ ๋๋ค.
์ด๋ค ๋ชจ๋ธ์ ์ ํํด์ผ ํ ๊น์?
ํ๋์จ์ด์ ๋ฐ๋ผ ์ฆ๊ฐ์ ์ธ ์ต์ ์ด ๋ฌ๋ผ์ง๋๋ค. GPT-OSS-120B๋ 80GB GPU 1๊ฐ์ ์ ํฉํ๋ฏ๋ก ์ด๋ฏธ A100 ์ธํ๋ผ๋ฅผ ์ฌ์ฉํ๊ณ ์๋ค๋ฉด ์ฝ๊ฒ ์ฌ์ฉํ ์ ์์ต๋๋ค. DeepSeek-R1์ ์ ์ ๋ ๋ฒ์ ์ ๋ฆฌ์์ค ์ ์ฝ ์กฐ๊ฑด์ ์ฒ๋ฆฌํฉ๋๋ค. 7B ๋ชจ๋ธ์ ๊ฐ๋ ฅํ ์ถ๋ก ์ฑ๋ฅ์ ์ ์งํ๋ฉด์ ์๋น์์ฉ ํ๋์จ์ด์์ ์คํ๋ฉ๋๋ค.
๋ค๊ตญ์ด ์๊ตฌ ์ฌํญ์ ๊ด๋ฒ์ํ ์ธ์ด ์ง์์ ๊ฒฝ์ฐ Qwen3-235B, ํนํ ์ ๋ฝ ์ธ์ด ์ง์์ ๊ฒฝ์ฐ Mixtral-8x22B๋ฅผ ๊ถ์ฅํฉ๋๋ค. 128๊ฐ ํ ํฐ ์ด์์ ๋ค์ค ๋ชจ๋ ๊ธฐ๋ฅ์ด๋ ํ์ฅ๋ ์ปจํ ์คํธ ์ฐฝ์ด ํ์ํ ๊ฒฝ์ฐ LLaMA 4๊ฐ ์ ํฉํฉ๋๋ค.
๋น์ฉ์ ๋ฏผ๊ฐํ ๊ตฌ์ถ ํ๊ฒฝ์์๋ Mixtral-8x22B๊ฐ ํ๋ก๋์ ์ํฌ๋ก๋์ ์ ํฉํฉ๋๋ค. 75%์ ์ปดํจํ ๋น์ฉ ์ ๊ฐ ํจ๊ณผ๋ ํ์ฅ ์ ๋น ๋ฅด๊ฒ ์ฆ๊ฐํฉ๋๋ค. ํนํ ์์ฌ ๊ฒฐ์ ๋ ผ๋ฆฌ๋ฅผ ๊ฒ์ฆํด์ผ ํ ๋ DeepSeek-R1์ ํฌ๋ช ํ ์ถ๋ก ๊ธฐ๋ฅ์ ์ฐ๊ตฌ ๊ฐ๋ฐ์ ํฐ ๋์์ด ๋ฉ๋๋ค.
๋ค์ฏ ๊ฐ์ง ๋ชจ๋ธ ๋ชจ๋ ํ์ฉ ๋ผ์ด์ ์ค๋ก ์ด์๋ฉ๋๋ค. API ๋น์ฉ์ด ๋ฐ๋ณต๋์ง ์์ผ๋ฉฐ, ๊ณต๊ธ์ ์ฒด ์ข ์์ฑ๋ ์์ต๋๋ค. ๋ฐฐํฌ, ๋ฐ์ดํฐ ๊ฐ์ธ์ ๋ณด ๋ณดํธ ๋ฐ ๋ชจ๋ธ ์์ ์ ์ฌ์ฉ์๊ฐ ์ง์ ์ ์ดํ ์ ์์ต๋๋ค. ์คํ์์ค AI ํ๊ฒฝ์ ํ์ํ ์์คํ ๊ณผ ๋๋ฑํ ์์ค์ ๋๋ฌํ์ต๋๋ค. ์ด๋ฌํ ๋๊ตฌ๋ ๊ธฐ์ ์ ์ ์ฝ ์์ด ์ํฐํ๋ผ์ด์ฆ๊ธ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
์ด๋ฌํ ์คํ ์์ค LLM์ ์คํํ๋ ค๋ฉด ์ด๋ค ํ๋์จ์ด๊ฐ ํ์ํฉ๋๊น?
์ต์ ์๊ตฌ ์ฌํญ์ ๋ชจ๋ธ๋ง๋ค ๋ค๋ฆ ๋๋ค. GPT-OSS-120B๋ 80GB GPU(A100 ๋๋ H100) 1๊ฐ๊ฐ ํ์ํฉ๋๋ค. DeepSeek-R1์ ์ ์ ๋ฒ์ ์ A100 8๊ฐ๊ฐ ํ์ํ์ง๋ง, ์ผ๋ถ ๋ฒ์ ์ RTX 4090์์ ์คํ๋ฉ๋๋ค. Qwen3-235B์ LLaMA 4๋ ์์ํ ๋ฐฉ์์ ๋ฐ๋ผ GPU 2~8๊ฐ๊ฐ ํ์ํฉ๋๋ค. Mixtral-8x22B๋ A100 2~4๊ฐ์์ ํจ์จ์ ์ผ๋ก ์คํ๋ฉ๋๋ค. ํด๋ผ์ฐ๋ ๋ฐฐํฌ ๋น์ฉ์ ๋ชจ๋ธ ํฌ๊ธฐ์ ๋ฐ๋ผ ์๊ฐ๋น 3~40๋ฌ๋ฌ์ ๋๋ค.
์ด ๋ชจ๋ธ์ด GPT-4๋ Claude์ ์ฑ๋ฅ๊ณผ ๋ง๋จน๋๊ฐ์?
๋ค, ํน์ ๋ฒค์น๋งํฌ์์๋ ๊ทธ๋ ์ต๋๋ค. DeepSeek-R1์ ์ถ๋ก ์์ ์์ OpenAI o1๊ณผ ๋๋ฑํ๋ฉฐ MATH-500 ์ ํ๋๋ 97%์ ๋๋ค. LLaMA 4๋ ์ฝ๋ฉ ๋ฒค์น๋งํฌ์์ GPT-4o๋ณด๋ค ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์ ๋๋ค. GPT-OSS-120B๋ ๋ ์ ์์คํ ๊ณผ ๋น์ทํ 90%์ MMLU ์ ํ๋๋ฅผ ๋ฌ์ฑํฉ๋๋ค. ๊ทธ๋ฌ๋ ํ์ํ ์์ค ๋ชจ๋ธ์ ์ฐฝ์์ด๋ ๋ฏธ๋ฌํ ๋ํ์ ๊ฐ์ ํน์ ๋ถ์ผ์์๋ ํ์ํ ์ฑ๋ฅ์ ๋ณด์ผ ์ ์์ต๋๋ค.
์ด๋ค ๋ชจ๋ธ์ด ์ฌ๋ฌ ์ธ์ด๋ฅผ ๊ฐ์ฅ ์ ์ฒ๋ฆฌํฉ๋๊น?
Qwen3-235B๋ ๊ฒฝ์์ฌ๋ณด๋ค 10๋ฐฐ ๋ ๋ง์ ๋ค๊ตญ์ด ํ์ต ๋ฐ์ดํฐ๋ฅผ ํตํด 119๊ฐ ์ด์์ ์ธ์ด๋ฅผ ์ง์ํฉ๋๋ค. ์์์ ์ธ์ด ๋ฒค์น๋งํฌ ๋ฐ ๋ฌธํ ์ง์ ํ ์คํธ์์ ํ์ํ ์ฑ๋ฅ์ ๋ณด์ ๋๋ค. Mixtral-8x22B๋ ์ ๋ฌธ ํ์ต์ ํตํด ์ ๋ฝ ์ธ์ด(ํ๋์ค์ด, ๋ ์ผ์ด, ์คํ์ธ์ด, ์ดํ๋ฆฌ์์ด)๋ฅผ ์ ๋ํฉ๋๋ค. ๋ค๋ฅธ ๋ชจ๋ธ๋ค์ ๋ค์ํ ๋ค๊ตญ์ด ์ง์์ ์ ๊ณตํ์ง๋ง ์ฃผ๋ก ์์ด์ ์ต์ ํ๋์ด ์์ต๋๋ค.
ํ๋์จ์ด ์ธ์ ์ฌ์ฉ ๋น์ฉ์ด ์์ต๋๊น?
Apache 2.0 ๋๋ MIT ๋ผ์ด์ ์ค์ ๋ฐ๋ฅธ ์ ํ ํธ์คํ ๋ฐฐํฌ์๋ ์ ๊ธฐ์ ์ธ ์๊ธ์ด ๋ถ๊ณผ๋์ง ์์ต๋๋ค. LLaMA 4๋ ๋๋ถ๋ถ์ ์ฉ๋์ ๋ฌด๋ฃ์ธ ๋ง์ถคํ ์์ฉ ๋ผ์ด์ ์ค๋ฅผ ์ฌ์ฉํฉ๋๋ค(์ฌ์ฉ์ ์๊ฐ 7์ต ๋ช ์ด์์ธ ์๋น์ค์๋ ์ ํ์ด ์ ์ฉ๋จ). ํด๋ผ์ฐ๋ ํธ์คํ ๋น์ฉ์ ์ ๊ณต์ ์ฒด ๋ฐ ์ธ์คํด์ค ์ ํ์ ๋ฐ๋ผ ๋ค๋ฆ ๋๋ค. Mistral๊ณผ ๊ฐ์ ์ ๊ณต์ ์ฒด์ ๊ด๋ฆฌํ API ์ก์ธ์ค๋ ์ ๋ ฅ ํ ํฐ 100๋ง ๊ฐ๋น 2๋ฌ๋ฌ๋ถํฐ ์์ํฉ๋๋ค.
์ ๋ฌธ๊ฐ ํผํฉ ๋ชจ๋ธ๊ณผ ๊ณ ๋ฐ๋ ๋ชจ๋ธ์ ์ฐจ์ด์ ์ ๋ฌด์์ ๋๊น?
์ ๋ฌธ๊ฐ ํผํฉ ์ํคํ ์ฒ๋ ์ ๋ ฅ๋น ๋งค๊ฐ๋ณ์์ ํ์ ์งํฉ๋ง ํ์ฑํํ์ฌ ์ฑ๋ฅ ์ ํ ์์ด ํจ์จ์ฑ์ ๋ฌ์ฑํฉ๋๋ค. GPT-OSS-120B๋ ํ ํฐ๋น 117B ๋งค๊ฐ๋ณ์ ์ค 5.1B๋ฅผ ์ฌ์ฉํฉ๋๋ค. ๊ณ ๋ฐ๋ ๋ชจ๋ธ์ ๋ชจ๋ ์ ๋ ฅ์ ๋ํด ๋ชจ๋ ๋งค๊ฐ๋ณ์๋ฅผ ํ์ฑํํฉ๋๋ค. MoE ๋ชจ๋ธ์ ์ ์ฌํ ๊ท๋ชจ์์ ๊ณ ๋ฐ๋ ๋ชจ๋ธ ์ฑ๋ฅ๊ณผ ๋์ผํ๊ฑฐ๋ ์ด๋ฅผ ๋ฅ๊ฐํ๋ ๋์์ 70~75%์ ์ปดํจํ ๋น์ฉ ์ ๊ฐ ํจ๊ณผ๋ฅผ ์ ๊ณตํฉ๋๋ค.









