๐Ÿ–ฅ️ Ollama + Open WebUI ์œˆ๋„์šฐ ์™„์ „ ์„ค์น˜ ๊ฐ€์ด๋“œ (2026 ์ตœ์‹ ํŒ)

๐Ÿ–ฅ️ Ollama + Open WebUI ์œˆ๋„์šฐ ์™„์ „ ์„ค์น˜ ๊ฐ€์ด๋“œ (2026 ์ตœ์‹ ํŒ)

⏱ ์ฝ๊ธฐ ์•ฝ 12๋ถ„  |  ๐Ÿ“ 2,379์ž

๐Ÿ“Œ ์ด ๊ธ€ ํ•ต์‹ฌ ์š”์•ฝ
ollama ์„ค์น˜ ์œˆ๋„์šฐ ๋ฐฉ๋ฒ•์„ ์ฒ˜์Œ ์‹œ์ž‘ํ•˜๋Š” ๋ถ„๋“ค์„ ์œ„ํ•ด Open WebUI ์—ฐ๋™๊ณผ ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์„ธํŒ…๊นŒ์ง€ 2026๋…„ ๊ธฐ์ค€์œผ๋กœ ๋‹จ๊ณ„๋ณ„ ์ •๋ฆฌํ–ˆ์Šต๋‹ˆ๋‹ค.
local AI ollama open webui windows setup dashboard
๐Ÿ“ฐ VentureBeat AI VentureBeat AI

"ChatGPT ์“ฐ๋‹ค๊ฐ€ ์›” ๊ตฌ๋…๋ฃŒ 20๋‹ฌ๋Ÿฌ๊ฐ€ ๋„ˆ๋ฌด ์•„๊นŒ์›Œ์„œ ๋กœ์ปฌ AI ์ฐพ์•„๋ดค๋Š”๋ฐ, Ollama๋ผ๋Š” ๊ฒŒ ์žˆ๋”๋ผ๊ณ ์š”. ๊ทผ๋ฐ ์„ค์น˜ํ•˜๋‹ค๊ฐ€ ์—๋Ÿฌ ๋œจ๊ณ , ๋ชจ๋ธ ๋ฐ›๋‹ค๊ฐ€ ํฌ๊ธฐํ–ˆ์–ด์š”."

์ด๋Ÿฐ ๊ฒฝํ—˜, ํ•œ ๋ฒˆ์ฏค ์žˆ์œผ์‹œ์ฃ ? ํŠนํžˆ ์œˆ๋„์šฐ ํ™˜๊ฒฝ์—์„œ Ollama๋ฅผ ์ฒ˜์Œ ์„ธํŒ…ํ•  ๋•Œ PATH ์˜ค๋ฅ˜, ํฌํŠธ ์ถฉ๋Œ, CUDA ๋ฒ„์ „ ๋ถˆ์ผ์น˜ ๊ฐ™์€ ๋ฌธ์ œ๊ฐ€ ์ค„์ค„์ด ํ„ฐ์ง€๋ฉด์„œ ํฌ๊ธฐํ•˜๋Š” ๋ถ„๋“ค์ด ์ •๋ง ๋งŽ๊ฑฐ๋“ ์š”.

2026๋…„ ํ˜„์žฌ, Ollama๋Š” ์ „ ์„ธ๊ณ„ 4,000๋งŒ ํšŒ ์ด์ƒ ๋‹ค์šด๋กœ๋“œ๋œ ๋ช…์‹ค์ƒ๋ถ€ ๋กœ์ปฌ LLM ์‹คํ–‰ ํ‘œ์ค€ ๋„๊ตฌ๊ฐ€ ๋์Šต๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ์—ฌ๊ธฐ์— ChatGPT ์Šคํƒ€์ผ์˜ ์›น UI๋ฅผ ๋ถ™์—ฌ์ฃผ๋Š” Open WebUI๋ฅผ ์—ฐ๋™ํ•˜๋ฉด, ์ง„์งœ '๋‚ด PC์—์„œ ๋Œ์•„๊ฐ€๋Š” ๋‚˜๋งŒ์˜ AI'๊ฐ€ ์™„์„ฑ๋˜์ฃ .

์ด ๊ธ€์—์„œ๋Š” ollama ์„ค์น˜ ์œˆ๋„์šฐ ๋ฐฉ๋ฒ•์„ ์™„์ „ํžˆ ์ฒ˜์Œ ์‹œ์ž‘ํ•˜๋Š” ๋ถ„๋„ ๋”ฐ๋ผํ•  ์ˆ˜ ์žˆ๋„๋ก, ์„ค์น˜๋ถ€ํ„ฐ ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์—ฐ๋™, Open WebUI ์„ธํŒ…๊นŒ์ง€ ๋‹จ๊ณ„๋ณ„๋กœ ๋‚ฑ๋‚ฑ์ด ์ •๋ฆฌํ–ˆ์Šต๋‹ˆ๋‹ค. ์—๋Ÿฌ๊ฐ€ ๋‚˜๋Š” ์ง€์ ๋งˆ๋‹ค ํ•ด๊ฒฐ์ฑ…๋„ ํ•จ๊ป˜ ๋‹ด์•˜์œผ๋‹ˆ, ์ด ๊ธ€ ํ•˜๋‚˜๋กœ ์™„์ „ํžˆ ํ•ด๊ฒฐํ•˜์‹ค ์ˆ˜ ์žˆ์„ ๊ฑฐ์˜ˆ์š”.

์ด ๊ธ€์˜ ํ•ต์‹ฌ: Ollama + Open WebUI๋ฅผ ์œˆ๋„์šฐ PC์— ์„ค์น˜ํ•˜๊ณ , ํ•œ๊ตญ์–ด ๋ชจ๋ธ๊นŒ์ง€ ์—ฐ๋™ํ•˜๋ฉด ์›” ๊ตฌ๋…๋ฃŒ ์—†์ด ChatGPT ์ˆ˜์ค€์˜ ๊ฐœ์ธ AI ํ™˜๊ฒฝ์„ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.


์ด ๊ธ€์—์„œ ๋‹ค๋ฃจ๋Š” ๊ฒƒ:
- Ollama๊ฐ€ ๋ญ”์ง€, ์™œ ์จ์•ผ ํ•˜๋Š”์ง€
- ์œˆ๋„์šฐ ํ™˜๊ฒฝ ํ•„์ˆ˜ ์š”๊ตฌ์‚ฌํ•ญ ์ฒดํฌ
- Ollama ์„ค์น˜ ๋ฐ ์ฒซ ๋ชจ๋ธ ์‹คํ–‰
- Open WebUI ์„ค์น˜ ๋ฐ ์—ฐ๋™ (Docker / pip ๋ฐฉ์‹ ๋ชจ๋‘)
- ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์ถ”์ฒœ ๋ฐ ์„ธํŒ…
- ์‹ค์ „ ํ™œ์šฉ ์‚ฌ๋ก€
- ์ดˆ๋ณด์ž๊ฐ€ ์ž์ฃผ ๋น ์ง€๋Š” ํ•จ์ • 5๊ฐ€์ง€


๐Ÿค” Ollama๊ฐ€ ๋ญ”๋ฐ์š”? ์™œ ์จ์•ผ ํ•˜๋‚˜์š”?

Ollama๋Š” 2023๋…„ 7์›” ์ถœ์‹œ๋œ ์˜คํ”ˆ์†Œ์Šค ๋กœ์ปฌ LLM ๋Ÿฐ์ฒ˜์ž…๋‹ˆ๋‹ค. ํ•œ๋งˆ๋””๋กœ "LLM์„ ๋‚ด PC์—์„œ ์‹คํ–‰ํ•˜๊ฒŒ ํ•ด์ฃผ๋Š” ์—”์ง„"์ด์—์š”. Docker๊ฐ€ ์ปจํ…Œ์ด๋„ˆ ์‹คํ–‰์„ ์ถ”์ƒํ™”ํ•ด์ฃผ๋“ฏ, Ollama๋Š” ๋ณต์žกํ•œ AI ๋ชจ๋ธ ์‹คํ–‰ ํ™˜๊ฒฝ์„ ๋”ฑ ํ•œ ์ค„ ๋ช…๋ น์–ด๋กœ ๋‹จ์ˆœํ™”ํ•ด์ค๋‹ˆ๋‹ค.

Ollama๊ฐ€ ํŠน๋ณ„ํ•œ ์ด์œ 

2026๋…„ 4์›” ๊ธฐ์ค€, Ollama์˜ ๊ณต์‹ ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์—๋Š” Llama 3.3, Gemma 3, Qwen2.5, Mistral, Phi-4 ๋“ฑ 300๊ฐœ ์ด์ƒ์˜ ๋ชจ๋ธ์ด ๋“ฑ๋ก๋ผ ์žˆ์–ด์š”. ์ด ๋ชจ๋ธ๋“ค์„ ollama pull ๋ชจ๋ธ๋ช… ํ•œ ์ค„๋กœ ๋‚ด๋ ค๋ฐ›๊ณ , ollama run ๋ชจ๋ธ๋ช… ํ•œ ์ค„๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํŠนํžˆ ์ค‘์š”ํ•œ ๊ฑด API ์—”๋“œํฌ์ธํŠธ์ž…๋‹ˆ๋‹ค. Ollama๋Š” ์„ค์น˜๋˜๋ฉด ์ž๋™์œผ๋กœ localhost:11434์— REST API ์„œ๋ฒ„๋ฅผ ์—ด์–ด์ฃผ๋Š”๋ฐ, ์ด API๊ฐ€ OpenAI API ํ˜•์‹๊ณผ ํ˜ธํ™˜๋ฉ๋‹ˆ๋‹ค. ์ฆ‰, ChatGPT API๋ฅผ ์“ฐ๋˜ ์•ฑ์ด๋‚˜ ๋„๊ตฌ๋ฅผ ๊ทธ๋Œ€๋กœ Ollama์— ์—ฐ๊ฒฐํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๋œป์ด์—์š”.

ChatGPT ๋Œ€๋น„ Ollama์˜ ์‹ค์งˆ์  ์ฐจ์ด

ํ•ญ๋ชฉ ChatGPT (GPT-4o) Ollama + ๋กœ์ปฌ ๋ชจ๋ธ
๋น„์šฉ ์›” $20~$200 ์ „๊ธฐ์„ธ๋งŒ (๋ฌด๋ฃŒ)
์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ ํ•„์ˆ˜ ๋ถˆํ•„์š”
๋ฐ์ดํ„ฐ ํ”„๋ผ์ด๋ฒ„์‹œ ์„œ๋ฒ„ ์ „์†ก 100% ๋กœ์ปฌ ์ฒ˜๋ฆฌ
์‘๋‹ต ์†๋„ ๋น ๋ฆ„ (ํด๋ผ์šฐ๋“œ) PC ์‚ฌ์–‘์— ๋”ฐ๋ผ ๋‹ค๋ฆ„
์ตœ์‹  ์ •๋ณด ์ง€์› (์›น ๊ฒ€์ƒ‰) ๊ธฐ๋ณธ ๋ฏธ์ง€์› (RAG ๊ตฌ์„ฑ ๊ฐ€๋Šฅ)
๋ชจ๋ธ ์ปค์Šคํ„ฐ๋งˆ์ด์ฆˆ ๋ถˆ๊ฐ€ ํŒŒ์ธํŠœ๋‹, Modelfile ์ˆ˜์ • ๊ฐ€๋Šฅ

๋ฐ์ดํ„ฐ ๋ณด์•ˆ์ด ์ค‘์š”ํ•œ ์ง์ข…(์˜๋ฃŒ, ๋ฒ•๋ฅ , ๊ธˆ์œต)์ด๋ผ๋ฉด Ollama ๊ธฐ๋ฐ˜ ๋กœ์ปฌ AI๋Š” ์„ ํƒ์ด ์•„๋‹Œ ํ•„์ˆ˜๊ฐ€ ๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

๐Ÿ’ก ์‹ค์ „ ํŒ: Ollama๋Š” ์„ค์น˜ ํ›„ ์‹œ์Šคํ…œ ํŠธ๋ ˆ์ด์— ์ƒ์ฃผํ•˜๋ฉฐ, PC ๋ถ€ํŒ… ์‹œ ์ž๋™ ์‹คํ–‰๋˜๋„๋ก ์„ค์ •ํ•  ์ˆ˜ ์žˆ์–ด์š”. ์œˆ๋„์šฐ ์‹œ์ž‘ ์‹œ ์ž๋™ ์‹คํ–‰์„ ์›ํ•œ๋‹ค๋ฉด ์„ค์น˜ ํ›„ ์‹œ์Šคํ…œ ํŠธ๋ ˆ์ด ์•„์ด์ฝ˜ ์šฐํด๋ฆญ → "Start on Login" ์ฒดํฌ๋งŒ ํ•˜๋ฉด ๋ฉ๋‹ˆ๋‹ค.


๐Ÿ–ฅ️ ์„ค์น˜ ์ „ ํ™˜๊ฒฝ ํ™•์ธ — ๋‚ด PC๋Š” ๊ดœ์ฐฎ์„๊นŒ์š”?

๋ณธ๊ฒฉ์ ์ธ ollama ์„ค์น˜ ์œˆ๋„์šฐ ๊ณผ์ •์— ๋“ค์–ด๊ฐ€๊ธฐ ์ „์—, ๋‚ด PC ํ™˜๊ฒฝ์ด ์ตœ์†Œ ์š”๊ฑด์„ ์ถฉ์กฑํ•˜๋Š”์ง€ ํ™•์ธํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ด ๋‹จ๊ณ„๋ฅผ ๊ฑด๋„ˆ๋›ฐ๋ฉด ๋‚˜์ค‘์— ๋ชจ๋ธ์ด ์•„์˜ˆ ์•ˆ ๋Œ๊ฑฐ๋‚˜ ์—„์ฒญ๋‚˜๊ฒŒ ๋А๋ฆฐ ์ƒํ™ฉ์ด ๋ฐœ์ƒํ•ด์š”.

ํ•˜๋“œ์›จ์–ด ์š”๊ตฌ์‚ฌํ•ญ ์ฒดํฌ๋ฆฌ์ŠคํŠธ

CPU: ์ตœ์†Œ Intel Core i5 8์„ธ๋Œ€ ์ด์ƒ ๋˜๋Š” AMD Ryzen 5 3000 ์‹œ๋ฆฌ์ฆˆ ์ด์ƒ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. 4์ฝ”์–ด ์ด์ƒ์ด๋ฉด ๊ธฐ๋ณธ 7B ๋ชจ๋ธ ์‹คํ–‰์ด ๊ฐ€๋Šฅํ•ด์š”.

RAM: ์ตœ์†Œ 8GB, ๊ถŒ์žฅ 16GB ์ด์ƒ์ž…๋‹ˆ๋‹ค. 7B ๋ชจ๋ธ์€ ์•ฝ 8GB, 14B ๋ชจ๋ธ์€ ์•ฝ 12GB RAM์„ ์†Œ๋น„ํ•˜๊ฑฐ๋“ ์š”. RAM์ด ๋ถ€์กฑํ•˜๋ฉด ๋ชจ๋ธ์ด ๋””์Šคํฌ ์Šค์™‘์„ ์ผ์œผํ‚ค๋ฉด์„œ ์‘๋‹ต์ด ๊ทน๋‹จ์ ์œผ๋กœ ๋А๋ ค์ง‘๋‹ˆ๋‹ค.

์ €์žฅ๊ณต๊ฐ„: ๋ชจ๋ธ ํŒŒ์ผ์ด ํฌ๊ธฐ ๋•Œ๋ฌธ์— ์—ฌ์œ  ๊ณต๊ฐ„์ด ํ•„์ˆ˜์˜ˆ์š”. SSD๋ฅผ ๊ฐ•๋ ฅ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.

๋ชจ๋ธ ํฌ๊ธฐ ์˜ˆ์‹œ ๋ชจ๋ธ ํ•„์š” VRAM/RAM ๋””์Šคํฌ ๊ณต๊ฐ„
1~3B llama3.2:3b, phi4-mini 4GB 2~3GB
7~8B llama3.1:8b, gemma3:9b 8GB 5~8GB
13~14B qwen2.5:14b, gemma3:12b 12~16GB 9~14GB
32~34B qwen2.5:32b 24GB+ 20~25GB
70B llama3.3:70b 48GB+ 40GB+

GPU (์„ ํƒ, ๊ฐ•๋ ฅ ๊ถŒ์žฅ): NVIDIA GPU๊ฐ€ ์žˆ๋‹ค๋ฉด CUDA๋ฅผ ํ†ตํ•ด GPU ๊ฐ€์†์ด ์ž๋™ ํ™œ์„ฑํ™”๋ฉ๋‹ˆ๋‹ค. VRAM 8GB(RTX 3070, 4060 ๋“ฑ) ์ด์ƒ์ด๋ฉด 14B ๋ชจ๋ธ๊นŒ์ง€ ์พŒ์ ํ•˜๊ฒŒ ๋Œ๋ฆด ์ˆ˜ ์žˆ์–ด์š”.

์†Œํ”„ํŠธ์›จ์–ด ์‚ฌ์ „ ์ค€๋น„

  • OS: Windows 10 22H2 ์ด์ƒ ๋˜๋Š” Windows 11 (2026๋…„ 4์›” ๊ธฐ์ค€ ๊ถŒ์žฅ: Windows 11 24H2)
  • NVIDIA GPU ์‚ฌ์šฉ ์‹œ: CUDA 12.4 ์ด์ƒ ๋“œ๋ผ์ด๋ฒ„ ์„ค์น˜ ํ•„์š” (NVIDIA ๋“œ๋ผ์ด๋ฒ„ ๋‹ค์šด๋กœ๋“œ ์—์„œ ์ตœ์‹  ๋ฒ„์ „ ์„ค์น˜)
  • WSL2 (Windows Subsystem for Linux): ํ•„์ˆ˜๋Š” ์•„๋‹ˆ์ง€๋งŒ Docker ๋ฐฉ์‹์œผ๋กœ Open WebUI ์„ค์น˜ ์‹œ ํ•„์š”

๐Ÿ’ก ์‹ค์ „ ํŒ: GPU๊ฐ€ ์žˆ๋Š”๋ฐ CUDA ๋“œ๋ผ์ด๋ฒ„ ๋ฒ„์ „์„ ๋ชจ๋ฅด๊ฒ ๋‹ค๋ฉด, ๋ช…๋ น ํ”„๋กฌํ”„ํŠธ(CMD)์—์„œ nvidia-smi ๋ช…๋ น์–ด๋ฅผ ์‹คํ–‰ํ•ด๋ณด์„ธ์š”. ์˜ค๋ฅธ์ชฝ ์ƒ๋‹จ์— CUDA Version: 12.x๋ผ๊ณ  ํ‘œ์‹œ๋œ๋‹ค๋ฉด ์ค€๋น„ ์™„๋ฃŒ์ž…๋‹ˆ๋‹ค. ๋ช…๋ น์–ด ์ž์ฒด๊ฐ€ ์ธ์‹๋˜์ง€ ์•Š์œผ๋ฉด ๋“œ๋ผ์ด๋ฒ„๋ถ€ํ„ฐ ๋‹ค์‹œ ์„ค์น˜ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.


⚙️ Ollama ์„ค์น˜ ์œˆ๋„์šฐ — ๋‹จ๊ณ„๋ณ„ ์™„์ „ ์ •๋ณต

๋“œ๋””์–ด ๋ณธ๊ฒฉ์ ์ธ ์„ค์น˜์ž…๋‹ˆ๋‹ค. 2026๋…„ ๊ธฐ์ค€ ollama ์„ค์น˜ ์œˆ๋„์šฐ ๊ณผ์ •์€ ์˜ˆ์ „๋ณด๋‹ค ํ›จ์”ฌ ๋‹จ์ˆœํ•ด์กŒ์–ด์š”. ๊ทธ๋ž˜๋„ ๋†“์น˜๊ธฐ ์‰ฌ์šด ํฌ์ธํŠธ๋“ค์ด ์žˆ์œผ๋‹ˆ ์ฒœ์ฒœํžˆ ๋”ฐ๋ผ์˜ค์„ธ์š”.

Step 1: Ollama ๋‹ค์šด๋กœ๋“œ ๋ฐ ์„ค์น˜

  1. Ollama ๊ณต์‹ ์‚ฌ์ดํŠธ์— ์ ‘์†ํ•ฉ๋‹ˆ๋‹ค.
  2. ๋ฉ”์ธ ํŽ˜์ด์ง€์—์„œ "Download for Windows" ๋ฒ„ํŠผ์„ ํด๋ฆญํ•ด ์„ค์น˜ ํŒŒ์ผ(.exe)์„ ๋ฐ›์Šต๋‹ˆ๋‹ค.
  3. ๋‹ค์šด๋กœ๋“œ๋œ OllamaSetup.exe๋ฅผ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.
  4. ์„ค์น˜ ๋งˆ๋ฒ•์‚ฌ๋ฅผ ๋”ฐ๋ผ ์ง„ํ–‰ํ•˜๋ฉด ์ž๋™์œผ๋กœ ์„ค์น˜๊ฐ€ ์™„๋ฃŒ๋ฉ๋‹ˆ๋‹ค. ๋ณ„๋„์˜ ์„ค์ • ์—†์ด "Install" ๋ฒ„ํŠผ๋งŒ ๋ˆ„๋ฅด๋ฉด ๋ผ์š”.
  5. ์„ค์น˜๊ฐ€ ์™„๋ฃŒ๋˜๋ฉด ์‹œ์Šคํ…œ ํŠธ๋ ˆ์ด(์˜ค๋ฅธ์ชฝ ํ•˜๋‹จ)์— ๋ผ๋งˆ ์•„์ด์ฝ˜์ด ๋‚˜ํƒ€๋‚ฉ๋‹ˆ๋‹ค.

์„ค์น˜ ๊ฒฝ๋กœ ๊ธฐ๋ณธ๊ฐ’์€ C:\Users\์‚ฌ์šฉ์ž๋ช…\AppData\Local\Programs\Ollama์ด๊ณ , ๋ชจ๋ธ์€ C:\Users\์‚ฌ์šฉ์ž๋ช…\.ollama\models์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค. C ๋“œ๋ผ์ด๋ธŒ ์—ฌ์œ  ๊ณต๊ฐ„์ด ๋ถ€์กฑํ•˜๋‹ค๋ฉด ์„ค์น˜ ์ „์— ํ™˜๊ฒฝ๋ณ€์ˆ˜ OLLAMA_MODELS๋ฅผ ๋‹ค๋ฅธ ๋“œ๋ผ์ด๋ธŒ๋กœ ์„ค์ •ํ•ด๋‘์„ธ์š”.

Step 2: ์ฒซ ๋ฒˆ์งธ ๋ชจ๋ธ ์‹คํ–‰

์„ค์น˜ ํ›„ ๋ช…๋ น ํ”„๋กฌํ”„ํŠธ(CMD) ๋˜๋Š” PowerShell์„ ์—ด๊ณ  ์•„๋ž˜ ๋ช…๋ น์–ด๋ฅผ ์‹คํ–‰ํ•ด๋ณด์„ธ์š”.

# ๋ชจ๋ธ ๋ชฉ๋ก ํ™•์ธ
ollama list

# ์ฒซ ๋ฒˆ์งธ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ ๋ฐ ์‹คํ–‰ (์•ฝ 2.0GB)
ollama run llama3.2:3b

์ฒ˜์Œ ์‹คํ–‰ํ•˜๋ฉด ๋ชจ๋ธ ํŒŒ์ผ์„ ์ž๋™์œผ๋กœ ๋‹ค์šด๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค. ๋‹ค์šด๋กœ๋“œ ์™„๋ฃŒ ํ›„ >>> ํ”„๋กฌํ”„ํŠธ๊ฐ€ ๋œจ๋ฉด ๋ฐ”๋กœ ๋Œ€ํ™”๋ฅผ ์‹œ์ž‘ํ•  ์ˆ˜ ์žˆ์–ด์š”. /bye๋ฅผ ์ž…๋ ฅํ•˜๋ฉด ์ข…๋ฃŒ๋ฉ๋‹ˆ๋‹ค.

Step 3: Ollama ์„œ๋ฒ„ ์ƒํƒœ ํ™•์ธ

# Ollama ์„œ๋น„์Šค ์‹คํ–‰ ์ƒํƒœ ํ™•์ธ
ollama serve

# ์‹คํ–‰ ์ค‘์ธ ๋ชจ๋ธ ํ™•์ธ
ollama ps

# API ์‘๋‹ต ํ…Œ์ŠคํŠธ (๋ธŒ๋ผ์šฐ์ € ๋˜๋Š” curl)
curl http://localhost:11434/api/tags

๋ธŒ๋ผ์šฐ์ € ์ฃผ์†Œ์ฐฝ์— http://localhost:11434๋ฅผ ์ž…๋ ฅํ–ˆ์„ ๋•Œ "Ollama is running"์ด๋ผ๋Š” ํ…์ŠคํŠธ๊ฐ€ ๋ณด์ด๋ฉด ์ •์ƒ ์ž‘๋™ ์ค‘์ž…๋‹ˆ๋‹ค.

๐Ÿ’ก ์‹ค์ „ ํŒ: Ollama ์‹คํ–‰ ์ค‘ CMD๋ฅผ ๋‹ซ์•„๋„ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์„œ๋น„์Šค๋Š” ๊ณ„์† ๋Œ์•„๊ฐ‘๋‹ˆ๋‹ค. ์™„์ „ํžˆ ์ข…๋ฃŒํ•˜๋ ค๋ฉด ์‹œ์Šคํ…œ ํŠธ๋ ˆ์ด ์•„์ด์ฝ˜ ์šฐํด๋ฆญ → "Quit Ollama"๋ฅผ ์„ ํƒํ•˜์„ธ์š”. ์žฌ์‹œ์ž‘์ด ํ•„์š”ํ•  ๋•Œ๋„ ์ด ๋ฐฉ๋ฒ•์œผ๋กœ ๊ป๋‹ค ์ผœ๋ฉด ๋ฉ๋‹ˆ๋‹ค.


๐ŸŒ Open WebUI ์„ค์น˜ — ChatGPT ๊ฐ™์€ ํ™”๋ฉด์œผ๋กœ ๋Œ€ํ™”ํ•˜๊ธฐ

ํ„ฐ๋ฏธ๋„์—์„œ ๋Œ€ํ™”ํ•˜๋Š” ๊ฑด ๊ธˆ๋ฐฉ ๋ถˆํŽธํ•ด์ง‘๋‹ˆ๋‹ค. ๋Œ€ํ™” ํžˆ์Šคํ† ๋ฆฌ ๊ด€๋ฆฌ, ๋งˆํฌ๋‹ค์šด ๋ Œ๋”๋ง, ํŒŒ์ผ ์ฒจ๋ถ€, ๋ฉ€ํ‹ฐ ๋ชจ๋ธ ์ „ํ™˜ ๋“ฑ ํŽธ์˜๊ธฐ๋Šฅ์ด ์—†๊ฑฐ๋“ ์š”. Open WebUI๋Š” ์ด ๋ชจ๋“  ๊ฑธ ํ•ด๊ฒฐํ•ด์ค๋‹ˆ๋‹ค.

๋ฐฉ๋ฒ• 1: pip์œผ๋กœ ์„ค์น˜ (Docker ์—†์ด, ๊ฐ€์žฅ ๊ฐ„๋‹จ)

ํŒŒ์ด์ฌ 3.11 ์ด์ƒ์ด ์„ค์น˜๋ผ ์žˆ๋‹ค๋ฉด ์ด ๋ฐฉ๋ฒ•์ด ๊ฐ€์žฅ ๋น ๋ฆ…๋‹ˆ๋‹ค.

# ํŒŒ์ด์ฌ ๋ฒ„์ „ ํ™•์ธ (3.11 ์ด์ƒ ํ•„์š”)
python --version

# (๊ถŒ์žฅ) ๊ฐ€์ƒํ™˜๊ฒฝ ์ƒ์„ฑ
python -m venv openwebui-env
openwebui-env\Scripts\activate

# Open WebUI ์„ค์น˜
pip install open-webui

# ์‹คํ–‰
open-webui serve

์‹คํ–‰ ํ›„ ๋ธŒ๋ผ์šฐ์ €์—์„œ http://localhost:8080์œผ๋กœ ์ ‘์†ํ•˜๋ฉด ๋ฉ๋‹ˆ๋‹ค.

๋ฐฉ๋ฒ• 2: Docker๋กœ ์„ค์น˜ (๊ฐ€์žฅ ์•ˆ์ •์ , ๊ถŒ์žฅ)

Docker Desktop์ด ์„ค์น˜๋œ ํ™˜๊ฒฝ์ด๋ผ๋ฉด ์•„๋ž˜ ๋ช…๋ น์–ด ํ•˜๋‚˜๋กœ ๋๋‚ฉ๋‹ˆ๋‹ค.

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

์œˆ๋„์šฐ PowerShell์—์„œ๋Š” ๋ฐฑ์Šฌ๋ž˜์‹œ(\) ๋Œ€์‹  ๋ฐฑํ‹ฑ(`)์„ ์‚ฌ์šฉํ•ด์•ผ ํ•ด์š”.

docker run -d -p 3000:8080 `
  --add-host=host.docker.internal:host-gateway `
  -v open-webui:/app/backend/data `
  --name open-webui `
  --restart always `
  ghcr.io/open-webui/open-webui:main

์‹คํ–‰ ํ›„ http://localhost:3000์œผ๋กœ ์ ‘์†ํ•ฉ๋‹ˆ๋‹ค. ์ฒ˜์Œ ์ ‘์† ์‹œ ๊ด€๋ฆฌ์ž ๊ณ„์ •์„ ์ƒ์„ฑํ•˜๋Š” ํ™”๋ฉด์ด ๋‚˜์˜ค๊ณ , ์ด๋ฉ”์ผ๊ณผ ๋น„๋ฐ€๋ฒˆํ˜ธ๋ฅผ ์„ค์ •ํ•˜๋ฉด ๋ฐ”๋กœ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.

Open WebUI์—์„œ Ollama ์—ฐ๋™ ํ™•์ธ

Open WebUI ์ ‘์† ํ›„ ์˜ค๋ฅธ์ชฝ ์ƒ๋‹จ ๋ฉ”๋‰ด → ๊ด€๋ฆฌ์ž ํŒจ๋„์„ค์ •์—ฐ๊ฒฐ๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค. "Ollama Base URL"์— http://localhost:11434๊ฐ€ ์„ค์ •๋ผ ์žˆ์œผ๋ฉด ์ •์ƒ์ž…๋‹ˆ๋‹ค. ์—ฐ๊ฒฐ ์ƒํƒœ๊ฐ€ ์ดˆ๋ก์ƒ‰ ๋ถˆ๋กœ ํ‘œ์‹œ๋˜๋ฉด ์„ฑ๊ณต์ด์—์š”.

์ดํ›„ ์ฑ„ํŒ… ํ™”๋ฉด์—์„œ ๋ชจ๋ธ ๋“œ๋กญ๋‹ค์šด์„ ํด๋ฆญํ•˜๋ฉด Ollama์—์„œ ๋‹ค์šด๋กœ๋“œํ•œ ๋ชจ๋ธ๋“ค์ด ๋ชฉ๋ก์— ๋‚˜ํƒ€๋‚ฉ๋‹ˆ๋‹ค.

๐Ÿ’ก ์‹ค์ „ ํŒ: Docker ๋ฐฉ์‹์—์„œ Ollama ์—ฐ๊ฒฐ์ด ์•ˆ ๋˜๋Š” ๊ฒฝ์šฐ, Docker ์ปจํ…Œ์ด๋„ˆ ๋‚ด๋ถ€์—์„œ localhost๋Š” ํ˜ธ์ŠคํŠธ PC๊ฐ€ ์•„๋‹Œ ์ปจํ…Œ์ด๋„ˆ ์ž์ฒด๋ฅผ ๊ฐ€๋ฆฌํ‚ต๋‹ˆ๋‹ค. ์ด๋•Œ๋Š” URL์„ http://host.docker.internal:11434๋กœ ๋ณ€๊ฒฝํ•˜๋ฉด ํ•ด๊ฒฐ๋ฉ๋‹ˆ๋‹ค. --add-host=host.docker.internal:host-gateway ์˜ต์…˜์ด ์ด ์—ญํ• ์„ ํ•ฉ๋‹ˆ๋‹ค.


๐Ÿ‡ฐ๐Ÿ‡ท ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์—ฐ๋™ — "์ง„์งœ ์“ธ ์ˆ˜ ์žˆ๋Š”" AI ๋งŒ๋“ค๊ธฐ

๋ชจ๋ธ ์„ค์น˜๋Š” ๋๋Š”๋ฐ ํ•œ๊ตญ์–ด๋กœ ๋ฌผ์–ด๋ณด๋ฉด ์˜์–ด๋กœ ๋‹ตํ•˜๊ฑฐ๋‚˜, ์–ด์ƒ‰ํ•œ ๋ฒˆ์—ญ์ฒด๋กœ ๋‹ต๋ณ€์ด ๋Œ์•„์˜จ๋‹ค๋ฉด ๋ชจ๋ธ ์„ ํƒ๋ถ€ํ„ฐ ๋‹ค์‹œ ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

2026๋…„ 4์›” ๊ธฐ์ค€ ํ•œ๊ตญ์–ด ์ถ”์ฒœ ๋ชจ๋ธ

# 1์ˆœ์œ„: EEVE Korean (์—…์Šคํ…Œ์ด์ง€, ํ•œ๊ตญ์–ด ํŠนํ™”)
ollama pull eeve-korean-instruct-10.8b-v1.0

# 2์ˆœ์œ„: Qwen2.5 14B (๋‹ค๊ตญ์–ด, ํ•œ๊ตญ์–ด ์šฐ์ˆ˜)
ollama pull qwen2.5:14b

# 3์ˆœ์œ„: Gemma 3 12B (๊ตฌ๊ธ€, ํ•œ๊ตญ์–ด ํฌ๊ฒŒ ๊ฐœ์„ )
ollama pull gemma3:12b

# ์†Œํ˜• ๋ชจ๋ธ (VRAM 4GB): Qwen2.5 7B
ollama pull qwen2.5:7b

EEVE-Korean์€ ์—…์Šคํ…Œ์ด์ง€(Upstage)๊ฐ€ Mistral 7B๋ฅผ ํ•œ๊ตญ์–ด ๋ฐ์ดํ„ฐ๋กœ ํŒŒ์ธํŠœ๋‹ํ•œ ๋ชจ๋ธ์ด์—์š”. Hugging Face ํ•œ๊ตญ์–ด ์˜คํ”ˆ LLM ๋ฆฌ๋”๋ณด๋“œ์—์„œ ์˜ค๋žซ๋™์•ˆ ์ƒ์œ„๊ถŒ์„ ์œ ์ง€ํ•œ ๊ฒ€์ฆ๋œ ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ๋‹ค๋งŒ 10.8B ํŒŒ๋ผ๋ฏธํ„ฐ ๊ธฐ์ค€ ์•ฝ 7GB VRAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๋กœ ํ•œ๊ตญ์–ด ๊ณ ์ •ํ•˜๊ธฐ

Open WebUI์—์„œ๋Š” ๋ชจ๋ธ๋ณ„๋กœ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์„ค์ •ํ•  ์ˆ˜ ์žˆ์–ด์š”. ํ•œ๊ตญ์–ด ์‘๋‹ต์„ ๊ฐ•์ œํ•˜๋ ค๋ฉด:

  1. Open WebUI ์ฑ„ํŒ… ํ™”๋ฉด → ๋ชจ๋ธ ์ด๋ฆ„ ์˜† ⚙️ ์•„์ด์ฝ˜ ํด๋ฆญ
  2. ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ์ž…๋ ฅ๋ž€์— ๋‹ค์Œ์„ ๋ถ™์—ฌ๋„ฃ๊ธฐ:
๋‹น์‹ ์€ ํ•œ๊ตญ์–ด๋กœ ๋Œ€ํ™”ํ•˜๋Š” AI ์–ด์‹œ์Šคํ„ดํŠธ์ž…๋‹ˆ๋‹ค. 
์‚ฌ์šฉ์ž์˜ ์งˆ๋ฌธ์ด ์–ด๋–ค ์–ธ์–ด๋กœ ์ž‘์„ฑ๋˜์–ด ์žˆ๋“  ํ•ญ์ƒ ํ•œ๊ตญ์–ด๋กœ ๋‹ต๋ณ€ํ•˜์„ธ์š”.
๋‹ต๋ณ€์€ ๋ช…ํ™•ํ•˜๊ณ  ์นœ์ ˆํ•˜๋ฉฐ ๊ฐ„๊ฒฐํ•˜๊ฒŒ ์ž‘์„ฑํ•ด์ฃผ์„ธ์š”.
  1. ์ €์žฅ ํ›„ ๋Œ€ํ™” ์‹œ์ž‘

์ด ์„ค์ •์„ ์ €์žฅํ•˜๋ฉด ํ•ด๋‹น ๋ชจ๋ธ ์„ ํƒ ์‹œ ํ•ญ์ƒ ์ด ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๊ฐ€ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค.

ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์„ฑ๋Šฅ ๋น„๊ต

๋ชจ๋ธ ํ•œ๊ตญ์–ด ์ž์—ฐ์Šค๋Ÿฌ์›€ ํ•„์š” VRAM ์‘๋‹ต ์†๋„(RTX 4070) ์ถ”์ฒœ ์šฉ๋„
EEVE-Korean-10.8B ★★★★★ 8GB ์•ฝ 30ํ† ํฐ/์ดˆ ํ•œ๊ตญ์–ด ์ „์šฉ ์—…๋ฌด
Qwen2.5:14b ★★★★☆ 10GB ์•ฝ 20ํ† ํฐ/์ดˆ ํ•œ์˜ ํ˜ผ์šฉ ์—…๋ฌด
Gemma3:12b ★★★★☆ 9GB ์•ฝ 25ํ† ํฐ/์ดˆ ์ฝ”๋“œ + ํ•œ๊ตญ์–ด
Llama3.2:3b ★★★☆☆ 4GB ์•ฝ 60ํ† ํฐ/์ดˆ ๋น ๋ฅธ ๊ฐ„๋‹จ ๋Œ€ํ™”
Qwen2.5:7b ★★★★☆ 6GB ์•ฝ 45ํ† ํฐ/์ดˆ VRAM ์ œํ•œ ํ™˜๊ฒฝ

๐Ÿ’ก ์‹ค์ „ ํŒ: ๋ชจ๋ธ์„ ๋ฐ”๊ฟ€ ๋•Œ๋งˆ๋‹ค ollama ps ๋ช…๋ น์–ด๋กœ ํ˜„์žฌ ๋ฉ”๋ชจ๋ฆฌ์— ๋กœ๋“œ๋œ ๋ชจ๋ธ์„ ํ™•์ธํ•˜์„ธ์š”. ์—ฌ๋Ÿฌ ๋ชจ๋ธ์ด ๋™์‹œ์— VRAM์„ ์ ์œ ํ•˜๋ฉด ์†๋„๊ฐ€ ํฌ๊ฒŒ ์ €ํ•˜๋ฉ๋‹ˆ๋‹ค. ollama stop ๋ชจ๋ธ๋ช…์œผ๋กœ ์‚ฌ์šฉํ•˜์ง€ ์•Š๋Š” ๋ชจ๋ธ์„ ์–ธ๋กœ๋“œํ•  ์ˆ˜ ์žˆ์–ด์š”.


๐Ÿข ์‹ค์ œ ํ™œ์šฉ ์‚ฌ๋ก€ — ์ด๋ ‡๊ฒŒ ์“ฐ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค

์ด๋ก ์€ ์ถฉ๋ถ„ํžˆ ์‚ดํŽด๋ดค์œผ๋‹ˆ, ์‹ค์ œ๋กœ ์–ด๋–ป๊ฒŒ ํ™œ์šฉ๋˜๋Š”์ง€ ์‚ฌ๋ก€๋ฅผ ๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค.

์‚ฌ๋ก€ 1: ๋ฒ•๋ฌด๋ฒ•์ธ ์†Œ๊ทœ๋ชจ ๋กœํŽŒ์˜ ๋ฌธ์„œ ๊ฒ€ํ†  ์ž๋™ํ™”

์„œ์šธ ์†Œ์žฌ ์†Œํ˜• ๋ฒ•๋ฌด๋ฒ•์ธ A์‚ฌ(์ง์› 15๋ช…)๋Š” 2025๋…„ ํ•˜๋ฐ˜๊ธฐ๋ถ€ํ„ฐ Ollama + Open WebUI ๊ธฐ๋ฐ˜์˜ ๋‚ด๋ถ€ AI ์‹œ์Šคํ…œ์„ ๋„์ž…ํ–ˆ์Šต๋‹ˆ๋‹ค. ํ•ต์‹ฌ ์ด์œ ๋Š” ์˜๋ขฐ์ธ ์ •๋ณด ๋ณด์•ˆ ๋•Œ๋ฌธ์ด์—ˆ์–ด์š”. ๊ธฐ์กด์—๋Š” ChatGPT์— ๊ณ„์•ฝ์„œ ๋‚ด์šฉ์„ ๋ถ™์—ฌ๋„ฃ์–ด ๊ฒ€ํ† ํ•˜๋Š” ๋ฐฉ์‹์„ ์‚ฌ์šฉํ–ˆ๋Š”๋ฐ, ๊ฐœ์ธ์ •๋ณด๋ณดํ˜ธ๋ฒ• ๋ฐ ๋ณ€ํ˜ธ์‚ฌ๋ฒ•์ƒ ์˜๋ขฐ์ธ ์ •๋ณด ์™ธ๋ถ€ ์ „์†ก ๋ฌธ์ œ๊ฐ€ ์šฐ๋ ค๋๊ฑฐ๋“ ์š”.

Qwen2.5:14b ๋ชจ๋ธ์„ RTX 4080 ์žฅ์ฐฉ ์›Œํฌ์Šคํ…Œ์ด์…˜์— ์„ค์น˜ํ•˜๊ณ , Open WebUI๋ฅผ ๋‚ด๋ถ€ ๋„คํŠธ์›Œํฌ์—๋งŒ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ฒฐ๊ณผ์ ์œผ๋กœ ๊ณ„์•ฝ์„œ ์ดˆ์•ˆ ๊ฒ€ํ†  ์‹œ๊ฐ„์ด ๊ธฐ์กด ํ‰๊ท  45๋ถ„์—์„œ 12๋ถ„์œผ๋กœ ๋‹จ์ถ•๋๊ณ , ์—ฐ๊ฐ„ ์™ธ์ฃผ ๋ฒˆ์—ญ ๋น„์šฉ๋„ ์•ฝ 60% ์ ˆ๊ฐํ–ˆ๋‹ค๊ณ  ๋ฐํ˜”์Šต๋‹ˆ๋‹ค.

์‚ฌ๋ก€ 2: 1์ธ ์œ ํŠœ๋ฒ„์˜ ์ž๋ง‰ ๋ฐ ๋Œ€๋ณธ ์ž‘์—…

๊ตฌ๋…์ž 8๋งŒ ๋ช…์˜ IT ์œ ํŠœ๋ฒ„ ๋ฐ•๋ชจ์”จ๋Š” Ollama + EEVE-Korean ๋ชจ๋ธ์„ ํ™œ์šฉํ•ด ์˜์ƒ ๋Œ€๋ณธ ์ดˆ์•ˆ ์ž‘์„ฑ ์‹œ๊ฐ„์„ ์•ฝ 70% ๋‹จ์ถ•ํ–ˆ์Šต๋‹ˆ๋‹ค. ํ•˜๋ฃจ 3~4์‹œ๊ฐ„ ๊ฑธ๋ฆฌ๋˜ ๋ฆฌ์„œ์น˜ ๋ฐ ๋Œ€๋ณธ ์ž‘์—…์ด 1์‹œ๊ฐ„ ๋‚ด์™ธ๋กœ ์ค„์–ด๋“ค์—ˆ๋‹ค๊ณ ์š”.

ํŠนํžˆ Open WebUI์˜ ํŒŒ์ผ ์ฒจ๋ถ€ ๊ธฐ๋Šฅ์„ ํ™œ์šฉํ•ด PDF ๋ฆฌ์„œ์น˜ ์ž๋ฃŒ๋ฅผ ์˜ฌ๋ฆฌ๊ณ  ํ•ต์‹ฌ ๋‚ด์šฉ์„ ์š”์•ฝ์‹œํ‚ค๋Š” ๋ฐฉ์‹์ด ํ•ต์‹ฌ์ด์—ˆ์Šต๋‹ˆ๋‹ค. ์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ ์—†์ด๋„ ๋กœ์ปฌ์—์„œ ๋Œ์•„๊ฐ€๊ธฐ ๋•Œ๋ฌธ์— ์นดํŽ˜๋‚˜ ๋„์„œ๊ด€์—์„œ๋„ ๋ง‰ํž˜ ์—†์ด ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ๋„ ์žฅ์ ์œผ๋กœ ๊ผฝ์•˜์Šต๋‹ˆ๋‹ค.

์‚ฌ๋ก€ 3: ์ œ์กฐ์—… ์ค‘์†Œ๊ธฐ์—…์˜ ์„ค๋น„ ๋งค๋‰ด์–ผ Q&A ๋ด‡

๊ฒฝ๊ธฐ๋„ ์†Œ์žฌ ์ œ์กฐ์—…์ฒด B์‚ฌ๋Š” ์ˆ˜๋ฐฑ ํŽ˜์ด์ง€์— ๋‹ฌํ•˜๋Š” ์„ค๋น„ ๋งค๋‰ด์–ผ์„ Ollama + Open WebUI์˜ RAG(๋ฌธ์„œ ๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ) ๊ธฐ๋Šฅ๊ณผ ์—ฐ๋™ํ•ด ํ˜„์žฅ ์ง์›์šฉ Q&A ์ฑ—๋ด‡์„ ๊ตฌ์ถ•ํ–ˆ์Šต๋‹ˆ๋‹ค. ์‹ ์ž… ์ง์› ๊ต์œก ์‹œ๊ฐ„์ด ํ‰๊ท  3์ฃผ์—์„œ 1.5์ฃผ๋กœ ๋‹จ์ถ•๋˜๋Š” ํšจ๊ณผ๊ฐ€ ๋‚˜ํƒ€๋‚ฌ๋‹ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค.


⚠️ ์ดˆ๋ณด์ž๊ฐ€ ๋น ์ง€๋Š” ํ•จ์ • 5๊ฐ€์ง€

์„ค์น˜ํ•˜๋‹ค๊ฐ€ ๋ง‰ํžˆ๋Š” ์ง€์ ๋“ค์„ ๋ฏธ๋ฆฌ ์•Œ๊ณ  ๊ฐ€๋ฉด ์ˆ˜์‹ญ ๋ถ„์˜ ์‹œ๊ฐ„์„ ์ ˆ์•ฝํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํ•จ์ • 1: CUDA ๋“œ๋ผ์ด๋ฒ„ ๋ฒ„์ „ ๋ถˆ์ผ์น˜

Ollama๊ฐ€ GPU๋ฅผ ์ธ์‹ํ•˜์ง€ ๋ชปํ•˜๋Š” ๊ฐ€์žฅ ํ”ํ•œ ์›์ธ์ž…๋‹ˆ๋‹ค. nvidia-smi๋Š” ๋™์ž‘ํ•˜๋Š”๋ฐ ollama run์—์„œ CPU๋งŒ ์‚ฌ์šฉํ•œ๋‹ค๋ฉด, NVIDIA ๋“œ๋ผ์ด๋ฒ„๊ฐ€ ๋„ˆ๋ฌด ์˜ค๋ž˜๋์„ ๊ฐ€๋Šฅ์„ฑ์ด ๋†’์•„์š”. NVIDIA ๊ณต์‹ ์‚ฌ์ดํŠธ์—์„œ ์ตœ์‹  Game Ready ๋“œ๋ผ์ด๋ฒ„ ๋˜๋Š” Studio ๋“œ๋ผ์ด๋ฒ„๋ฅผ ์„ค์น˜ํ•œ ํ›„ PC๋ฅผ ์žฌ์‹œ์ž‘ํ•˜์„ธ์š”. 2026๋…„ ๊ธฐ์ค€ CUDA 12.4 ์ด์ƒ์„ ์ง€์›ํ•˜๋Š” ๋“œ๋ผ์ด๋ฒ„(๋ฒ„์ „ 550 ์ด์ƒ)๋ฅผ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.

ํ•จ์ • 2: ํฌํŠธ 11434 ์ถฉ๋Œ

๋“œ๋ฌผ์ง€๋งŒ ๋‹ค๋ฅธ ํ”„๋กœ๊ทธ๋žจ์ด 11434 ํฌํŠธ๋ฅผ ์ด๋ฏธ ์ ์œ ํ•˜๊ณ  ์žˆ์œผ๋ฉด Ollama๊ฐ€ ์‹คํ–‰๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. PowerShell์—์„œ netstat -ano | findstr :11434๋กœ ํ•ด๋‹น ํฌํŠธ ์‚ฌ์šฉ ์ค‘์ธ ํ”„๋กœ์„ธ์Šค๋ฅผ ํ™•์ธํ•˜๊ณ , ํ•„์š” ์‹œ ํ™˜๊ฒฝ๋ณ€์ˆ˜ OLLAMA_HOST๋ฅผ 0.0.0.0:11435๋กœ ๋ณ€๊ฒฝํ•ด ํฌํŠธ๋ฅผ ๋ฐ”๊ฟ€ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํ•จ์ • 3: RAM ๋ถ€์กฑ์œผ๋กœ ์ธํ•œ ์‹œ์Šคํ…œ ๋จนํ†ต

VRAM์ด ๋ถ€์กฑํ•˜๋ฉด Ollama๋Š” ์ž๋™์œผ๋กœ CPU + RAM์„ ํ™œ์šฉํ•˜๋Š” ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๋ชจ๋“œ๋กœ ์ „ํ™˜ํ•ฉ๋‹ˆ๋‹ค. ๋ฌธ์ œ๋Š” ์ด๋•Œ RAM๋„ ๋ถ€์กฑํ•˜๋ฉด Windows๊ฐ€ ๋””์Šคํฌ ์Šค์™‘์„ ๊ณผ๋„ํ•˜๊ฒŒ ์‚ฌ์šฉํ•˜๋ฉด์„œ ์‹œ์Šคํ…œ ์ „์ฒด๊ฐ€ ๋ฒ„๋ฒ…๊ฑฐ๋ฆฌ๊ฑฐ๋‚˜ ๋ฉˆ์ถ”๋Š” ํ˜„์ƒ์ด ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ์ž์‹ ์˜ VRAM๊ณผ RAM์„ ์ดˆ๊ณผํ•˜๋Š” ๋ชจ๋ธ์€ ์ ˆ๋Œ€๋กœ ์‹คํ–‰ํ•˜์ง€ ๋งˆ์„ธ์š”. ์•ˆ์ „ํ•˜๊ฒŒ ์‹œ์ž‘ํ•˜๋ ค๋ฉด ํ•ญ์ƒ 3B~7B ์†Œํ˜• ๋ชจ๋ธ๋กœ ํ…Œ์ŠคํŠธ ํ›„ ์ ์ฐจ ์˜ฌ๋ฆฌ๋Š” ๋ฐฉ์‹์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.

ํ•จ์ • 4: Open WebUI Docker ์ปจํ…Œ์ด๋„ˆ์—์„œ Ollama ์—ฐ๊ฒฐ ์‹คํŒจ

์•ž์„œ ํŒ์—์„œ๋„ ์–ธ๊ธ‰ํ–ˆ์ง€๋งŒ, Docker ๋‚ด๋ถ€์˜ localhost๋Š” ํ˜ธ์ŠคํŠธ PC๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค. Open WebUI ์„ค์ •์—์„œ Ollama URL์„ http://localhost:11434๋กœ ํ–ˆ๋Š”๋ฐ ์—ฐ๊ฒฐ์ด ์•ˆ ๋œ๋‹ค๋ฉด, http://host.docker.internal:11434๋กœ ๋ฐ”๊พธ์„ธ์š”. ์ด ์‹ค์ˆ˜๊ฐ€ Docker ๋ฐฉ์‹ ์„ค์น˜์˜ 80% ์ด์ƒ์˜ ์˜ค๋ฅ˜ ์›์ธ์ž…๋‹ˆ๋‹ค.

ํ•จ์ • 5: ๋ชจ๋ธ๋ช… ์˜คํƒ€ ๋ฐ ๋Œ€์†Œ๋ฌธ์ž ๊ตฌ๋ถ„

ollama pull Llama3:8b์ฒ˜๋Ÿผ ๋Œ€์†Œ๋ฌธ์ž๋ฅผ ์ž˜๋ชป ์ž…๋ ฅํ•˜๋ฉด "model not found" ์—๋Ÿฌ๊ฐ€ ๋‚ฉ๋‹ˆ๋‹ค. Ollama ๋ชจ๋ธ๋ช…์€ ์ „๋ถ€ ์†Œ๋ฌธ์ž๊ฐ€ ๊ธฐ๋ณธ์ž…๋‹ˆ๋‹ค. llama3.1:8b, qwen2.5:14b, gemma3:12b์ฒ˜๋Ÿผ ๊ณต์‹ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์— ํ‘œ๊ธฐ๋œ ์ด๋ฆ„ ๊ทธ๋Œ€๋กœ ์ž…๋ ฅํ•ด์•ผ ํ•ด์š”. ์ •ํ™•ํ•œ ๋ชจ๋ธ๋ช…์€ Ollama ๊ณต์‹ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์—์„œ ํ™•์ธํ•˜์„ธ์š”.


๐Ÿ“Š ์ „์ฒด ์„ธํŒ… ํ•ต์‹ฌ ์š”์•ฝ

๋‹จ๊ณ„ ํ•ต์‹ฌ ๋‚ด์šฉ ์˜ˆ์ƒ ์†Œ์š” ์‹œ๊ฐ„ ์ฃผ์˜์‚ฌํ•ญ
Ollama ์„ค์น˜ ollama.com์—์„œ .exe ๋‹ค์šด๋กœ๋“œ ํ›„ ์„ค์น˜ 5๋ถ„ ์‹œ์Šคํ…œ ํŠธ๋ ˆ์ด ์•„์ด์ฝ˜ ํ™•์ธ
์ฒซ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ ollama pull qwen2.5:7b 5~20๋ถ„ (์ธํ„ฐ๋„ท ์†๋„์— ๋”ฐ๋ผ) ๋ชจ๋ธ๋ช… ์†Œ๋ฌธ์ž ์ฃผ์˜
API ์„œ๋ฒ„ ํ™•์ธ localhost:11434 ์ ‘์† ํ™•์ธ 1๋ถ„ ํฌํŠธ ์ถฉ๋Œ ์—ฌ๋ถ€ ํ™•์ธ
Open WebUI ์„ค์น˜ pip ๋˜๋Š” Docker ๋ฐฉ์‹ ์„ ํƒ 5~15๋ถ„ Docker ์‚ฌ์šฉ ์‹œ host.docker.internal ์„ค์ •
ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์„ธํŒ… EEVE-Korean ๋˜๋Š” Qwen2.5 ์„ค์น˜ 15~60๋ถ„ (๋ชจ๋ธ ํฌ๊ธฐ์— ๋”ฐ๋ผ) VRAM ์ดˆ๊ณผ ์—ฌ๋ถ€ ํ™•์ธ
์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ์„ค์ • Open WebUI์—์„œ ํ•œ๊ตญ์–ด ๊ณ ์ • ํ”„๋กฌํ”„ํŠธ ์ž…๋ ฅ 2๋ถ„ ๋ชจ๋ธ๋ณ„๋กœ ๊ฐ๊ฐ ์„ค์ • ํ•„์š”
GPU ๊ฐ€์† ํ™•์ธ ollama ps์—์„œ VRAM ์‚ฌ์šฉ๋Ÿ‰ ํ™•์ธ 1๋ถ„ CUDA ๋“œ๋ผ์ด๋ฒ„ ๋ฒ„์ „ ํ™•์ธ

❓ ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

Q1: ollama ์„ค์น˜ ์œˆ๋„์šฐ์—์„œ GPU ์—†์–ด๋„ ๋˜๋‚˜์š”?
๋„ค, GPU ์—†์ด CPU๋งŒ์œผ๋กœ๋„ Ollama๋ฅผ ์„ค์น˜ํ•˜๊ณ  ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋‹ค๋งŒ CPU๋งŒ ์‚ฌ์šฉํ•  ๊ฒฝ์šฐ ๋ชจ๋ธ ์‘๋‹ต ์†๋„๊ฐ€ GPU ๋Œ€๋น„ 5~10๋ฐฐ ์ด์ƒ ๋А๋ ค์งˆ ์ˆ˜ ์žˆ์–ด์š”. ์˜ˆ๋ฅผ ๋“ค์–ด NVIDIA RTX 3060(12GB VRAM)์—์„œ 1~2์ดˆ ๊ฑธ๋ฆฌ๋Š” ์‘๋‹ต์ด ์ธํ…” i7 CPU์—์„œ๋Š” 20~40์ดˆ ๊ฑธ๋ฆด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ผ์ƒ์ ์ธ ํ…Œ์ŠคํŠธ ์šฉ๋„๋ผ๋ฉด CPU๋กœ๋„ ์ถฉ๋ถ„ํ•˜์ง€๋งŒ, ์‹ค๋ฌด ํ™œ์šฉ์„ ์›ํ•œ๋‹ค๋ฉด VRAM 8GB ์ด์ƒ์˜ GPU ํ™˜๊ฒฝ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. AMD GPU๋Š” ROCm ์ง€์›์ด ํ•„์š”ํ•˜๋ฉฐ, ์œˆ๋„์šฐ ํ™˜๊ฒฝ์—์„œ๋Š” NVIDIA CUDA ๊ธฐ๋ฐ˜์ด ๊ฐ€์žฅ ์•ˆ์ •์ ์ž…๋‹ˆ๋‹ค.

Q2: Ollama์—์„œ ํ•œ๊ตญ์–ด ๋Œ€ํ™”๊ฐ€ ์ž˜ ๋˜๋Š” ๋ชจ๋ธ์€ ๋ญ”๊ฐ€์š”?
2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ ํ•œ๊ตญ์–ด ์„ฑ๋Šฅ์ด ๊ฒ€์ฆ๋œ ๋ชจ๋ธ์€ ํฌ๊ฒŒ ์„ธ ๊ฐ€์ง€์ž…๋‹ˆ๋‹ค. ์ฒซ์งธ, EEVE-Korean-10.8B๋Š” ์—…์Šคํ…Œ์ด์ง€์—์„œ ๊ณต๊ฐœํ•œ ๋ชจ๋ธ๋กœ ํ•œ๊ตญ์–ด ์ดํ•ด๋„๊ฐ€ ๋›ฐ์–ด๋‚˜๊ณ  Ollama ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์—์„œ ๋ฐ”๋กœ pullํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋‘˜์งธ, Qwen2.5:14b๋Š” ์•Œ๋ฆฌ๋ฐ”๋ฐ”์˜ ๋‹ค๊ตญ์–ด ๋ชจ๋ธ๋กœ ํ•œ๊ตญ์–ด ์ฒ˜๋ฆฌ๊ฐ€ ์šฐ์ˆ˜ํ•˜๋ฉฐ 14B ๊ธฐ์ค€ VRAM 10GB ์ด์ƒ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. ์…‹์งธ, gemma3:12b๋Š” ๊ตฌ๊ธ€ DeepMind์˜ ์ตœ์‹  ์˜คํ”ˆ์†Œ์Šค ๋ชจ๋ธ๋กœ ํ•œ๊ตญ์–ด ์‘๋‹ต ํ’ˆ์งˆ์ด ํฌ๊ฒŒ ๊ฐœ์„ ๋์Šต๋‹ˆ๋‹ค. 7B ์ดํ•˜ ์†Œํ˜• ๋ชจ๋ธ ์ค‘์—์„œ๋Š” qwen2.5:7b๋„ ๊ธฐ๋ณธ ํ•œ๊ตญ์–ด ๋Œ€ํ™”๊ฐ€ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.

Q3: Open WebUI ์„ค์น˜ํ•  ๋•Œ Docker๊ฐ€ ๊ผญ ํ•„์š”ํ•œ๊ฐ€์š”?
Docker ์—†์ด๋„ pip(ํŒŒ์ด์ฌ ํŒจํ‚ค์ง€ ๊ด€๋ฆฌ์ž)๋ฅผ ์ด์šฉํ•ด ์„ค์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ„ฐ๋ฏธ๋„์—์„œ pip install open-webui ๋ช…๋ น์–ด ํ•˜๋‚˜๋กœ ์„ค์น˜๋˜๊ณ , open-webui serve๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์–ด์š”. ๋‹ค๋งŒ ํŒŒ์ด์ฌ 3.11 ์ด์ƒ์ด ํ•„์š”ํ•˜๊ณ , ํ™˜๊ฒฝ๋ณ€์ˆ˜ ์ถฉ๋Œ์ด ๋ฐœ์ƒํ•˜๋ฉด ๊ฐ€์ƒํ™˜๊ฒฝ(venv) ์„ค์ •์ด ์ถ”๊ฐ€๋กœ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. Docker๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ์ด๋Ÿฐ ์˜์กด์„ฑ ๋ฌธ์ œ๋ฅผ ํ•œ ๋ฒˆ์— ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์–ด ์ดˆ๋ณด์ž์—๊ฒŒ๋Š” Docker Desktop ์„ค์น˜ ํ›„ docker run ๋ช…๋ น์œผ๋กœ ์ง„ํ–‰ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค. 2026๋…„ ๊ธฐ์ค€ Open WebUI์˜ ๊ณต์‹ ๊ถŒ์žฅ ์„ค์น˜ ๋ฐฉ๋ฒ•์€ Docker ๋ฐฉ์‹์ž…๋‹ˆ๋‹ค.

Q4: Ollama ๋ชจ๋ธ ํŒŒ์ผ์€ ์–ด๋””์— ์ €์žฅ๋˜๋‚˜์š”? ์šฉ๋Ÿ‰ ๊ด€๋ฆฌ๋Š” ์–ด๋–ป๊ฒŒ ํ•˜๋‚˜์š”?
์œˆ๋„์šฐ ํ™˜๊ฒฝ์—์„œ Ollama ๋ชจ๋ธ ํŒŒ์ผ์€ ๊ธฐ๋ณธ์ ์œผ๋กœ C:\Users\์‚ฌ์šฉ์ž๋ช…\.ollama\models ๊ฒฝ๋กœ์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค. ๋ชจ๋ธ ํฌ๊ธฐ๊ฐ€ ์ƒ๋‹นํ•ด์„œ 7B ๋ชจ๋ธ ๊ธฐ์ค€ 4~8GB, 14B ๋ชจ๋ธ์€ 8~16GB, 70B ๋ชจ๋ธ์€ 40GB ์ด์ƒ ๊ณต๊ฐ„์„ ์ฐจ์ง€ํ•ด์š”. ์ €์žฅ ๊ฒฝ๋กœ๋ฅผ ๋ณ€๊ฒฝํ•˜๊ณ  ์‹ถ๋‹ค๋ฉด ์œˆ๋„์šฐ ์‹œ์Šคํ…œ ํ™˜๊ฒฝ๋ณ€์ˆ˜์—์„œ OLLAMA_MODELS๋ฅผ ์›ํ•˜๋Š” ๊ฒฝ๋กœ(์˜ˆ: D:\OllamaModels)๋กœ ์„ค์ •ํ•˜๋ฉด ๋ฉ๋‹ˆ๋‹ค. ์‚ฌ์šฉํ•˜์ง€ ์•Š๋Š” ๋ชจ๋ธ์€ ollama rm ๋ชจ๋ธ๋ช… ๋ช…๋ น์–ด๋กœ ์‚ญ์ œํ•  ์ˆ˜ ์žˆ๊ณ , ollama list๋กœ ํ˜„์žฌ ์„ค์น˜๋œ ๋ชจ๋ธ ๋ชฉ๋ก์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Q5: Open WebUI์—์„œ ์™ธ๋ถ€์—์„œ๋„ ์ ‘์†ํ•  ์ˆ˜ ์žˆ๊ฒŒ ์„ค์ •ํ•  ์ˆ˜ ์žˆ๋‚˜์š”?
๊ธฐ๋ณธ์ ์œผ๋กœ Open WebUI๋Š” localhost(127.0.0.1)์—์„œ๋งŒ ์ ‘์† ๊ฐ€๋Šฅํ•˜๋„๋ก ์„ค์ •๋˜์–ด ์žˆ์–ด์š”. ๊ฐ™์€ ๋„คํŠธ์›Œํฌ ๋‚ด ๋‹ค๋ฅธ ๊ธฐ๊ธฐ์—์„œ ์ ‘์†ํ•˜๋ ค๋ฉด ์œˆ๋„์šฐ ๋ฐฉํ™”๋ฒฝ์—์„œ ํ•ด๋‹น ํฌํŠธ(๊ธฐ๋ณธ 3000๋ฒˆ ๋˜๋Š” 8080๋ฒˆ)๋ฅผ ์—ด์–ด์ค˜์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ธํ„ฐ๋„ท ์™ธ๋ถ€์—์„œ ์ ‘์†ํ•˜๋ ค๋ฉด ngrok์ด๋‚˜ Cloudflare Tunnel ๊ฐ™์€ ํ„ฐ๋„๋ง ์„œ๋น„์Šค๋ฅผ ํ™œ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์ด ๊ฐ€์žฅ ๊ฐ„ํŽธํ•˜๊ณ  ์•ˆ์ „ํ•ฉ๋‹ˆ๋‹ค. ๋‹จ, ๋กœ์ปฌ AI ์„œ๋ฒ„๋ฅผ ์™ธ๋ถ€์— ๊ณต๊ฐœํ•  ๊ฒฝ์šฐ ๋ฐ˜๋“œ์‹œ Open WebUI์˜ ๊ณ„์ • ์ธ์ฆ ์„ค์ •์„ ํ™œ์„ฑํ™”ํ•˜๊ณ , ๊ฐœ์ธ์ •๋ณด๊ฐ€ ํฌํ•จ๋œ ๋Œ€ํ™” ๋‚ด์šฉ์ด ์™ธ๋ถ€์— ๋…ธ์ถœ๋˜์ง€ ์•Š๋„๋ก ๊ฐ๋ณ„ํžˆ ์ฃผ์˜ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.


✅ ๋งˆ๋ฌด๋ฆฌ — ์ด์ œ ์ง„์งœ '๋‚ด AI'๋ฅผ ์“ธ ์ฐจ๋ก€์ž…๋‹ˆ๋‹ค

์—ฌ๊ธฐ๊นŒ์ง€ ๋”ฐ๋ผ์˜ค์…จ๋‹ค๋ฉด, ์—ฌ๋Ÿฌ๋ถ„์˜ ์œˆ๋„์šฐ PC์— ์™„์ „ํžˆ ๊ฐœ์ธํ™”๋œ ๋กœ์ปฌ AI ํ™˜๊ฒฝ์ด ๊ฐ–์ถฐ์ง„ ๊ฒ๋‹ˆ๋‹ค.

์›” ๊ตฌ๋…๋ฃŒ ์—†์ด, ์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ ์—†์ด, ์™ธ๋ถ€ ์„œ๋ฒ„์— ๋ฐ์ดํ„ฐ๋ฅผ ๋ณด๋‚ด์ง€ ์•Š์•„๋„ ๋ฉ๋‹ˆ๋‹ค. ๋‚ด ๋ฐ์ดํ„ฐ๋Š” ๋‚ด PC ์•ˆ์—์„œ๋งŒ ์ฒ˜๋ฆฌ๋˜๊ณ , ๋ชจ๋ธ ์„ ํƒ๋ถ€ํ„ฐ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๊นŒ์ง€ ์™„์ „ํžˆ ๋‚ด ์ž…๋ง›๋Œ€๋กœ ์ปค์Šคํ„ฐ๋งˆ์ด์ฆˆํ•  ์ˆ˜ ์žˆ์–ด์š”.

์ •๋ฆฌํ•˜๋ฉด ์ด๋ ‡์Šต๋‹ˆ๋‹ค:
- Ollama = ๋กœ์ปฌ LLM์„ ์‰ฝ๊ฒŒ ์‹คํ–‰ํ•˜๋Š” ์—”์ง„
- Open WebUI = ๊ทธ ์—”์ง„ ์œ„์— ์–น๋Š” ChatGPT ์Šคํƒ€์ผ ์ธํ„ฐํŽ˜์ด์Šค
- ํ•œ๊ตญ์–ด ๋ชจ๋ธ(EEVE-Korean, Qwen2.5 ๋“ฑ) = ์‹ค์ œ๋กœ ์“ธ ์ˆ˜ ์žˆ๋Š” ํ•œ๊ตญ์–ด ๋‘๋‡Œ

๋‹ค์Œ ๋‹จ๊ณ„๋กœ๋Š” Open WebUI์˜ RAG ๊ธฐ๋Šฅ์„ ํ™œ์šฉํ•œ ๋ฌธ์„œ ๊ธฐ๋ฐ˜ Q&A ์‹œ์Šคํ…œ ๊ตฌ์ถ•, Modelfile์„ ์ด์šฉํ•œ ์ปค์Šคํ…€ ํŽ˜๋ฅด์†Œ๋‚˜ ๋งŒ๋“ค๊ธฐ, n8n๊ณผ Ollama ์—ฐ๋™ํ•œ AI ์ž๋™ํ™” ์›Œํฌํ”Œ๋กœ์šฐ ๋“ฑ์„ ๋‹ค๋ฃฐ ์˜ˆ์ •์ž…๋‹ˆ๋‹ค.

์„ค์น˜ํ•˜๋‹ค๊ฐ€ ๋ง‰ํžˆ๋Š” ๋ถ€๋ถ„, ์—๋Ÿฌ ๋ฉ”์‹œ์ง€๊ฐ€ ๋‚˜์˜ค๋Š” ๋ถ€๋ถ„, ๋‚ด PC ์‚ฌ์–‘์—์„œ๋Š” ์–ด๋–ค ๋ชจ๋ธ์ด ๋งž๋Š”์ง€ — ๋Œ“๊ธ€์— ๊ตฌ์ฒด์ ์ธ ์ƒํ™ฉ์„ ๋‚จ๊ฒจ์ฃผ์‹œ๋ฉด ์ง์ ‘ ๋‹ต๋ณ€ํ•ด๋“œ๋ฆด๊ฒŒ์š”. "RTX 3060 12GB์ธ๋ฐ ํ•œ๊ตญ์–ด ๋ชจ๋ธ ์ถ”์ฒœํ•ด์ฃผ์„ธ์š”"์ฒ˜๋Ÿผ ์‚ฌ์–‘๊นŒ์ง€ ์ ์–ด์ฃผ์‹œ๋ฉด ๋” ์ •ํ™•ํ•œ ์ถ”์ฒœ์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค!

๋Œ“๊ธ€

์ด ๋ธ”๋กœ๊ทธ์˜ ์ธ๊ธฐ ๊ฒŒ์‹œ๋ฌผ

⚠️ AI ์ „๋ฌธ๊ฐ€๋“ค์˜ ๊ฒฝ๊ณ : ๋Œ€๋ถ€๋ถ„์˜ AI ๋ชจ๋ธ์ด ์•ˆ์ „ ํ…Œ์ŠคํŠธ์— ์‹คํŒจํ•œ๋‹ค

๐Ÿ” 2026๋…„ ๊ตฌ๊ธ€ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์ด์ •๋ฆฌ: ์ง€๊ธˆ ๋‹น์žฅ ํ™•์ธํ•ด์•ผ ํ•  7๊ฐ€์ง€ ๋ณ€ํ™”

๐Ÿ˜ฑ AI ์•ˆ์ „์„ฑ ํ…Œ์ŠคํŠธ ์ถฉ๊ฒฉ ๊ฒฐ๊ณผ: Claude์™€ GPT, ๊ณผ์—ฐ ๋ฏฟ์„ ์ˆ˜ ์žˆ์„๊นŒ?