๐Ÿฆž
๋ฌด๋ฃŒ AI

Ollama๋กœ ๋ฌด๋ฃŒ AI

Ollama๋กœ OpenClaw(๊ตฌ Moltbot)์„ ์™„์ „ํžˆ ๋ฌด๋ฃŒ๋กœ ์‹คํ–‰ํ•˜์„ธ์š”. API ๋น„์šฉ ์—†์Œ, ์ œํ•œ ์—†์Œ, ์™„์ „ํ•œ ํ”„๋ผ์ด๋ฒ„์‹œ.

๐Ÿ†“ ์™œ Ollama์ธ๊ฐ€์š”?
  • โœ“์™„์ „ํžˆ ๋ฌด๋ฃŒ โ€” API ๋น„์šฉ ์—†์Œ, ๊ตฌ๋…๋ฃŒ ์—†์Œ, ์˜์›ํžˆ
  • โœ“๋ฌด์ œํ•œ ์‚ฌ์šฉ โ€” ์›ํ•˜๋Š” ๋งŒํผ ๋ฉ”์‹œ์ง€๋ฅผ ๋ณด๋‚ด์„ธ์š”
  • โœ“์™„์ „ํ•œ ํ”„๋ผ์ด๋ฒ„์‹œ โ€” ๋ชจ๋“  ๋ฐ์ดํ„ฐ๊ฐ€ ๋‚ด ์ปดํ“จํ„ฐ์— ์œ ์ง€๋˜๋ฉฐ, ํด๋ผ์šฐ๋“œ๋กœ ์ „์†ก๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค
  • โœ“์˜คํ”„๋ผ์ธ ์ž‘๋™ โ€” ์ดˆ๊ธฐ ์„ค์ • ํ›„ ์ธํ„ฐ๋„ท ์—†์ด OpenClaw ์‚ฌ์šฉ
  • โœ“์‰ฌ์šด ์„ค์ • โ€” Mac/Linux์—์„œ ํ•œ ์ค„ ๋ช…๋ น์œผ๋กœ ์„ค์น˜
๋น„์šฉ ๋น„๊ต
์ œ๊ณต์—…์ฒด์›” 1K ๋ฉ”์‹œ์ง€์›” 10K ๋ฉ”์‹œ์ง€
Ollama (๋กœ์ปฌ)$0$0
Claude API~$5-10~$50-100
OpenAI GPT-4~$10-20~$100-200
Google Gemini~$2-5~$20-50

* Ollama์˜ ์œ ์ผํ•œ ๋น„์šฉ์€ ์ „๊ธฐ์„ธ์ž…๋‹ˆ๋‹ค (24/7 ์‹คํ–‰ ์‹œ ์›” ~$2-5)

์„ค์ • ์•ˆ๋‚ด

1

Ollama ์„ค์น˜

macOS ๋˜๋Š” Linux์—์„œ ํ•œ ์ค„ ๋ช…๋ น:

curl -fsSL https://ollama.ai/install.sh | sh

Windows์˜ ๊ฒฝ์šฐ: ๋‹ค์Œ์—์„œ ๋‹ค์šด๋กœ๋“œ ollama.ai

2

๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ

๋ชจ๋ธ์„ ๋‹ค์šด๋กœ๋“œํ•˜์„ธ์š” (Llama 3.1 8B ์ถ”์ฒœ):

ollama pull llama3.1:8b

์•ฝ 5GB๋ฅผ ๋‹ค์šด๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค. ์ฒ˜์Œ์—๋Š” ๋ช‡ ๋ถ„ ์ •๋„ ๊ฑธ๋ฆฝ๋‹ˆ๋‹ค.

3

OpenClaw ์„ค์ •

OpenClaw์„ ๋กœ์ปฌ Ollama๋กœ ์—ฐ๊ฒฐํ•˜์„ธ์š”:

{
  "agent": {
    "provider": "ollama",
    "model": "llama3.1:8b",
    "baseUrl": "http://localhost:11434"
  }
}
4

์‚ฌ์šฉ ์‹œ์ž‘!

OpenClaw์„ ์žฌ์‹œ์ž‘ํ•˜๊ณ  ๋Œ€ํ™”๋ฅผ ์‹œ์ž‘ํ•˜์„ธ์š”. ์ด์ œ AI๊ฐ€ ์™„์ „ํžˆ ๋‚ด ์ปดํ“จํ„ฐ์—์„œ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค!

openclaw restart

์ถ”์ฒœ ๋ชจ๋ธ

Llama 3.2 3B

๊ฐ€์žฅ ์ž‘๊ณ  ๋น ๋ฆ…๋‹ˆ๋‹ค. ๊ฐ„๋‹จํ•œ ์ž‘์—…์— ์ ํ•ฉ.

llama3.2:3b

RAM: 4 GB

ํฌ๊ธฐ: 2 GB

์†๋„: ๋งค์šฐ ๋น ๋ฆ„

Llama 3.1 8B

์ถ”์ฒœ

์†๋„์™€ ํ’ˆ์งˆ์˜ ์ตœ๊ณ  ๊ท ํ˜•. ๋Œ€๋ถ€๋ถ„์˜ ์‚ฌ์šฉ์ž์—๊ฒŒ ์ถ”์ฒœ.

llama3.1:8b

RAM: 8 GB

ํฌ๊ธฐ: 4.7 GB

์†๋„: ๋น ๋ฆ„

Mistral 7B

์ฝ”๋”ฉ ๋ฐ ๊ธฐ์ˆ  ์ž‘์—…์— ๋›ฐ์–ด๋‚ฉ๋‹ˆ๋‹ค.

mistral:7b

RAM: 8 GB

ํฌ๊ธฐ: 4.1 GB

์†๋„: ๋น ๋ฆ„

Llama 3.1 70B

๊ฐ€์žฅ ๋›ฐ์–ด๋‚จ. ๊ฐ•๋ ฅํ•œ ํ•˜๋“œ์›จ์–ด ํ•„์š”.

llama3.1:70b

RAM: 40+ GB

ํฌ๊ธฐ: 40 GB

์†๋„: ๋А๋ฆผ

๋ชจ๋“  ๋ชจ๋ธ ์ฐพ์•„๋ณด๊ธฐ: ollama.ai/library

๐ŸŽ Apple Silicon์—์„œ ํƒ์›”

Apple Silicon(M1, M2, M3) Mac์ด ์žˆ๋‹ค๋ฉด, Ollama๊ฐ€ ๋งค์šฐ ์ž˜ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. ํ†ตํ•ฉ ๋ฉ”๋ชจ๋ฆฌ ์•„ํ‚คํ…์ฒ˜ ๋•๋ถ„์—:

  • โ€ข Mac Mini M2 (16GB)๋Š” 8B-13B ๋ชจ๋ธ์„ ์›ํ™œํ•˜๊ฒŒ ์‹คํ–‰ ๊ฐ€๋Šฅ
  • โ€ข Mac Studio (64GB+)๋Š” 70B ๋ชจ๋ธ ์‹คํ–‰ ๊ฐ€๋Šฅ
  • โ€ข ์‘๋‹ต์ด ํด๋ผ์šฐ๋“œ AI๋งŒํผ ๋น ๋ฅด๊ฒŒ ๋А๊ปด์ง
  • โ€ข ๋ฌด์†Œ์Œ ์ž‘๋™, ๋‚ฎ์€ ์ „๋ ฅ ์†Œ๋น„
๐Ÿ“Š ํ’ˆ์งˆ ๋น„๊ต

๋กœ์ปฌ ๋ชจ๋ธ์€ ์ผ๋ฐ˜์ ์œผ๋กœ ์ตœ์‹  ํด๋ผ์šฐ๋“œ ๋ชจ๋ธ๋ณด๋‹ค ๋Šฅ๋ ฅ์ด ๋–จ์–ด์ง‘๋‹ˆ๋‹ค:

  • โ€ข Llama 3.1 8B โ‰ˆ ๋Œ€๋ถ€๋ถ„์˜ ์ž‘์—…์—์„œ GPT-3.5 ์ˆ˜์ค€
  • โ€ข Llama 3.1 70B๋Š” GPT-4 ์ˆ˜์ค€์— ๊ทผ์ ‘
  • โ€ข ๋ณต์žกํ•œ ์ถ”๋ก ์—๋Š” ์—ฌ์ „ํžˆ ํด๋ผ์šฐ๋“œ Claude/GPT-4๊ฐ€ ๋” ๋‚˜์Œ

๋Œ€๋ถ€๋ถ„์˜ ๊ฐœ์ธ ๋น„์„œ ์ž‘์—…(์•Œ๋ฆผ, ์›น ๋ธŒ๋ผ์šฐ์ง•, ๊ฐ„๋‹จํ•œ ์ž๋™ํ™”)์—๋Š” ๋กœ์ปฌ ๋ชจ๋ธ์ด ํ›Œ๋ฅญํ•˜๊ฒŒ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค!

๋ฌด๋ฃŒ AI ์‹คํ–‰ ์ค‘!

์ด์ œ ๋ฉ”์‹œ์ง• ์•ฑ์„ ์—ฐ๊ฒฐํ•˜๊ณ  ๋ฌด๋ฃŒ๋กœ ๋Œ€ํ™”๋ฅผ ์‹œ์ž‘ํ•˜์„ธ์š”.