2026. 1. 25. 01:58
AI/AI Orchestration
๐ง 1. Core Logic Tier (๋๋ ๋ฐ ๋ฆฌ์์ค ํฉํ ๋ฆฌ)
๋ฉ์ธ ๊ฐ๋ฐ ํ๊ฒฝ์ด์ ๋ฆฌ์์ค ์์ฐ์ ํต์ฌ ๊ธฐ์ง์ ๋๋ค.
[Node A] 9950X3D ์ํฌ์คํ ์ด์
- CPU: AMD Ryzen 9 9950X3D (3D V-Cache ๊ธฐ๋ฐ, ๋๊ท๋ชจ ์ฝ๋ ์ธ๋ฑ์ฑ ๋ฐ ์ปดํ์ผ ๊ฐ์)
- Mainboard: ASRock X870E Taichi (PCIe 5.0 x8/x8 ์ง์ ํ๋๊ทธ์ญ)
- GPU 1: NVIDIA RTX 5080 16GB (๋ฉ์ธ ๋ ๋๋ง, ์ ๋ํฐ ์๋ํฐ ๊ฐ์, ๊ณ ํด์๋ ๊ทธ๋ํฝ ์์ฑ)
- GPU 2: NVIDIA RTX 5060 Ti 16GB (๋ก์ปฌ RAG, Continue.dev ์๋ฒ ๋ฉ ๋ฐ ์คํ ์ปดํ๋ฆฟ ์ ๋ด)
- PSU: SuperFlower SF-1200F14XP LEADEX VII PRO PLATINUM ATX 3.1 (PCIE5)
- ์ญํ :
- AI Resource Factory: Stable Diffusion Forge/ComfyUI ๊ธฐ๋ฐ ๊ณ ํด์๋ ์บ๋ฆญํฐ/์ํ ์์ฑ.
- Local Intelligence: IDE(Visual Studio)์ ์ฐ๋๋ ์ด์ ์ง์ฐ ์ฝ๋ ๋ณด์กฐ ๋ฐ ๋ก์ปฌ ์๋ฒ ๋ฉ ์ฐ์ฐ.
- Development Control: ์ ๋ํฐ ํ๋ก์ ํธ ๋ฉ์ธ ๊ฐ๋ฐ ๋ฐ ์ ์ฒด ํด๋ฌ์คํฐ ์งํ.
โ๏ธ 2. Inference Tier (์ค๋ฌด ์ถ๋ก ์๋ฒ)
CTO(Claude)์ ์ง์๋ฅผ ๋ฐ์ ์ค์ ์ฝ๋๋ฅผ ์์ฑํ๋ '์ค๋ฌด์' ๋ ธ๋์ ๋๋ค.
[Node B] 5950X ์ ์ฉ ์ถ๋ก ์๋ฒ
- CPU: AMD Ryzen 9 5950X (16์ฝ์ด 32์ค๋ ๋ ์ํฌ์คํ ์ด์ ๋ ธ๋)
- Mainboard: ASUS ROG Crosshair VIII Dark Hero (X570)
- GPU 1: NVIDIA RTX 5070 Ti 16GB (๊ฐค๋ญ์ BLACK 2X)
- GPU 2: NVIDIA RTX 5070 Ti 16GB (์ด์ ํ MIRACLE WHITE)
- RAM: DDR4 64GB
- OS: Native Ubuntu 24.04 (๊ฐ์ ์ฑ๋ฅ ๊ทน๋ํ)
- vLLM ์ค์ :
- Model: Qwen/Qwen2.5-Coder-32B-Instruct-AWQ
- Options: Tensor Parallel(TP)=2, FP8 KV Cache, Multi-step decoding(steps 10)
- ์ญํ :
- Heavy Worker: 100๋ง ๋ผ์ธ๊ธ ํ๋ก์ ํธ์ ์ค๋ฌด ์ฝ๋ ์์ฑ, ๋ฆฌํฉํ ๋ง, ๋ก์ง ๋ถ์ ์ ๋ด.
- :: AI Orchestration ๊ตฌ์ถ ์์2-1 - ์ถ๋ก (Inference) ์๋ฒ ๋ค์ดํฐ๋ธ Ubuntu ํ๊ฒฝ์ผ๋ก ์ ํ ํ๊ธฐ
๐ 3. Knowledge Tier (์ง์ ๋ฐ ๊ฒ์ ๋ ธ๋)
์์คํ ์ '๊ธฐ์ต'์ ๋ด๋นํ๋ฉฐ, ์ถ๋ก ์๋ฒ์ ๋งฅ๋ฝ(Context)์ ๊ณต๊ธํฉ๋๋ค.
[Node C] 8845HS ๊ณ ์ฑ๋ฅ ๋ฏธ๋ PC
- CPU: AMD Ryzen 7 8845HS / RAM: 32GB / Storage: 1TB NVMe
- ์ญํ :
- Warm Storage (Vector DB): Qdrant ๊ธฐ๋ฐ 100๋ง ๋ผ์ธ ์์ค ์ฝ๋์ ๋ฒกํฐ ์ธ๋ฑ์ค ์ ์ฅ ๋ฐ ๊ฒ์.
- Knowledge Base: ์ ๋ํฐ API ๋ฌธ์, MSDN, ํ๋ก์ ํธ ๊ธฐํ์ ๋ฑ ์ ์ ์ง์ ์๋น.
๐งช 4. Validation & Persistence Tier (๊ฒ์ฆ ๋ฐ ๋ฐ์ดํฐ)
AI๊ฐ ๋ง๋ ๊ฒฐ๊ณผ๋ฌผ์ ์ค์ ๋ก ๊ตฌ๋ํ๊ณ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋กํ๋ ํ ์คํธ ๋ฒ ๋์ ๋๋ค.
[Node D] 1220P ๋ถ์ฐ ํ ์คํธ ํด๋ฌ์คํฐ (4๋)
- H/W: i2-1220P / 16GB RAM / 512GB SSD (Win11 Pro)
- ์ญํ :
- Simulation: ๋น๋๋ ๊ฒ์ ์๋ฒ ๋ฐ ํ ์คํธ ํด๋ผ์ด์ธํธ ๋ค์ค ๊ตฌ๋.
- QA Automation: AI ์์ฑ ๋ก์ง์ ์ฑ๋ฅ ์งํ(TPS, Latency) ๋ฐ ํจํท ์์ ์ฑ ๊ฒ์ฆ.
[Node E] 5600G DB ์ ์ฉ ๋จธ์
- H/W: AMD Ryzen 5 5600G / 32GB RAM / 512GB SSD (Win11 Pro)
- ์ญํ :
- Service DB: ๊ฒ์ ์๋น์ค์ฉ Redis, MySQL ๊ตฌ๋ ๋ฐ DB ์คํธ๋ ์ค ํ ์คํธ ์ํ.
๐ฐ๏ธ 5. Orchestration Tier (๊ด์ ๋ฐ ์ธ๋ถ ์ฐํต)
365์ผ ์์ ๊ฐ๋๋๋ฉฐ ํด๋ฌ์คํฐ ์ ์ฒด์ ์์กด๊ณผ ํ๋ฆ์ ๊ด๋ฆฌํฉ๋๋ค.
[Node F] N355 ์์จ ์ค์ผ์คํธ๋ ์ดํฐ
- H/W: Intel N355 / 16GB RAM / 512GB SSD (Ubuntu)
- ์ํ: 24/7 Always-on
- ์ญํ :
- Gateway: ๋ก์ปฌ ๋คํธ์ํฌ์ ์ธ๋ถ๋ง(Slack, GitHub, ์ธ๋ถ API) ๊ฐ์ ์ํต ์ฑ๋.
- Master Control: n8n ๊ธฐ๋ฐ ์์จ ๊ฐ๋ฐ ์ํฌํ๋ก์ฐ ์ ์ด ๋ฐ WOL์ ํตํ ํ ๋ ธ๋ ๊ธฐ๋.
- Knowledge Hub: Obsidian ์ค์ ์๋ฒ(CouchDB/LiveSync) ์ด์ ๋ฐ ์ง์ ๋ฌธ์ ๋ณด๊ด.
- Reporting: ์์ ์ํ ๋ฐ ํน์ด์ฌํญ์ ์ฌ๋์ผ๋ก ์ค์๊ฐ ๋ณด๊ณ .
๐ ์์คํ ์์ฝ ํ ์ด๋ธ
| ๊ตฌ๋ถ | ์ฃผ์ ์ฅ๋น | ํต์ฌ ์ํํธ์จ์ด | VRAM/RAM | ๊ฐ๋ ์ ๋ต |
| Brain | 9950X3D | SD Forge, Continue.dev | 32GB (GPU) | ์์ ์ |
| Worker | 5950X | vLLM (FP4/FP8) | 32GB (GPU) | ์์ ์ |
| Memory | 8845HS | Qdrant, TEI | 32GB | ์์ ์ |
| Testing | 1220P x4 | Game Server/Client | 16GB x4 | ๊ฒ์ฆ ์ |
| Storage | 5600G | MySQL, Redis | 32GB | ์์ ์ |
| Control | N355 | n8n, Obsidian, Slack | 16GB | ์์(24/7) |
'AI > AI Orchestration' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
| AI Orchestration ๋ฅผ ์์ํด๋ณด๊ธฐ๋ก ํ์ต๋๋ค. (0) | 2026.01.25 |
|---|