중고, 구성품 일부 포함
로컬 LLM 용도로 직접 세팅해서 쓰던 PC를 판매합니다. 우분투 26.04, llama.cpp 환경이 갖춰진 상태로 드립니다. 사양 GPU: NVIDIA TITAN V 12GB (HBM2, 대역폭 652GB/s) CPU: E5-2673V4(20코어 40스레드) 보드: ASUS ROG Rampage V Extreme (X99) 백패널은 없어요. RAM: DDR4 2666 8GB × 4 (32GB, 쿼드채널) 저장장치: M.2 플렉스터 ssd 256GB 파워: Superflower LEADAX 650W 80+ 실버 케이스: 원래 더블 psu를 지원하는 케이스가 아니지만 뒤쪽 망사를 뜯어내서 2번째 psu가 들어가도록 해 두었습니다. DDR4+X99에서 뽑아낼 수 있는 가성비 최대 조합입니다. PCIE 40레인에 라이저 없이 두꺼운 GPU 4개가 들어가고, ecc가 되는 udimm ddr4를 달고 있습니다. GPU4개 달려면 1200w 급 psu 가격도 천정부지로 올라가는데, 저렴한 psu 2개로 돌리실 수 있게 세팅되어 있습니다. 실측 Qwen3.6-35B-A3B UD-Q4, llama.cpp 기준으로 일부 cpu 오프로딩해서 pp512 277.6 ± 2.8, tg128 48.4 ± 0.2, 채팅에서 디코딩 속도 최대 약 47~48tps 나옵니다. 스크린샷 참고해 주세요. M5 맥북 프로 32GB에서 MLX로 돌렸을 때와 비슷한 속도입니다. 맥북이 아니라는 단점을 제외하면 3분의 1가격에 비슷한 성능을 구현합니다. 동일 Volta 아키텍쳐인 V100 16gb나 titan v를 하나 더 구하시면 현재 로컬 최강 qwen3.8 27b dense도 돌리실 수 있고, 두 번째 psu 적당한 거 구하셔셔서 구형 p100 16gb는 타오바오에서 10만원 정도로 구하실 수 있으니 그걸 3개 장착하시면 27b를 q6로 품질 손실 거의 없이 40 tps 가깝게 돌리실 수 있습니다. 내 손안에 LLM을 돌리실 분께 추천드립니다. 부품 가격만 중고 최저가 기준 100만원이 넘습니다. 안 팔리면 부품으로 찢어서 팔려고 합니다. 직거래 시 작동 확인 가능, 택배는 파손면책에 케이스 빼고 부품만 포장해서 발송해 드릴수도 있어요.
