M4 맥북에서 날아다니는 DeepSeek V4 Flash 전용 추론 엔진 ds4c-metal

M4 맥북에서 DeepSeek V4 Flash가 깃털처럼 돌아간다(맥북 유저들의 가슴이 웅장해진다).

애플 실리콘 Metal 프레임워크에 핏(Fit)하게 최적화된 초경량 로컬 추론 엔진 ds4c-metal이 공개됐다. 최근 폭발적인 화제를 모은 DeepSeek V4 Flash 모델을 Mac 환경에서 극한의 속도로 서빙하기 위한 오픈소스 프로젝트다.

로컬에서 LLM 돌리는 매력은 끝이 없지만, 팬 소음과 버벅임에 지쳤던 맥 유저들에게는 그야말로 한 줄기 빛 같은 소식이다.

왜 Metal 전용 엔진인가?

기존 llama.cpp나 Ollama도 훌륭하지만, DeepSeek V4 특유의 하이브리드 어텐션(CSA/HCA)과 MoE 구조를 애플 실리콘의 통합 메모리 대역폭에 100% 밀착시키기엔 아쉬운 점이 많았다.

ds4c-metal은 오직 Apple Silicon Metal 셰이더만을 위해 바닥부터 깎아 만든 전용 엔진이다.

• M 시리즈 GPU의 Unified Memory 아키텍처에 맞춘 제로 카피(Zero-copy) 텐서 로딩
• MoE Expert 스와핑 레이턴시 극단적 단축
• 1M 컨텍스트 처리를 위한 초고속 KV 캐시 압축 최적화

덕분에 M4 Pro/Max 맥북에서 터미널 코딩 에이전트로 물려도 버벅임 없는 쾌적한 반응 속도를 뽑아낸다.

홈랩 맥미니의 최종 진화형

이 엔진의 등장은 Mac mini나 Mac Studio를 로컬 AI 서버로 굴리는 개발자들에게 날개를 달아줬다.

Claude API에 돈을 쏟아붓지 않고도, 책상 위 맥미니 한 대에서 실전급 코딩 에이전트 루프를 24시간 무중단으로 돌릴 수 있는 하이브리드 환경이 완벽하게 갖춰졌다.

정리

ds4c-metal은 오픈소스 모델의 발전이 어떻게 하드웨어 전용 소프트웨어의 혁신으로 이어지는지를 보여주는 교과서적인 사례다.

맥북을 쓰는 개발자라면 더 이상 클라우드 API 눈치 보지 말고, 내 맥북의 잠자는 Metal 코어를 깨워봐라. 로컬 추론의 신세계가 펼쳐진다.