3B 활성 파라미터로 SWE-bench 73.4%? Qwen3.6-35B-A3B의 충격

3B 파라미터 모델이 SWE-bench 73.4%를 찍었다고 한다. 프론티어 플래그십 모델이랑 고작 1.6%p 차이다.

…잠깐, 3B? 진짜 3B 맞다(내 눈을 의심했다).

얼마 전 8GB VRAM에서 Qwen3.5:9b를 돌리면서 “로컬 모델도 이제 꽤 쓸만하네”라고 감탄했는데, 알리바바가 그 위에 한 번 더 어퍼컷을 꽂았다. Qwen3.6-35B-A3B. 이름이 긴데, 핵심은 간단하다. 전체 35B 모델인데 실제 연산할 때는 고작 3B 파라미터만 활성화해서 돌아간다는 거다.

MoE 아키텍처의 사기적인 효율

35B 전체 파라미터 모델을 Dense로 굴리려면 16GB VRAM도 버겁다. 하지만 A3B(Active 3B)는 토큰을 생성할 때 30억 개 파라미터만 골라서 쓴다.

연산량과 메모리 대역폭 요구량은 3B 모델 수준인데, 전체 뇌세포의 지식과 추론 능력은 35B 체급에서 나오는 거다. 덕분에 일반 게이밍 노트북이나 M 시리즈 맥북에서도 엄청난 토큰 생성 속도를 뽑아낸다.

SWE-bench 73.4%의 의미

SWE-bench는 AI 모델이 실제 GitHub 오픈소스 이슈를 읽고, 버그를 재현하고, 코드를 고쳐서 테스트를 통과시키는 능력을 측정하는 가장 가혹한 실전 벤치마크다.

여기서 73.4%를 찍었다는 건, 어설픈 챗봇 수준이 아니라 실무 코딩 에이전트의 두뇌 역할을 완벽히 수행할 수 있다는 뜻이다. 클라우드 최상위 모델과 불과 1.6%p 차이밖에 안 난다.

로컬 AI 시대의 변곡점

이 모델이 던지는 메시지는 무겁다.

• 비싼 클라우드 API 구독을 끊어도 내 로컬 컴퓨터에서 실전 코딩이 가능해졌다.
• 민감한 기업 사내 코드베이스를 외부 클라우드로 유출하지 않고도 에이전트를 돌릴 수 있다.
• 토큰 요금 폭탄 걱정 없이 24시간 자율 리팩토링 루프를 돌릴 수 있다.

정리

Qwen3.6-35B-A3B는 오픈소스 로컬 AI 생태계의 거대한 이정표다. 가벼우면서도 똑똑한 MoE 모델의 정점을 보여줬다.

맥미니나 RTX 글카를 가진 개발자라면 지금 당장 Ollama나 vLLM으로 올려서 테스트해 봐라. 로컬 LLM에 대한 선입견이 산산조각 날 거다.