17%라고? 체감은 60% — 구독 한도 논란이 보여주는 로컬 모델의 자리

아침에 일어나서 에이전트 몇 번 띄워놓고 커피 한 잔 마셨을 뿐인데 주간 한도가 반토막 나버렸다…

진짜 내 눈을 의심했다. 며칠 전 Anthropic이 여름 프로모션 끝내면서 주간 사용량 한도를 조정한다고 공지했을 때만 해도 “뭐 17% 감소라니까 좀 아껴 쓰면 되겠지” 싶었다(물론 거대한 착각이었다). 그런데 Reddit r/claudecode에 가보니 난리가 났다. “하루 만에 주간 한도의 60%를 태웠다”는 곡소리가 도배됐고, Claude를 메인 오케스트레이터로만 쓴다는 유저조차 당장 해지하겠다며 Codex나 Astra로 넘어가겠다고 분통을 터뜨리고 있었다.

공식 발표 수치는 17% 깎았다는데 왜 유저들 체감은 60% 삭감이 됐을까? 도대체 어디서 이 거대한 괴리가 터진 건지, 그리고 왜 다들 결국 로컬 LLM으로 시선을 돌리는지 곱씹어보지 않을 수 없었다.

에이전트 코딩은 한도를 무겁게 만든다

예전 챗봇 시절 생각하면 오산이다. 그땐 질문 하나 던지고 코드 스니펫 하나 받아먹는 단타 싸움이라 토큰 소모가 뻔히 보였다. 하지만 요즘 코딩 에이전트는 차원이 다르다.

프로젝트 전체 컨텍스트를 통째로 들이마시고, 지 혼자 계획 세우고, 파일 10개씩 읽고 고치고, 터미널 명령어 때리고, 에러 나면 다시 읽고 삽질한다. 작업 하나 시켰을 뿐인데 백그라운드에서 수십만 토큰이 순식간에 녹아내린다. 문제는 이런 하드코어한 에이전트 워크플로우가 이제 우리 같은 개발자들에겐 ‘숨 쉬듯 자연스러운 일상’이 됐다는 점이다.

Claude한테 코드 직접 짜라고 안 하고 상위에서 지휘만 시키는 오케스트레이터로 굴려도 하루 만에 주간 한도가 거덜 난다. 사정이 이러니 문서에 적힌 “17% 조정” 따위의 숫자가 피부에 와닿을 리가 없다. 토큰당 소비량이 미쳐 날뛰는 시대에, 박제된 한도 테이블은 현실을 전혀 담아내지 못한다.

솔직히 SaaS 구독 서비스 입장도 이해는 간다. 월 20달러 남짓 받아가지고 무제한에 가까운 에이전트 트래픽을 감당하라면 데이터센터 서버가 먼저 녹아내릴 거다. 한도를 조이는 건 어쩔 수 없는 수순인데, 문제는 유저들의 인내심도 한계에 달했다는 거다. 한도 논란 주기는 점점 짧아지고, 커뮤니티 반응은 살벌해졌으며, “더러워서 탈구독한다”는 사람들이 진짜로 늘어나기 시작했다.

정답은 탈출이 아니라 병행이었다

그렇다면 다들 구독 다 끊고 산속으로 들어갔을까? (그럴 리가 없다.)

흥미로운 건 그다음 전개다. r/localllm에 “Qwen 3.8 27B로 Claude 구독 완전 대체 가능하냐?”는 질문이 올라왔는데, 댓글 반응이 기가 막히게 하나로 모였다. “대체는 무슨, 섞어 쓰는 게 정답이다.”

결국 유저들이 찾아낸 현실적인 타협점은 이거였다:

• 프론티어 모델 (Claude, Astra, ChatGPT): 전체적인 설계, 아키텍처 리뷰, 까다로운 엣지 케이스 디버깅처럼 대가리를 세게 굴려야 하는 고난도 플래닝 전담.
• 로컬 오픈 모델 (Qwen 3.8-27B 등): 파일 수정, 보일러플레이트 작성, 단위 테스트 양산, 자잘한 구현 등 무식하게 토큰을 퍼먹는 단순 노동 전담.

예를 들어 RTX 5090에 SGLang 얹어서 Qwen 3.8-27B를 돌리면 150~250 tok/s가 쏟아져 나온다. 속도로만 치면 유료 클라우드 API 뺨을 후려치는 수준이다. 스레드마다 “체감상 Claude 손발로 부려먹기 딱 좋다”는 간증이 쏟아졌다.

돈 계산을 해보면 더 확실해진다. 비싼 프론티어 모델에 멍청한 반복 작업까지 다 밀어 넣으면 지갑도 털리고 멘탈도 털린다. 설계는 가볍고 구현은 무겁다. 그렇다면 무거운 쪽은 내 방구석 GPU(이미 돈 주고 산 고정자산)로 돌리고, 프론티어는 꼭 필요할 때만 호출하는 하이브리드 구조가 제일 가성비가 나온다는 결론에 도달한 거다.

왜 이 구도가 지금 굳어지나

불과 얼마 전까지만 해도 로컬 LLM은 ‘집에서 돌아간다는 데 의의를 두는 장난감’에 가까웠다. 벤치마크 점수만 높고 실제 프로덕션 코드 던져주면 헛소리하기 일쑤였다.

그런데 Qwen 3.8-27B 수준의 모델이 나오면서 판도가 확 바뀌었다. 여기에 vLLM, SGLang 같은 서빙 프레임워크가 미친 듯이 발전하면서 소비자용 데스크톱에서도 쾌적한 처리량이 확보됐다.

심지어 r/ZaiGLM에는 GLM-5.3-Flash(무려 320B MoE다!)를 Kaggle 무료 TPU 8장에 우겨넣어 돌린 변태 같은(?) 능력자까지 등장했다. vLLM TPU 백엔드가 선형 어텐션을 제대로 못 받쳐주니까, 본인이 직접 JAX로 추론 엔진을 짜서 2.9bit 양자화 모델을 올렸단다. 262k 컨텍스트에서 64 tok/s를 뽑아냈다는데, 돈 한 푼 안 들이고 320B급 모델을 개인 환경에서 서빙했다는 사실 자체가 경이로울 지경이다.

물론 모든 개발자가 방구석에 리눅스 서버 파고 GPU 세팅할 여유는 없다. 설정 삽질하느라 날리는 시간도 만만치 않고(경험담이다…), 순수 코딩 지능 자체는 여전히 프론티어 모델이 압도적이니까. 그래서 ‘하이브리드 병행’이 사실상 표준 공식으로 굳어지고 있다.

정리

이번 Claude 한도 사태를 두고 단순히 “Anthropic 쪼잔하다”며 욕하고 끝내기엔 시사하는 바가 꽤 크다.

개발자 커뮤니티는 늘 그렇듯 답을 찾아냈다. “플래닝은 똑똑한 클라우드 모델에게, 삽질은 로컬 머신에게.” 구독료 아끼겠다고 시작한 궁여지책 같지만, 사실 이건 엔지니어로서 어떤 작업에 어떤 도구를 배치해야 최적의 효율이 나오는지 본능적으로 파악한 결과다.

구독 서비스의 한도 줄다리기는 앞으로도 계속될 거다. 하지만 그 싸움 한편에서, 내 책상 위에서 묵묵히 돌아가는 로컬 모델이 이미 든든한 페어 프로그래머로 자리 잡았다는 사실만큼은 분명해 보인다.