3 minute read

솔직히 정적 벤치마크 점수는 믿거(믿고 거르는) 수준 아닌가?

시험 문제 몇 개 더 맞혔다고 실전 코딩을 잘할 거란 기대는 진작에 접었다. (현실 코딩은 파일 뒤지고, 테스트 깨지고, 에러 로그 물고 늘어지는 개싸움이니까.) 그런데 이번엔 진짜 제대로 된 맞짱 결과가 나왔다.

r/ClaudeCode의 한 개발자(u/entelligenceai17)가 GLM-5.2와 Claude Opus를 실제 Claude Code 터미널 환경에서 동일한 45개 실전 과제로 정면 대결을 붙였다. 결과는 25대 25로 완벽한 동점. 그런데 영수증을 까보니… GLM은 15달러, Opus는 33달러였다.

1. 45개 과제, 동일한 정답 43개 — 그러나 다른 경로

두 모델이 해결한 25개 중 23개는 동일한 과제였다. 한 모델이 풀고 다른 모델이 못 푼 과제는 각각 2개뿐이다. 정답의 교집합이 92%에 달한다. 두 모델의 코딩 에이전트로서의 실질적 역량은 사실상 구분이 안 된다는 뜻이다.

하지만 과정은 달랐다. GLM-5.2가 정답에 도달하기까지 소비한 턴 수는 760턴, Claude Opus는 554턴. GLM이 약 37% 더 많은 시도를 했다. 더 많이 헤매고, 더 많이 시도하고, 결국 같은 정답에 도달한 셈이다.

“성능이 같다”는 단순한 결론을 복잡하게 만드는 부분이다. 에이전트 환경에서 턴 효율성은 단순히 속도의 문제가 아니다. 더 많은 턴은 더 많은 API 호출, 더 긴 대기 시간, 더 높은 컨텍스트 오염 가능성을 의미한다. “결국 풀었으면 됐잖아”라고 할 수도 있지만, 프로덕션 환경에서 턴 수는 곧 비용이다.

2. 비용 구조: $15 vs $33 — 결정적 차이

비용으로 넘어가면 이야기가 완전히 달라진다.

지표 GLM-5.2 Claude Opus
해결 과제 25/45 25/45
총 턴 수 760 554
총 비용 ~$15 ~$33
과제당 비용 ~$0.60 ~$1.32
비용 효율 2.2x 기준

GLM-5.2가 더 많은 턴을 소비했음에도, 과제당 비용은 Opus의 46% 수준이다. 토큰당 단가가 압도적으로 저렴하기 때문이다. 같은 결과를 절반도 안 되는 돈으로 달성했다.

개인 개발자에게는 “한 달에 몇 만 원” 정도의 차이일 수 있다. 하지만 API를 대규모로 호출하는 기업에게는 수천만 원 단위로 확장된다. 하루에 1,000개의 코딩 작업을 수행하는 에이전트 파이프라인이 있다고 가정해보자. Opus를 쓰면 하루 $1,320, GLM을 쓰면 하루 $600. 한 달이면 $21,600 vs $18,000… 가 아니라, $21,600의 차이가 발생한다. 연간으로 넘기면 엔지니어 한 명의 연봉에 근접한다.

비용 효율성이 곧 경쟁력인 시대에, 이 2.2배의 차이는 결코 무시할 수 없는 숫자다.

3. “Confident-Wrong” — 두 모델이 공유하는 치명적 약점

하지만 이 포스트에서 가장 흥미로운 발견은 성공이 아니라 실패 패턴에 있다.

두 모델 모두 45개 중 20개를 해결하지 못했다. 그리고 그 실패의 양상이 놀라울 정도로 동일했다. u/entelligenceai17은 이를 “confident-wrong” 패턴이라고 불렀다. 모델이 정답을 안다고 확신하며 코드를 수정하지만, 그 확신이 틀렸을 때 스스로를 교정하지 못한다.

모델의 크기나 개발사와 무관한 구조적 문제일 수 있다. 현재의 코딩 에이전트 아키텍처가 가진 근본적 한계다. 에이전트가 자신의 추론을 검증하는 메타인지 능력이 부족하기 때문에, 일단 잘못된 방향으로 궤도에 오르면 그 방향을 고수하는 경향이 있다. 더 많은 턴을 소비하는 GLM이 이 패턴에 더 취약할 것이라는 가설도 가능하지만, 실제로는 Opus도 동일한 함정에 빠졌다.

코딩 에이전트의 다음 도약은 모델 자체의 지능 향상이 아니라, 에이전트 아키텍처의 개선에서 올 가능성이 높다. 자기 검증 루프, 다중 에이전트 교차 검토, 또는 실행 기반 검증 강화가 풀지 못한 20개의 과제를 해결하는 열쇠일 것이다.

왜 주목할까?

이 벤치마크는 단순히 “GLM이 Opus만큼 좋다”는 이야기가 아니다. 세 가지 차원에서 의미가 있다.

실환경 벤치마크의 가치를 입증했다. SWE-bench 같은 정형 벤치마크가 아닌, 실제 에이전트 환경에서의 비교가 의사결정에 훨씬 유용한 정보를 제공한다는 걸 보여줬다. 앞으로 이런 “실전 벤치마크”가 커뮤니티 주류가 될 것이다.

오픈웨이트의 도달점을 확인했다. 불과 1년 전만 해도 오픈소스 모델이 상용 프론티어 모델을 코딩에서 따라잡을 거라고 예상한 사람은 많지 않았다. GLM-5.2는 단순히 “저렴한 대안”이 아니라 동등한 품질을 절반 비용으로 제공하는 실질적 대안이 되었다. AI 모델 시장의 가격 구조 전체에 압력을 가할 수밖에 없다.

에이전트 인프라의 중요성이 부상했다. 같은 작업을 더 적은 턴으로 수행하는 능력(효율성)과, 잘못된 방향에서 벗어나는 능력(자기 교정)이 다음 경쟁의 핵심이다. 모델 능력의 문제이기도 하지만, 동시에 에이전트 프레임워크와 시스템 프롬프트 설계의 문제이기도 하다.

정리: “어떤 모델”에서 “어떻게 운영할 것인가”로

u/entelligenceai17의 실험은 한 가지를 분명히 보여준다. 2026년 중반, 코딩 에이전트 분야에서 모델 선택은 더 이상 품질의 문제가 아니다. GLM-5.2와 Claude Opus는 실질적으로 동등한 코딩 능력을 갖췄다. 선택의 기준은 비용, 속도, 에코시스템, 운영 환경으로 이동했다.

다만 아직 풀리지 않은 20개의 과제가 있다는 점을 잊으면 안 된다. 두 모델 모두 “confident-wrong”의 벽에 부딪혔다. 이 벽을 넘는 것이 다음 프론티어이고, 그 열쇠는 아마도 더 똑똑한 모델이 아니라 더 똑똑한 에이전트 구조에 있을 것이다.

AI 코딩 에이전트의 경쟁은 이제부터가 진짜 시작이다.


📌 원문: r/ClaudeCode — GLM-5.2 vs Claude Opus: Real Coding Agent Head-to-Head

참고: Reddit 커뮤니티 데이터를 바탕으로 정리했다.