3 minute read

새벽에 하이쿠(Haiku) 5.5 가격표를 보고 번쩍 뜨인 눈을 비볐다.

요즘 경량 소형 모델(SLM) 출시 소식은 워낙 흔해서 감흥이 덜한 편이다. 그래서 새벽 3시 넘어 r/ClaudeCode에 올라온 Anthropic의 공식 발표도 처음엔 그냥 무심코 넘길 뻔했다. 그런데 거기에 적힌 숫자를 보는 순간 졸음이 싹 달아났다. 이전 Haiku 4.5 대비 평균 실행 비용 75% 인하. 심지어 10만 토큰 미만 작업에서는 토큰당 단가를 무려 90%나 깎아버렸다.

단순한 반짝 할인 이벤트가 아니다. 이 가격 인하가 실제로 떨어지는 타깃이 바로 우리가 매일 돌리는 ‘서브 에이전트’ 워크플로우라는 점이 핵심이다.

숫자를 차근차근 쪼개보자

조건 Haiku 4.5 대비 변동
평균 전체 실행 비용 약 75% 절감
10만 토큰 미만 작업 (토큰당) 90% 절감 (10분의 1 토막)
10만 토큰 이상 대형 작업 절반 수준 절감
Sonnet 5.5 프롬프트 캐시 읽기 50% 인하 (이번 발표에 슬쩍 포함)

Anthropic 통계에 따르면 전체 Haiku 호출의 약 90%가 10만 토큰 미만 작업에 몰려 있다고 한다. 문서 요약, 단순 분류, 파일 경로 탐색, 모델 라우팅 같은 짧고 빈번한 반복 잡무들이다. 바로 그 영역의 토큰 단가가 하루아침에 10분의 1 수준으로 폭락했다는 뜻이다.

여기에 Haiku 라인업 최초로 effort 조절 슬라이더도 붙었다. 작업 성격에 따라 비용을 아낄지, 추론 깊이를 올릴지 개발자가 직접 스위치를 올렸다 내렸다 할 수 있다. 속도 역시 실시간 고객 챗봇이나 브라우저 자동 조작(Computer Use)에 렉 없이 붙일 수 있을 만큼 빠릿빠릿하다. AWS Bedrock, GCP Vertex AI, Azure 등 클라우드 삼대장에도 발표 당일 즉시 풀렸다.

발표 직후 레딧에는 “드디어 5.5 패밀리가 완성됐다”는 찬사가 쏟아졌다. Opus 5.5, Sonnet 5.5, Haiku 5.5가 최신 세대 안에서 각자의 포지션을 완벽하게 채웠다.

진짜 혁신은 ‘모델 조합’의 경제학에 있다

요즘 제대로 된 AI 에이전트 시스템을 구축할 때 모델 딱 하나만 단독으로 띄워놓고 쓰는 사람은 없다. 메인 두뇌인 Opus나 Sonnet이 사령관 역할을 맡아 큰 그림을 그리고, 가벼운 Haiku급 서브 에이전트들이 자료 조사, 코드 검색, 단위 테스트 검증을 분담하는 ‘멀티 에이전트 분업’이 표준으로 자리 잡았다.

이 분업 구조에서는 스몰 모델의 호출 단가가 곧 전체 파이프라인의 최종 원가를 결정짓는다. 메인 사령관 모델의 호출은 몇 번으로 끝나지만, 밑에서 손발 노릇을 하는 서브 에이전트들은 수십 번, 수백 번씩 호출을 난사하기 때문이다.

실제로 대규모 데이터 분석 에이전트를 돌려보면 단 한 번의 질문을 해결하는 데도 서브 에이전트끼리 수십 번의 API 요청을 주고받는다. 여기서 잡무를 도맡는 일꾼의 단가가 75~90%씩 깎여버리면, 멀티 에이전트 오케스트레이션 전체 원가가 송두리째 재계산된다. “에이전트 여러 개 띄우면 토큰비 때문에 지갑 거덜 난다”는 그동안의 상식이 완전히 뒤집힌 셈이다(지갑 지키미 등장).

여기에 앤트로픽이 아주 교묘하게 끼워 넣은 선물이 하나 더 있다. 바로 Sonnet 5.5의 프롬프트 캐시 읽기 비용을 반값(50%)으로 날려버린 것이다. 긴 코딩 세션을 유지할수록 프롬프트 캐시 히트율이 80~90%까지 치솟는데, 이 캐시 단가가 반토막 났다는 건 실전 개발자들에게 엄청난 체감 할인이다.

비싼 모델이 지휘하고 싼 모델이 발로 뛰는 구조, 그 양쪽의 가격을 동시에 후려친 앤트로픽의 전략적 노림수가 돋보인다.

왜 여기에 주목해야 할까

커뮤니티의 반응도 단순한 환호에 그치지 않았다. “OpenAI 옆구리에 제대로 칼을 찔렀다(Shots fired at OpenAI)”는 댓글이 베스트에 올랐다. 이 가격표가 누구를 정조준하고 있는지 다들 눈치챈 것이다.

프롬프트 캐시 할인 게시물에 달린 한 유저의 댓글이 꽤 뼈를 때렸다: “아직도 뒤통수 칠 함정을 기다리는 중이다. 지금까지 조건이 너무 좋기만 하니까 의심스럽다. 경쟁사가 턱밑까지 숨 막히게 압박하니까 이런 혜자스러운 혜택들이 쏟아지는 거지, 경쟁 끝나면 언제든 한도 깎고 가격 올릴 녀석들이다.”

정확한 통찰이다. 요즘 쏟아지는 스몰 모델들의 출혈 경쟁은 OpenAI뿐만 아니라 오픈소스 로컬 모델 진영(Qwen, Llama)의 급성장을 견제하기 위한 앤트로픽의 가격 방어선이다. 빅테크들의 독점 구도가 깨지고 피 터지는 전쟁이 이어지는 동안에만 이런 파격적인 단가가 유지된다.

정리

Haiku 5.5는 홀로 세상을 구원할 화려한 모델은 아니다. 묵묵히 궂은일을 도맡는 성실한 일꾼이다. 하지만 서브 에이전트 단가를 10분의 1로 후려치고, 캐싱 비용까지 끌어내리면서 에이전트 시스템 전체의 경제학을 완전히 새로 썼다.

그동안 “비용 무서워서 서브 에이전트 몇 개 못 붙였던” 개발자라면 지금 다시 계산기를 두드려보자. 견적서 숫자가 완전히 달라져 있을 테니까. 물론 이 달콤한 가격표가 영원할 거라 믿지는 말자. 꿀은 경쟁이 치열할 때 부지런히 빨아먹는 게 진리다!