NVIDIA가 조용히 내놓은 550B 모델 — 에이전트 시대의 오픈 웨이트

NVIDIA가 된 모델 회사

GPU 팔아서 돈방석에 앉은 NVIDIA가 이제는 모델 판까지 집어삼키려는 모양이다.

NVIDIA 하면 백이면 백 그래픽카드(GPU)를 떠올린다. 젠슨 황의 가죽 자켓과 하늘을 찌르는 주가가 먼저 생각나는 게 당연하다. 그런데 최근 이 회사가 모델을 직접 깎기 시작했다. 그것도 취미 삼아 장난치는 수준이 아니라 꽤나 진심이다.

지난 6월 4일, NVIDIA는 Nemotron 3 Ultra를 기습 출시했다. 550B 파라미터 MoE 구조에 토큰당 55B를 활성화하는 괴물 모델이다. 가중치만 툭 던진 게 아니라 학습 데이터와 파인튜닝 레시피까지 싹 다 오픈소스로 풀었다. 화려한 키노트도, 대대적인 보도자료도 없이 깃허브와 허깅페이스에 조용히 업로드했다.

워낙 소리소문없이 올라와서 메인스트림 테크 매체들은 며칠 동안 눈치도 못 챘다. r/LocalLLM에서도 “야, 이거 본 사람 있냐?” 하는 글 하나로 뒤늦게 불이 붙었다. 하지만 스펙을 뜯어보면 꽤 공격적인 야심이 엿보인다.

1M 컨텍스트, 그리고 에이전트라는 용도

스펙 시트에서 가장 먼저 눈길을 끄는 건 1M(100만) 토큰 컨텍스트 창이다. 이 정도면 프로젝트 코드베이스 전체를 통째로 밀어 넣거나 수십 시간짜리 로그를 한 큐에 삼킬 수 있다. 요즘 에이전트 워크플로우의 대세가 긴 호흡의 컨텍스트 유지인 만큼 아주 시의적절한 선택이다.

진짜 흥미로운 건 모델의 튜닝 방향성이다. NVIDIA는 대놓고 “채팅 벤치마크 점수나 따려고 만든 모델이 아니다”라고 선을 그었다. 다단계 코딩, 복잡한 도구(Tool) 연쇄 호출, 긴 리서치 루프 같은 실전 에이전트 작업에 올인했다는 설명이다. 일회성 문답용 챗봇이 아니라, 스스로 삽질하고 도구 써가며 수정하는 자율 에이전트 인프라로 쓰라는 거다.

Kimi K2.6, GLM-5.1, Qwen-3.5 등 최근 오픈 웨이트 진영의 공통된 흐름과도 정확히 일치한다. 허울 좋은 리더보드 점수 자랑을 넘어 실전 생산성 경쟁으로 판이 완전히 넘어왔다. NVIDIA는 동급 오픈 모델보다 추론 처리량이 최대 6배 높다고 주장하지만, 자사 벤치마크니 일단 걸러 듣자(원래 자기 자식 자랑은 50% 깎고 들어가는 법이다).

현실적인 장벽: H100 8대

하지만 여기서 찬물을 한 바가지 끼얹어야 한다. 스펙만 보면 침이 꼴깍 넘어가지만, 돌리려면 사소한(?) 문제가 있다.

풀 정밀도(BF16) 가중치를 순정으로 띄우려면 H100 GPU가 무려 8장 필요하다. 맥북이나 방구석 PC에서 Ollama로 딸깍 돌릴 수 있는 체급이 절대 아니다. 집에서 돌리다간 두꺼비집 내려가기 딱 좋다. NVIDIA가 공식 문서에 “Ollama 지원”이라고 써놓은 건 기술적으로 돌아는 간다는 뜻이지, 일반인이 집에서 돌릴 수 있다는 소리가 아니다(마치 소나타 엔진룸에 제트기 엔진을 얹을 수 있다는 말과 같다).

물론 양자화를 빡세게 먹이면 요구 사양이 내려가긴 하겠지만, 550B 모델을 과하게 쥐어짜면 두뇌 손상이 온다. 에이전트는 도구 호출 규격과 코드 문법 정밀도가 생명인데 양자화 손실을 감당하기 어렵다. 결국 엔터프라이즈 서버나 대규모 연구소가 아니면 당장 실전 투입은 그림의 떡이다.

경쟁 지형에서의 위치

독립 벤치마크 기관인 Artificial Analysis 측정에 따르면, Nemotron 3 Ultra는 미국산 오픈 웨이트 모델 중 지능 지수 1위를 찍었다. 하지만 글로벌 전체로 넓히면 여전히 Kimi K2.6 같은 중국계 오픈 모델들이 윗자리를 차지하고 있다.

게다가 벤치마크 점수와 실전 손맛은 천지 차이다. 레딧 원글 작성자도 “다단계 워크플로우에서 도구를 얼마나 덜 고장 내고 호출하는지 직접 돌려봐야 안다”며 의구심을 표했다. 일각에서 “Claude Code 킬러가 나온 거 아니냐”며 호들갑을 떨지만, 이건 멍청한 비교다. Nemotron은 밑단에 깔리는 베이스 모델이고, Claude Code는 모델과 툴링, CLI UX가 하나로 결합된 완성형 제품이니까.

왜 주목해야 할까

당장 내 개발용 맥북에 설치해서 쓸 순 없지만, 이 모델이 던지는 메시지는 묵직하다.

첫째, NVIDIA가 단순히 GPU만 파는 하드웨어 장사꾼에 머물지 않고 모델 생태계까지 주도하겠다는 야심을 드러냈다.

둘째, 벤치마크 숫자놀음 대신 실전 에이전트 도구 호출 능력에 초점을 맞추는 흐름이 빅테크 표준으로 굳어지고 있다.

셋째, 지정학적 이유로 중국산 오픈 모델 쓰기를 껄끄러워하던 북미/유럽 기업들에게 아주 훌륭한 미국산 대체재가 생겼다.

정리

Nemotron 3 Ultra는 지금 당장 우리 손에 쥐어지는 만능 도구는 아니다. 하지만 오픈 웨이트 AI의 미래가 어디로 향하고 있는지를 보여주는 확실한 나침반이다. 더 거대한 컨텍스트, 에이전트 워크플로우 특화, 그리고 GPU 제국 NVIDIA의 본격적인 소프트웨어 참전.

당장은 H100을 잔뜩 가진 클라우드 업체들이 호스팅해 주길 기다려야겠지만, 이런 고체급 모델들이 오픈소스로 풀린다는 것 자체가 개발자 생태계에는 엄청난 축복이다.