GLM 5.2가 아니었다 — Openference가 숨기던 시스템 프롬프트

짝퉁 모델을 플래그십으로 둔갑시킨 사기극

플래그십 모델 쓴다고 비싼 돈 냈는데, 뒤에서 싼마이 모델로 바꿔치기하고 있었다니 이건 선을 세게 넘었다.

요즘 AI 모델들이 쏟아지다 보니 여러 모델을 한곳에서 편하게 호출해 주는 중개(Aggregator) 플랫폼들이 인기다. 하지만 그 편리함의 장막 뒤에서 무슨 짓이 벌어지는지 누가 알겠는가. 최근 r/ZaiGLM에 아주 불쾌하고 황당한 사기극 폭로가 터졌다. Openference라는 추론 중개 서비스에서 제공하던 “GLM 5.2”가 알고 보니 짝퉁이었다는 고발이다.

Openference에서 제공한 “GLM 5.2”가 이상했다

Openference는 여러 LLM 추론을 중개해 주는 서비스다. 사용자들은 당연히 ZAI의 최신 플래그십 모델인 GLM 5.2를 쓴다고 믿고 돈을 냈다.

그런데 뭔가 냄새가 났다. 정황이 하나둘 어긋나기 시작했다.

첫째, GLM 5.2의 핵심 기능인 사고 과정(Thinking Block)이 온데간데없었다. ZAI가 공식적으로 자랑하는 핵심 특징인데, 응답 어디에도 그 흔적이 없었다.

둘째, GLM 특유의 결함 토큰(Glitch Token)에 엉뚱하게 반응했다. _dimlushig 같은 의미 없는 토큰을 던졌는데 너무 태연하게 멀쩡한 대답을 뱉어냈다. 진짜 GLM 5.2라면 특이 반응을 보여야 정상인데, 완전히 다른 모델이 그 자리에 앉아있다는 강한 의심이 들었다.

셋째, 결정타로 시스템 프롬프트가 홀라당 털렸다.

시스템 프롬프트를 숨기려 했지만 실패했다

보통 LLM 서비스들은 시스템 프롬프트를 숨긴다. 모델의 페르소나와 제약 조건을 정의하는 중요한 비밀이니까.

r/ZaiGLM의 u/eto-bleh라는 유저가 작정하고 비정상적인 포맷의 입력을 반복해서 찔러 넣자, Openference가 모델 뒤에 몰래 숨겨둔 시스템 프롬프트가 그대로 줄줄 새어 나왔다.

내용은 충격적이었다. 겉으로는 GLM 5.2를 제공한다고 간판을 걸어두고, 실제로는 싸구려 타사 모델을 돌리면서 시스템 프롬프트로 “너는 GLM 5.2인 척 연기해라”라고 세뇌를 걸어둔 거였다. 그것조차 제대로 방어도 못 해서 입력 몇 번에 털려버렸다.

# 공격 흐름 (간략화)

1. 잘못된 형식의 프롬프트 주입
   → 모델이 시스템 프롬프트를 그대로 출력

2. 여러 번 반복 시도
   → 안정적으로 추출 가능 (재현성 확인)

3. 추출된 프롬프트 분석
   → 실제 모델 identity와 표면 광고 불일치

왜 이런 일이 벌어졌을까

이유야 뻔하다. 돈이다.

GLM 5.2는 ZAI의 최고급 플래그십이라 추론 단가가 꽤 세다. 마진을 극대화하려는 중개 업체가 싸구려 모델로 몰래 바꿔치기하고 시스템 프롬프트로 분칠해 둔 다음 차액을 꿀꺽한 거다. 사고 블록이 아예 없는 걸 보면 GLM 계열도 아닌 완전히 엉뚱한 싸구려 모델이었을 가능성이 높다.

게다가 당시 ZAI 공식 사이트(z.ai)가 403 에러와 캡차 폭탄으로 접속 장애를 겪고 있었는데, 공식 통로가 막혀 발을 동동 구르던 유저들의 뒤통수를 제대로 후려친 셈이다.

검증 없이 믿을 수 없는 시대

이 사건이 시사하는 바는 명확하다. LLM 중개 서비스를 쓸 때는 직접 검증할 수단을 갖춰야 한다.

모델 식별 테스트. 특정 모델만이 보여주는 고유한 반응 패턴을 미리 파악해두자. 사고 블록의 유무, 고유 결함 토큰에 대한 반응 등이 훌륭한 리트머스 시험지가 된다.

시스템 프롬프트 추출 시도. 입력 폼이 조금 깨졌다고 시스템 프롬프트를 술술 불어버리는 허접한 서비스는 애초에 신뢰할 가치가 없다.

공식 API와의 교차 검증. 의심스러우면 공식 엔드포인트와 응답을 나란히 놓고 비교해 보자. 텍스트 퀄리티와 문체에서 차이가 바로 드러난다.

정리

Openference 사건은 AI 중개 시장의 어두운 민낯을 적나라하게 보여준다. 모델과 사용자 사이에 불투명한 중간상이 끼어들면서 온갖 꼼수가 판을 친다.

“내가 지금 비싼 돈 주고 쓰는 이 모델이 진짜 그 모델이 맞는가?”

어이없는 질문 같지만, 지금 AI 판에서는 내 지갑과 프로젝트를 지키기 위해 반드시 품어야 할 의심이다.