AI 모델이 확신을 갖지 못한다 — Opus 4.7의 자기 검열 딜레마

Opus 4.7은 분명 4.6보다 머리가 좋은데, 이상하게 같이 일하다 보면 고구마 100개 먹은 것처럼 답답해 미치겠다.

r/claudecode에서 117점의 공감을 얻은 글이 이 답답함을 정확히 꼬집었다. “코드 한 줄 짤 때마다 내부 결재 서류 10장씩 올리는 꼰대 조직과 일하는 기분”이라는 거다(진짜 폭풍 공감이다).

무슨 일이 일어나고 있나

Opus 4.7의 과도한 “자기 점검(Self-monitoring)”은 작업 흐름을 사정없이 끊어놓는다. 사용자의 의도를 몇 번씩 되물어보질 않나, 쓰지도 않을 안전장치를 덕지덕지 붙이질 않나, 심지어 작업 도중에 지 혼자 멈춰 서기도 한다.

가장 혈압 오르는 순간은 “충분히 작업했으니 여기서 멈추겠다”며 마치 선심 쓰듯 코딩을 중단해버릴 때다. 아직 작업이 절반도 안 끝났는데 혼자 퇴근 준비를 하는 꼴이다.

원인으로 지목된 건 시스템 프롬프트의 “대화를 계속 진행하지 마세요”라는 내부 지침이다. 이 가이드라인이 엉뚱하게 작동하면서 긴 호흡의 리팩토링 중간에 강제 셧다운을 유발한다는 분석이 설득력을 얻고 있다.

안전성과 실용성 사이의 줄타기

물론 Anthropic의 고민도 이해는 간다. 유해하거나 위험한 출력을 막으려면 검열이 필수적이다. 하지만 그 검열이 지나쳐서 정상적인 개발 작업까지 마비시키면 도구로서의 가치가 사라진다. 지금 Opus 4.7은 안전 과민증 환자에 가깝다.

더 치명적인 건 이 검열 강도를 사용자가 손댈 수 없다는 점이다. 기업이 정한 일률적인 잣대가 모든 세션에 강제된다. 사내 유틸리티 스크립트 하나 고치는데도 우주 방어급 안전장치가 발동하니 개발자 입장에선 복장이 터질 수밖에 없다.

실무자들의 우회 꼼수

커뮤니티에선 온갖 우회 꼼수가 공유되고 있다. 프롬프트에 “절대 중간에 멈추지 말고 끝까지 실행해”라고 윽박지르거나, 작업을 극단적인 단위로 쪼개서 하나씩 승인하는 식이다. 하지만 모델의 결벽증을 달래기 위해 사용자가 프롬프트 곡예를 해야 한다는 것 자체가 코미디다.

흥미로운 건 같은 기간 “확실해?”라는 한마디에 모델이 얼마나 흔들리는지 측정한 LLM 일관성 벤치마크 결과다. 22개 모델 중 Claude Opus 4만 0.89의 점수를 지켰고, 대다수 오픈소스 모델은 0.5 밑으로 추락했다. 벤치마크 점수와 실무 신뢰도 사이의 간극이 여전히 크다는 뜻이다.

정리

Opus 4.7의 자기 검열은 지나치게 똑똑해진 두뇌가 낳은 의도치 않은 부작용이다. 그 뛰어난 추론 능력을 코드 짜는 데 안 쓰고, 자기 방어와 눈치 보기에 낭비하고 있으니 답답할 노릇이다.

Anthropic이 사용자에게 모델의 “확신 수준”이나 안전성 강도를 조절할 수 있는 슬라이더를 열어주지 않는 한, 당분간은 프롬프트로 멱살 잡고 끌고 가는 수밖에 없다.