23시간 뒤 에이전트엔 ‘design’만 남았다 — 100만 토큰 컨텍스트 실전 붕괴 기록
스펙 시트에 박힌 ‘100만 토큰 지원’ 같은 마케팅 문구를 곧이곧대로 믿지 말라는 건 귀에 딱지가 앉도록 들었다. 하지만 솔직히 개발자 입장에서 1M 컨텍스트라는 숫자를 보면 심장이 두근거리는 게 인지상정 아닌가(물론 내 맥미니는 벌써 비명을 질렀다). 며칠 치 회의록, 코드 리...
## 최신 글
Recent Posts
버려진 서버에서 초당 1,000 토큰: AMD MI100 넉 장 부활기
데이터센터에서 퇴역하고 고철 취급받던 중고 가속기 4장을 주워다가 초당 1,000토큰을 뽑아낸 괴물이 등장했다… (15 tok/s 나오던 걸 66배 뻥튀기해 버린 광기다)
에이전트에게 일을 시켰더니 할 일이 늘었다 — Opus 5.5가 그래프를 뒤집기까지
버그 하나 고쳐달라고 에이전트한테 맡겼더니, 일을 끝내기는커녕 해야 할 일 5개를 새로 물어와서 백로그에 던져놨다… (내 일 덜어주는 거 맞냐고)
코딩 에이전트가 시동 걸리지 않는 차를 고쳤다
터미널에서 웹사이트 코드나 짜던 에이전트한테 차고에 처박힌 고장 난 자동차를 맡겼더니, 지 혼자 진단 드라이버를 짜서 시동을 걸어버렸다… (진짜 SF 영화 찍는 줄 알았다)
맥 미니 M2, 하드웨어 안 바꾸고 2~4배 빨라졌다 — Splash 엔진 포트 썰
내 방구석 책상 밑에서 묵묵히 일하던 맥미니 M2가 하드웨어 부품 하나 안 바꿨는데 4배 빨라졌단다… (이게 무슨 연금술인가 싶다)