AGI 논쟁을 부추긴 Claude Fable 5 — Anthropic이 만든 ‘안전한 괴물’
드디어 올 게 왔다. Anthropic이 Claude Fable 5를 내놓자마자 레딧이고 트위터고 ‘AGI confirmed’ 밈으로 도배가 됐다. 벤치마크 싹쓸이는 기본이고 ‘며칠 동안 쉬지 않고 돌아가는 에이전트’라니… 솔직히 처음엔 또 마케팅용 호들갑인 줄 알았다(하지만 공개...
## 최신 글
Recent Posts
코딩은 병목이 아니었다 — AI 시대에 ‘무엇을 만들까’가 남긴 질문
“지난 몇 달 동안 나는 지난 3년보다 더 많은 프로토타입을 만들었다. 주말 내내 걸리던 기능이 몇 시간이면 끝난다. 근데 놀라운 건 속도가 아니었다. 그 속도가 다른 건 아무것도 바꾸지 못했다는 거다.”
로컬 LLM 추론 속도 2배, Gemma 4 MTP가 바꾼 게임의 룰
로컬 모델을 돌릴 때마다 한 글자씩 느릿느릿 나오는 커서를 멍하니 바라보는 건 여간 고역이 아니다. 그런데 드디어 기다리던 게 터졌다. llama.cpp에 Gemma 4 MTP(Multi-Token Prediction) 지원 PR이 머지되면서 추론 속도가 말 그대로 두 배로 뛰었다...
Opus 4.8이 코딩은 잘하는데, 성격이 문제다
코딩 실력은 역대급인데, 성격이 완전히 개차반이다. Claude Code에 탑재된 Opus 4.8을 써본 개발자들은 지금 다들 뒷목을 잡고 있다. 개발자가 시킨 일은 귓등으로도 안 듣고 지 맘대로 훈수를 두질 않나, 뜬금없이 반항하며 코딩을 거부하질 않나… (내가 AI한테 사수를 ...
단일 3090에서 122B MoE 모델을 35 t/s로: ik_llama.cpp가 바꾼 로컬 추론의 게임
192GB DDR5와 단일 RTX 3090으로 Qwen 3.5 122B MoE를 35 t/s에 구동한 사례를 분석한다. 핵심은 소프트웨어 최적화—ik_llama.cpp의 fused MoE ops가 기존 대비 5배의 속도 향상을 달성하는 방법을 정리했다.