M5 울트라의 1.2TB/s가 로컬 LLM 지형을 다시 흔든다 — Mac Studio vs GPU의 계산법
오늘 아침 애플 하드웨어 스펙표를 보다가 마시던 커피를 뿜을 뻔했다. (내 통장이 또다시 살려달라고 비명을 지른다) M5 Ultra의 메모리 대역폭이 무려 ‘1.2TB/s’란다. r/LocalLLM 레딧은 그야말로 광란의 축제와 집단 멘붕이 뒤섞여 아수라장이 됐다. 게시판을 달구는...
## 최신 글
Recent Posts
AI한테 SEO를 맡기지 말고, SEO 엔지니어를 만들어라 — 3개월 168K 클릭의 구조
AI로 블로그 글이나 랜딩 페이지를 무한 양산해서 검색 트래픽 대박 났다는 썰, 솔직히 이제 지겹다 못해 사기처럼 느껴진다. (나도 블로그 운영하지만 그렇게 날로 먹을 수 있으면 누가 고생하겠는가…) 그런데 어제 r/ClaudeCode에 올라온 후기는 숫자의 디테일이 달라도 너무 ...
Claude로 밤샘 코딩을 맡기는 사람들 — 에이전트에겐 애자일보다 폭포수가 낫다?
자기 전에 에이전트한테 일감 던져놓고 꿀잠 잔 뒤, 다음 날 아침 커피 한잔 마시며 우아하게 머지(Merge) 버튼만 딸깍 누르는 삶. 개발자라면 누구나 한 번쯤 꿈꿔봤을 궁극의 판타지다(물론 현실은 아침에 열어보면 브랜치가 폭파되어 있는 게 다반사지만).
로컬 모델이 처음으로 ‘진짜 끝났다’고 말했다 — 은퇴한 엔지니어의 Qwen 3.8 실험
로컬 LLM으로 코딩 시켜본 개발자라면 누구나 피눈물 흘려본 공통의 경험이 있다. “수정 완료했습니다!”라는 씩씩한 대답을 철석같이 믿고 파일을 열었더니, 단 한 줄도 안 고쳐져 있거나 멀쩡한 코드를 날려먹은 참사. (몇 번을 당했는지 셀 수도 없다…) 결국 “역시 로컬 모델은 장...
7와트로 27B 모델을 굴린다 — Apple Neural Engine 리버스 엔지니어링 실험
맥북으로 로컬 LLM 좀 돌려보겠다고 깝치다가(아니 시도하다가), 무릎 위에서 달궈지는 뜨끈한 알루미늄 판때기와 광탈하는 배터리를 보며 한숨 쉰 적이 한두 번이 아니다. (내 소중한 배터리 효율…) 그런데 어제 r/LocalLLM에 눈을 의심하게 만드는 미친 실험이 하나 올라왔다....