주머니 속 로컬 LLM, Tiiny Pocket 실측 후기
r/LocalLLM에 “드디어 Tiiny Pocket을 받았다. 궁금한 거 물어봐”라는 AMA 글이 올라왔다. 이름만 들으면 감이 잘 안 온다. 쉽게 말하면 로컬 LLM을 돌릴 수 있는 주머니 크기 기계다. 노트북도, 미니PC도 아닌 그냥 작은 상자. 그런 상자에서 35B급 모델이...
## 최신 글
Recent Posts
1,500달러로 192GB VRAM 만들기 — 2016년 테슬라 M10 여섯 장으로 큰 LLM 돌리기
로컬 LLM 얘기가 나오면 대화는 대개 같은 지점에서 멈춘다. VRAM이 부족하다는 것. RTX 4090이든 5090이든 용량 자체가 24GB 언저리에서 끊기고, 그 이상을 원하면 수천 달러짜리 워크스테이션 카드로 넘어가야 한다. 그래서 r/LocalLLM에 올라온 이번 글이 신선...
AI가 코드를 10배나 빨리 짜주는데, 이상하게 더 피곤하다
어제 밤 r/ClaudeCode에 눈에 띄는 글이 하나 올라왔다. 요약하면 이렇다. “Claude Code 덕분에 생산성이 10배가 됐다. 근데 이상하게 정신이 지친다.” 글쓴이는 소프트웨어 엔지니어 출신. 원래 일주일 걸렸을 작업을 몇 시간 만에 끝냈고, 결과 품질이 오히려 더 ...
Mac mini 한 대, 회사 비서와 디스패처를 AI에게 넘긴 사례
Reddit의 r/openclaw에 올라온 후기 하나가 오래 기억에 남는다. HVAC, 그러니까 냉난방 설비 회사 운영자가 회사의 비서와 디스패처 업무를 AI 에이전트에게 넘겼다는 글이었다. 데모 발표도 아니고 주말에 만들어 본 토이 프로젝트도 아니다. 실제 고객 응대가 돌아가는 ...