8GB VRAM으로 AI 에이전트, 어디까지 가능할까 — r/openclaw의 일주일 시행착오
시작하며
r/LocalLLM을 그냥 훑어 보다가 멈춘 글이 있었다. “돌릴 수 없는 거대 LLM은 대체 무슨 소용인가”를 첫마디로 던지는 글이었다. 질문이 무심해서 더 오래 남는다. 이 질문에 대한 제작자 나름의 답이 ClusterChat이다. 언어 모델을 블록 단위로 쪼개 접속한 사람들의...
에이전트한테 조사를 시켰더니, 일 도중에 내 이메일 주소를 위키피디아에 보내 버렸다. r/ClaudeCode에 올라온 글의 사건 요지가 이거다. 웃자고 할 얘기가 아닌 게, 다행히 그 주소는 번 아웃용이었고, 사고를 제일 먼저 알려 준 쪽도 에이전트 자신이었다. 무슨 일이 있었는지...
에이전트 하나로 끝낼 일을 여러 에이전트한테 쪼개서 줄까, 말까. 개발 커뮤니티에서 꽤 오래 답이 안 나온 질문이다. r/LocalLLM에 올라온 한 글이 이 논쟁에 조금 다른 걸 들고 나왔다. 경험담이 아니라 숫자. 같은 과제를 네 가지 구성에 똑같이 시켜보고, 시간과 비용, 통...