놀고 있는 내 PC에 AI 잡일 넘기기

클로드 코드(Claude Code)를 쓰다 보면 요약·분류·추출 같은 잡일에도 구독 토큰이 나가고, 한도에 걸리면 기다려야 한다. 그 사이 집에 있는 PC와 그래픽카드는 놀고 있다. 깃허브에 공개된 오픈소스 예스셰프(yeschef)는 이 둘을 붙인다. 클로드 코드가 주문을 내면, 내 네트워크 안의 로컬 모델이 실제 작업을 처리하는 구조다.

무슨 일인가 / 배경

예스셰프는 랩스커뮤니티(labscommunity)가 MIT 라이선스로 공개한 도구로, 클로드 코드와 코덱스(Codex) 양쪽을 지원한다. 이름 그대로 주방 비유를 쓴다. 사용자는 주문을 내는 셰프이고, 내 하드웨어에서 도는 로컬 모델은 티켓을 처리하는 요리사다. 해커뉴스에 공유된 사례에서는 소형 PC 세 대를 묶어 초당 627토큰을 뽑았다고 소개됐다.

구조는 단순하다. 클로드 코드가 MCP와 HTTP로 허브에 연결되고, 허브는 작업 티켓을 SQLite에 저장한다. 각 작업 머신은 허브에 붙어 올라마(Ollama)·vLLM, 또는 오픈AI 호환 규격을 가진 아무 서버에나 일감을 넘긴다. 핵심은 티켓이 데이터베이스에 남는다는 점이다. 세션을 닫아도 작업이 죽지 않고, 며칠 뒤 다른 기기의 다른 세션에서 결과를 찾아갈 수 있다.

저장소가 정리한 비교표도 명확하다. 잡일은 원래 구독 토큰을 태우지만 내 하드웨어에서는 한계비용이 사실상 0이고, 한도에 걸려 기다리는 대신 로컬 쪽 작업은 계속 돈다. 세션과 함께 죽던 장시간 작업은 백그라운드로 넘어가 살아남는다.

핵심 짚어보기

설치는 명령 두 줄이다. 허브 머신에서 yeschef up을 실행하면 토큰을 만들고 클로드 코드 배선까지 끝낸 뒤, 다른 기기에 붙여 넣을 참가 명령을 출력한다. 작업할 기기에서 yeschef join으로 그 명령을 실행하면 올라마·vLLM·LM 스튜디오(LM Studio) 중 무엇이 깔려 있는지 자동으로 찾고, 모델이 실제로 응답하는지 확인한 뒤 등록한다. 맥오에스·리눅스·윈도우를 모두 지원하고, 한 대에서 허브와 작업자를 같이 띄우는 단일 머신 시험도 된다. 문제가 생기면 진단 명령이 원인을 짚어주고, 백그라운드 실행·종료·목록 확인용 명령도 갖췄다. 저장소 자체가 클로드 코드 플러그인이기도 해서, 마켓플레이스로 추가한 뒤 말로 설치를 시키는 방법도 있다.

눈여겨볼 대목은 결과 회수 방식이다. 클로드는 먼저 지금 쓸 수 있는 작업자 목록을 모델명과 기기 이름까지 붙여 보여주고, 일감을 발행한 뒤 전용 하위 에이전트를 띄운다. 세션은 곧바로 사용자에게 돌아오므로 기다릴 필요가 없다. 로컬 모델이 작업을 끝내면 그 하위 에이전트가 스스로 결과를 회수해 파일로 놓는다. 그다음 클로드가 로컬 모델의 결과물을 원래 요구사항과 대조해 검수한다. 작은 모델이 흔히 내는 이탈을 상위 모델이 잡아내는 배치다.

1인기업 실전 적용 포인트

• 잡일부터 넘겨라. 뉴스 요약, 문의 메일 분류, 스크랩한 텍스트에서 항목 추출, 이슈 분류처럼 판단 난도가 낮고 양이 많은 일이 1순위다. 이런 작업은 로컬 모델 품질로 충분하고, 넘긴 만큼 구독 한도가 그대로 남는다.
• 한계비용을 계산해 보자. 이미 가진 PC로 돌리면 추가 지출은 전기요금뿐이다. 매일 수십 건씩 도는 자동화라면 이 차이가 몇 달 만에 장비값을 상쇄한다.
• 장시간 작업은 티켓으로 던져라. 세션이 끊기면 같이 죽는 방식과 달리 작업이 데이터베이스에 남으므로, 저녁에 걸어두고 다음 날 아침 보고 루프에서 결과만 회수하는 식으로 짤 수 있다.
• 검수 단계를 빼지 마라. 로컬 모델 결과를 그대로 발행하면 품질 사고가 난다. 상위 모델이 요구사항 대비 대조하는 마지막 단계가 이 구조의 안전장치다.

전망과 주의점

아직 초기 프로젝트다. 커밋 59개, 별 8개 수준이고 공개된 성능 수치도 제작자 본인의 환경에서 나온 값이므로 내 기계에서 재현될 것이라 가정하면 안 된다. 하드웨어도 공짜가 아니다. 놀고 있는 PC가 없다면 전기·소음·관리 부담이 새로 생기고, 오래된 그래픽카드에서는 작은 모델조차 느려 오히려 대기 시간이 늘 수 있다.

그럼에도 방향은 분명하다. 상위 모델은 판단과 검수에, 로컬 모델은 반복 처리에 쓰는 역할 분담은 개인 개발자와 1인기업이 구독 한도 안에서 처리량을 늘리는 가장 현실적인 방법이다. 이런 도구가 늘어날수록 'AI 비용'은 요금제가 아니라 설계의 문제가 된다.

출처: 깃허브 labscommunity/yeschef (https://github.com/labscommunity/yeschef)