100만 토큰 1.4달러, 저가 모델 라우터의 계산법

여러 대형모델을 API 키 하나로 묶어 파는 서비스 토큰고(TokenGO)가 지에이엘엠 5.3(GLM 5.3)을 개발 도구 커서(Cursor)에서 바로 쓸 수 있다고 알렸다. 발표의 중심은 성능이 아니라 값이다. 같은 작업을 어느 모델에 맡기느냐에 따라 토큰 100만 개의 값이 0.1달러에서 15달러까지 벌어진다.

무슨 일인가 / 배경

회사가 공개한 가격표를 보면 격차가 뚜렷하다. GLM 5.3은 입력 100만 토큰당 1.40달러, 출력 4.40달러다. 딥시크(DeepSeek) V4 프로는 입력 0.43달러·출력 0.87달러이며 컨텍스트는 100만 토큰, 경량 모델인 V4 플래시는 입력 0.10달러·출력 0.20달러까지 내려간다. 반대편에는 키미(Kimi) K3가 입력 3.00달러·출력 15.00달러로 자리하고, 미니맥스(MiniMax) M2.5는 입력 0.30달러·출력 1.20달러에 약 19.7만 토큰 컨텍스트를 제공한다.

이런 서비스가 늘어나는 배경은 단순하다. 코딩 에이전트와 자동화 파이프라인이 늘면서 토큰 사용량이 취미 수준을 넘어섰고, 월 청구서에서 토큰이 실제 항목으로 잡히는 사람들이 생겼기 때문이다.

핵심 짚어보기

회사 측은 자사가 단순 중개 프록시가 아니라고 주장한다. 계약으로 확보한 유휴 시간대 연산 용량 위에서 추론 스택을 직접 운영하고, 공식 API는 장애 시 우회로로만 쓴다는 설명이다. 값이 낮은 이유로는 두 갈래를 든다. 비수요 시간대 용량을 직접 굴리는 데서 오는 차익, 그리고 요청 성격별 라우팅·하드웨어별 병렬 처리 조정·커널 최적화·프롬프트 앞부분 캐시 재사용 같은 기술적 절감이다. 가용성은 99.99%를 내걸고 장애 시 대체 경로로 자동 전환한다고 밝혔다.

데이터 정책도 전면에 내세운다. 프롬프트와 응답을 학습에 쓰지 않고, 보관은 법적으로 필요한 최소한으로 제한하며, 데이터센터 파트너와도 무보존 계약을 맺는다는 것이다. 운영 주체는 미국 델라웨어에 법인을 둔 회사이며 데이터 처리 계약서도 요청 시 제공한다고 안내한다.

다만 이 모든 내용은 사업자 본인의 설명이라는 점을 감안해서 읽어야 한다. 제3자 감사 보고서나 가동률 이력 공개 여부는 확인되지 않았다.

1인기업 실전 적용 포인트

• 작업별로 모델을 나눠라. 초안 생성·분류·요약처럼 양이 많고 난도가 낮은 일은 100만 토큰당 0.10달러대 경량 모델로 돌리고, 최종 검수와 판단이 필요한 단계만 비싼 모델에 맡기면 같은 결과물의 비용 구조가 바뀐다.
• 값을 비교할 땐 입력이 아니라 출력 단가를 먼저 보라. 자동 글쓰기·코드 생성처럼 출력이 긴 작업에서는 출력 단가가 청구서를 결정한다. 키미 K3와 딥시크 플래시의 출력 단가 차이는 75배다.
• 저가 경로를 쓰더라도 공식 API 키를 폴백으로 남겨라. 인터페이스가 오픈AI 호환이라면 주소와 키만 바꿔 끼울 수 있으므로, 장애 시 전환 절차를 미리 스크립트로 만들어 두면 하루치 자동 발행을 지킬 수 있다.
• 고객 데이터나 개인정보가 프롬프트에 실린다면 제3자 경유는 다시 검토하라. 보관하지 않는다는 약속과 계약서로 확인 가능한 사실은 다르다. 민감한 처리는 공식 엔드포인트로 분리하는 편이 안전하다.

전망 / 주의점

모델 성능 격차가 좁혀질수록 선택 기준은 값과 안정성으로 옮겨간다. 중개·재판매·자체 운영을 표방하는 사업자가 계속 늘어날 이유다. 그러나 저가 경로의 진짜 비용은 단가가 아니라 장애가 났을 때 자동화가 멈추는 시간이다. 특히 매일 정해진 시각에 발행하거나 주문을 처리하는 구조라면, 값이 30% 싼 대신 한 달에 한 번 몇 시간 멈추는 선택이 이득인지 따져봐야 한다. 도입한다면 소액으로 2주쯤 병행 운영하며 응답 지연과 실패율을 직접 기록해 보길 권한다. 남의 가동률 수치보다 내 로그가 정확하다.

출처: 해커뉴스 (https://www.tokengo.com)