트래픽 80%는 오픈 모델로, 수익 90%는 프론티어로..
프론티어 토큰은 최상위 폐쇄형 모델이 처리한 추론량을, 오픈웨이트 토큰은 가중치를 내려받아 직접 운영할 수 있는 모델이 처리한 추론량을 뜻한다. 기술 투자 전문 헤지펀드 Atreides Management의 최고투자책임자 개빈 베이커는 프론티어 모델이 경제적 가치의 90% 이상을 차지하는 동시에 오픈 모델이 전체 토큰의 80% 이상을 처리할 수 있다고 설명했다. 오픈웨이트가 프론티어 모델을 대체하리라던 2024년의 전망과 달리, 처리량과 수익은 각기 다른 공급자에게 돌아가고 있다.
2026년 7월 개발자 플랫폼 Vercel의 AI Gateway에서 Anthropic은 전체 토큰의 약 30%를 처리했지만 지출에서는 65.1%를 차지했다. 평균 가격은 다른 연구소의 4.4배였다. 오픈웨이트의 처리량 점유율은 한 달 전 약 29%에서 3분의 1 수준으로 높아졌으나, 지출 비중은 4% 미만에서 9% 안팎으로 늘어나는 데 그쳤다.
기업이 모든 작업을 저가 모델로 옮기는 것은 아니다. Coinbase는 GLM 5.2와 Kimi 2.7 등을 기본 모델로 시험하면서 사용량을 늘리고 지출을 거의 절반으로 줄였다. 다만 어려운 작업에는 다른 모델을 선택할 수 있도록 했다. 법률 AI 기업 Harvey도 자체 데이터로 조정한 오픈웨이트 모델을 사용하지만 위험도가 높은 질의는 Opus 계열에 맡긴다. 콘텐츠 관리 기업 Box의 CEO 애런 레비가 예상한 대로 저렴한 모델은 대량의 작업을 맡고, 비싼 모델은 어려운 판단을 담당한다.
폐쇄형 선두 모델이 출시 직후 격차를 벌리면 오픈웨이트 모델이 뒤따라 성능 차이를 좁히는 양상이 반복된다. 미국의 대형 은행 PNC는 추격에 걸리는 시간이 짧아지면서 모델 사업자의 마진이 줄어드는 반면, 애플리케이션과 인프라 사업자는 성능 향상과 비용 절감의 혜택을 얻는다고 분석했다. 기업도 예산을 짤 때 토큰 단가뿐 아니라 가격 하락과 사용량 증가, 고난도 작업에 필요한 프론티어 모델 수요를 함께 계산해야 한다.
오픈웨이트롸 오픈소스는 다르다
가격과 성능이 뛰어나더라도 모든 모델을 도입할 수 있는 것은 아니다. 시진핑은 오픈소스 AI를 역사적 기회로 규정했다. 중국은 DeepSeek, Moonshot, Z.ai, Alibaba 계열의 저가 오픈웨이트 모델을 확산시켰다. 기업은 비용을 줄일 수 있지만 중국 모델과 관련 기술에 대한 의존도도 높아진다.
미국에서는 중국산 오픈웨이트 모델의 사이버 보안 위험과 미흡한 안전장치를 조사하는 사례가 늘었다. 중국에서도 기본 모델만 공개하고 프론티어 모델은 심사를 거치게 하며 안보와 관련된 주요 모델은 국내에서만 제공하는 방안이 논의된다. 지금의 저가 공급이 장기 계약 기간에도 계속된다고 장담하기 어렵다.
오픈웨이트와 오픈소스는 같은 개념이 아니다. 기술 전문 로펌 Cooley에 따르면 가중치를 내려받을 수 있는 모델도 상업적 이용과 재배포, 경쟁 모델 학습을 제한하는 별도 라이선스를 두는 경우가 많다. 자체 운영을 택하면 규제 대상 데이터와 영업비밀을 외부 API로 보내지 않아도 된다. 대신 보안과 취약점 관리, 감시, 법규 준수는 기업이 직접 책임져야 한다.
EU AI Act는 범용 AI 사업자에게 기술 문서 작성과 저작권 정책 수립, 학습 콘텐츠 요약 등의 의무를 부과한다. 집행 권한도 2026년 8월부터 본격적으로 적용됐다. GDPR과 데이터 소재지 요건까지 고려하면 모델보다 추론이 이뤄지는 장소를 먼저 결정해야 할 수도 있다. 비용을 계산할 때는 단가뿐 아니라 라이선스 변경과 공급 중단, 운영 인력, 감사, 평판 위험도 포함해야 한다. 토큰 가격이 가장 낮은 모델이 기업의 총비용까지 가장 낮은 것은 아니다.
사람이라는 희소 자원
인간 지식은 프론티어 모델이나 오픈웨이트 모델과 경쟁하는 선택지가 아니다. 두 모델의 품질을 좌우하는 희소 자원에 가깝다. 대규모 사전학습 자료는 구매할 수 있지만 선호도와 평가 기준, 전문가 순위는 사람이 만들고 검수한다. 의료, 법률, 코딩 분야에서는 일반 라벨러가 아니라 해당 분야 전문가의 판단이 보상 모델의 성능과 평가 결과에 큰 영향을 미친다.
조직 리더십 연구자 조너선 웨스트오버의 ‘천재 배분’은 문제를 기존 지식과 얼마나 떨어져 있는지에 따라 구분한다. 정형화된 일상 업무에는 기존의 틀을 적용하면 된다. AI는 중간 수준의 독창성이 필요한 업무에 강하다. 반면 확립된 지식만으로 풀기 어려운 과제는 여전히 인간 전문가가 맡는다. AI를 도입해도 전문가는 사라지지 않는다. 암묵지와 책임 있는 판단이 필요한 업무에 더 집중하게 된다.
오픈웨이트 모델의 경제성은 무료로 쓸 수 있다는 데 있지 않다. 기업이 보유한 지식을 모델에 결합할 수 있다는 데 있다. Harvey처럼 공개 가중치에 독점 데이터와 전문가 피드백을 더하고 요청에 맞는 모델을 고르는 라우터를 운영하면 기업용 지능을 추가로 공급하는 비용이 낮아진다. AI 코딩 도구 Cursor나 Harvey에 쌓이는 사용 기록과 사람의 교정 결과도 다음 학습에 쓰이는 자료가 된다.
프론티어 모델의 API를 사용하면 최신 성능을 빠르게 확보할 수 있다. 다만 가중치와 학습 체계는 기업의 소유가 아니다. 오픈웨이트 모델은 비용과 통제 측면에서 유리하지만 장시간 여러 작업을 수행하는 에이전트의 신뢰성이 상대적으로 낮고 기업이 직접 평가 체계를 마련해야 한다.
비용, 정확도, 속도, 데이터 주권, 설명 책임 가운데 하나를 개선하면 다른 조건이 나빠질 수 있다. 모든 업무를 프론티어 모델이나 오픈웨이트 모델, 인간 가운데 하나에 맡기는 방식에는 한계가 있다.
프론티어, 오픈웨이트 그리고 사람이라는 자원
모델을 기준으로 업무를 배분하지 말고 작업의 성격에 따라 모델을 골라야 한다.
- 규제 대상 데이터와 영업비밀은 승인된 환경에서 운영하는 오픈웨이트 모델이나 온프레미스 모델로 처리한다.
- 분류, 추출, 요약처럼 물량이 많은 작업은 저가 모델에 맡기고, 다단계 계획과 신규 설계, 장기간 수행하는 에이전트 작업, 고위험 판단에는 프론티어 모델을 쓴다.
- 법률, 의료, 재무 분야의 최종 판단과 대외 공시는 사람이 책임진다.
재무 지표도 토큰당 가격이 아니라 업무 한 건을 끝내는 데 드는 총비용으로 계산해야 한다. 모델 추론비에 캐시와 도구 호출 비용, GPU와 운영 인력, 평가와 레드팀, 감사 비용을 더하고 장애, 환불, 평판 훼손에 따른 예상 손실까지 반영한다. 저가 모델의 단가가 25분의 1이더라도 오류 한 건으로 생길 예상 손실이 절감액보다 크다면 경제성이 없다. 반대로 물량이 많고 위험이 낮은 업무에 프론티어 모델을 기본으로 쓰면 필요 이상의 성능에 비용을 지불하게 된다.
모델 교체 주기가 짧아질수록 업무 체계가 특정 공급자에 묶일 위험도 커진다. 모델 중립 게이트웨이와 자체 평가 자료, 섀도 트래픽, 비상 대체 경로를 마련해 두면 새 모델이 나올 때마다 작업별 비용과 품질만 다시 측정하면 된다. 국가와 추론 지역, 데이터 등급, 라이선스에 따른 허용 목록도 이 체계에서 함께 관리한다.
각 요청은 규제와 데이터 주권을 지키는 범위에서 가장 큰 업무 가치를 내는 경로로 보낸다. 승인된 오픈웨이트 모델과 프론티어 API, 인간 전문가를 단독으로 쓰거나 필요에 따라 조합할 수 있다. 비용과 품질, 재작업률은 분기마다 갱신하고 인간의 평가와 피드백, 책임에 필요한 예산은 토큰 예산과 분리한다. 오픈웨이트 모델은 대량 업무와 특화 작업의 비용을 낮추고, 프론티어 모델은 높은 성능이 필요한 작업을 맡는다. 새로운 문제와 조직 고유의 판단은 사람이 담당한다.
출처
- Frontier Models vs. Open Source: The Battle That Defines AI’s Next Phase — Bargo
- Vercel AI Gateway Production Index — Vercel
- Who Wins When AI Models Open Up? — PNC Economics Research
- China Rewrites the Soft Power Playbook for the A.I. Age — New York Times
- Beijing Signals Tiered Governance of Open-Weight Models — Jamestown
- Unlocking the Weights — Cooley
- AI Act — European Commission
- The Genius Allocation Problem — Jonathan Westover
- Why Expert Data Is Becoming the New Fuel for AI Models — SignalFire
