에이전트 토큰이 인간을 추월한 이후 6개월 만에 14배… 소비의 주체가 ‘대화’에서 ‘무인 루프’로 바뀌었다
확인된 전환점
2026년 2월 6일은 OpenRouter 트래픽에서 인간 사용량이 에이전트 사용량을 마지막으로 앞선 날로 기록된다. 이후 곡선은 갈라졌다. 에이전트 토큰은 약 0.51조에서 8월 10일 기준 7일 이동평균 7.3조로 약 14배, 인간 토큰은 약 0.5조에서 1.4조로 약 2.8배 늘었다. 같은 시점 에이전트는 인간보다 약 5배 많은 토큰을 태웠다.
이 수치는 Andreessen Horowitz가 8월 21일 공개한 Charts of the Week에서 OpenRouter와 차트 작성자 Peter Walker의 집계를 인용하며 다시 주목받았다. a16z의 핵심 문장은 단순하다. 완전 배포된 에이전트를 쓰는 도입 기업은 아직 소수인데, 토큰 점유율은 이미 에이전트가 끌어가고 있다는 것이다.
OpenRouter가 에이전트를 가르는 신호는 도구 호출, 대화 턴 수, 시간 패턴이다. 플랫폼 전체 생성형 AI 시장과 동일하지는 않지만, 챗 세션이 아니라 자동 워크플로가 용량을 삼키는 속도는 이 표본만으로도 뚜렷하다.
왜 토큰이 이렇게 inflates 되는가
한 번의 작업이 수백 번의 대화를 삼킨다
에이전트는 질문 하나에 답 하나로 끝나지 않는다. 목표를 쪼개고, 도구를 호출하고, 결과를 읽고, 다시 계획을 고친다. 그 과정에서 시스템 프롬프트, 도구 정의, 코드 규범, 이전 턴 결과가 다음 요청에 반복해서 붙는다. 인간 채팅은 짧고, 에이전트 한 작업은 긴 컨텍스트와 다중 툴콜, 추론 트레이스를 동시에 운반한다.
이 구조는 이미 2025년 말 a16z–OpenRouter의 대규모 토큰 연구에서 ‘에이전틱 추론’으로 포착됐다. 모델이 답을 내놓고 멈추는 단계가 아니라, 계획·검색·평가·수정을 한 세션 안에서 이어가는 행동이 가장 빠르게 늘고 있다는 진단이었다.
캐시가 볼륨의 대부분이다
a16z가 인용한 OpenRouter 분해는 더 중요하다. 에이전트 토큰 소각량의 85% 이상이 캐시된 프롬프트에서 나오고, 상대적 성장분의 거의 전부가 캐시 토큰이다. THE DECODER가 전한 Walker 설명에서는 에이전트 토큰의 약 70%가 캐시 프롬프트로 잡히기도 한다. 정의 범위(에이전트만 vs 전체 세션)에 따라 비율이 달라 보이지만, 방향은 같다. 새로 생성되는 지능보다 반복되는 컨텍스트가 숫자를 키운다.
캐시 읽기는 보통 일반 입력 대비 크게 할인된다. OpenAI는 모델에 따라 캐시 읽기를 입력가의 0.25–0.50배로, Anthropic 계열은 읽기를 약 0.1배로 매긴다. 그래서 토큰 장부가 14배로 불어도 달러 장부는 같은 배율로 뛰지 않는다. 반대로 캐시가 깨지면, 같은 루프가 원가를 한 번에 끌어올린다.
숫자가 과장하는 것과 숨기지 못하는 것
OpenRouter는 전체 시장이 아니다
OpenRouter는 오픈 웨이트 비중이 높다. 오픈 웨이트 모델은 OpenAI·Anthropic 등 폐쇄형 모델보다 토큰 효율이 떨어지는 경우가 많다. 따라서 “전 세계 API에서 인간이 이미 소수”라고 단정하면 표본을 시장으로 확대하는 오류가 된다. THE DECODER 역시 이 편향을 명시하면서, 대형 랩의 방향은 비슷할 가능성이 높다고만 적었다.
토큰 점유율은 이용자 수가 아니다
에이전트가 인간보다 5배 많은 토큰을 쓴다는 말은 사람 수 기준 역전이 아니다. 소수의 상시 가동 파이프라인이 다수 인간의 짧은 대화를 압도하는 구조다. a16z도 “완전 배포 에이전트 사용 기업은 소수”라고 전제했다. 토큰의 민주화처럼 보이는 차트는, 실제로는 사용 강도의 집중일 수 있다.
캐시 인플레이션과 실질 노동은 다르다
회의적 해석은 여기서 힘을 얻는다. 같은 시스템 프롬프트와 도구 명세를 매 턴 다시 붙이면 토큰은 늘지만, 새로 수행된 추론량은 그에 비례하지 않는다. 생산 로그를 분해한 2026년 분석에서는 캐시 적중률이 높은 하네스가 오히려 턴당 토큰은 더 큰데 청구액은 더 작았다. Claude Code 사례에서는 중앙값 턴이 약 6.76만 토큰인데 캐시 비율 92.7%, 턴당 약 2센트였다. 컨텍스트를 적게 싣고 캐시를 못 살린 에이전트는 토큰은 적고 비용은 3배였다. 볼륨 리더보드와 intelligences-per-dollar는 별개 지표다.
기업 현장은 이미 전력법칙이다
토큰 역전은 소비자 챗봇 이야기가 아니라 엔터프라이즈 사용 강도의 이야기에 더 가깝다.
- 선도 기업(상위 10% 전후)은 일반 기업 대비 활성 사용자당 출력 토큰이 8.3배로, 1월 2.6배에서 격차가 벌어졌다.
- a16z가 인용한 OpenAI 쪽 기업 데이터에서는 전 산업 상위 십분위와 중간 기업의 출력 격차가 약 8배, 정보기술 업종에서는 거의 12배까지 벌어진다. 상위 기업의 출력은 2025년 4월 이후 17배 이상, 테크 상위 십분위는 약 1년 만에 32.5배 늘었다.
- 플러그인 주간 사용은 선도 기업 21%, 일반 기업 9%. 스킬 채택은 상위 기업이 일반 기업의 약 6배.
- 기업 출력에서 Codex 비중은 6월 기준 ChatGPT와 합산 대비 64%까지 올라갔다. 직군별 Codex 주간 활성 사용자는 2월 이후 법률에서 108배, 영업·채용에서 41배 늘었다. 채팅이 아니라 문서·코드·조사 같은 다단계 업무로 무게추가 이동 중이라는 신호다.
요점은 “모두가 에이전트를 쓴다”가 아니다. 쓰는 조직은 훨씬 깊게, 훨씬 오래, 훨씬 비싸게 쓴다.
원가 전쟁의 전선이 바뀌었다
가격표가 아니라 루프 설계가 원가다
에이전트 한 작업은 단발 채팅 대비 토큰 풋프린트가 수십 배에서 수백 배로 커질 수 있다. 한 분석은 24시간 가동 에이전트 세션이 작업당 100만–350만 토큰까지 갈 수 있다고 봤다. 모델 단가가 내려가도, 턴 수와 컨텍스트 재적재가 청구서를 결정한다. 팀들이 겪는 ‘인보이스 모멘트’는 데모 11센트가 실제 트래픽에서 작업당 수십 배로 뛰는 패턴이다.
실무에서 비용을 가르는 변수는 대략 넷이다.
- 캐시 적중률: 같은 접두어를 유지하면 입력이 연산(프리필)에서 메모리 읽기로 바뀐다.
- 컨텍스트 위생: 도구 정의·메모리 스냅샷·검색 결과를 매 턴 통째로 다시 넣는 습관이 비용을 벌린다.
- 루프 길이: 실패 재시도와 상호 에이전트 호출은 토큰을 기하급수로 늘린다.
- 라우팅: 캐시를 가진 프로바이더에 요청을 붙여야 할인 구조가 유지된다. OpenRouter가 캐시 유지를 위해 동일 프로바이더로 붙이려는 이유도 여기 있다.
추론 인프라 관점에서는 병목이 GPU 연산만은 아니다. 프리필은 연산 바운드, 디코드와 캐시 재사용은 메모리 대역폭 바운드다. 캐시 토큰이 싸다는 것은, 그 싸움을 HBM과 고대역 메모리 쪽으로 옮긴다는 뜻이기도 하다. a16z가 “캐시 토큰은 프리필보다 훨씬 싸지만 정의상 메모리를 소비한다”고 적은 대목이 그 연결고리다.
소프트웨어 계층도 재편된다
같은 주간 차트에서 a16z는 N8N, Zapier, Make 웹 트래픽이 최근 12주 기준 두 자릿수 하락하고, 에이전트 네이티브 빌더 쪽 트래픽은 상대적으로 살아 있다고 봤다. 다만 웹 트래픽만으로 대체 여부를 단정할 수는 없다. 기존 자동화 툴도 AI 기능을 붙이고 있고, a16z 스스로 “아직 포크로 찍기엔 이르다”고 선을 그었다. 진짜 경쟁은 고정 스텝 자동화냐, 매 작업마다 다시 추론하는 에이전트냐의 단가 비교로 옮겨간다.
이 전환이 남기는 세 가지 함의
수요의 주체가 사용자에서 작업으로 바뀐다
과거 AI 수요 모델은 ‘사람 수 × 질의 빈도’였다. 지금은 ‘에이전트 수 × 세션 길이 × 턴당 컨텍스트’다. 사람 사용량이 정체돼도 컴퓨트 수요는 커질 수 있다. 반대로 에이전트 루프를 줄이면, 이용자 수는 그대로여도 인프라 부하는 급감한다.
지능의 진보와 토큰의 팽창을 구별해야 한다
14배 성장의 상당 부분은 더 똑똑해진 노동이라기보다, 같은 접두어를 더 오래 들고 도는 운영 방식이다. 그 운영이 실제 산출(병합된 PR, 처리된 사건, 닫힌 티켓)로 연결되는지는 토큰 차트만으로는 보이지 않는다. 기업이 봐야 할 KPI는 토큰이 아니라 작업당 유효 비용과 완료율이다.
앞으로의 해자는 모델 점수가 아니라 낭비 통제다
모델 벤치마크 격차는 좁혀지고, 오픈 웨이트와 저가 라우팅이 볼륨을 흡수한다. 남는 차이는 캐시를 깨지 않는 프롬프트 설계, 불필요한 툴콜을 막는 가드레일, 장기 세션을 메모리에 올리는 인프라, 그리고 “에이전트가 얼마나 멍청하게 오래 도느냐”를 관측하는 능력이다. AI 원가는 이제 사람 한 명의 사용량이 아니라, 無人 루프의 지속 시간과 반복 품질에서 결정된다.