AI 토큰 경제: CFO를 위한 AI 손익관리 가이드

CFO가 알아야 할 AI 경제학

기업의 인공지능(AI) 활용이 빠르게 확산하고 있으며, 그 영향력도 IT 부서를 넘어 기업 조직 전반으로 확대되고 있다.^[1] 지난 7년간 데이터센터, 그래픽처리장치(GPU), 클라우드 컴퓨팅 등 AI 인프라에 대한 투자 규모는 주(州)간 고속도로망 구축이나 1990년대 말 인터넷 기업 투자 열풍 시기(닷컴 시대) 등 역대 미국 주요 인프라 투자 규모를 능가했다. 기업의 AI 도입 속도도 빠르게 늘고 있다. 2025년 2분기 기준 경영진의 약 75%가 지난 12개월 동안 AI에 투자했다고 답했다. AI는 기술 비용 항목 중에서도 증가 폭이 가장 컸다. 응답자 중 절반이 디지털 전환 예산의 21~50%를 AI에 쓰고 있다고 답했다.^[2]

최고재무책임자(CFO) 관점에서 AI 투자는 단순한 기술 투자를 넘어, 비용 구조 자체를 바꾸는 근본적인 변화이다. 이는 운영비용과 마진, 예측, 자본 계획 전반에 변동성을 높인다. 기업 내 변동성이 커진 만큼, AI 투자 여부보다 AI 비용 구조를 조기에 파악, 측정, 관리하는 것이 CFO에게 더욱 중요한 사안이 되었다.

기존 비용 관리 체계의 한계

이제까지 CFO는 라이선스, 인력 규모, 인프라 용량, 감가상각표 등에 기반해 예측 가능한 방식으로 기술 비용을 관리해 왔다. 하지만 AI 비용은 다른 방식으로 관리해야 한다. AI 비용은 사용량에 따라 비선형적으로 달라지며, 변동성도 크기 때문이다. 아직 대다수 조직은 AI 비용이 전사적 자원관리(ERP)나 고객관계관리(CRM), 인사(HR), 서비스형 소프트웨어(SaaS) 플랫폼 비용에 포함되어 있어 AI 비용을 정확하게 파악하지 못하고 있다. 하지만 이러한 비용 구조는 이제 지속하기가 어렵다. 에이전틱(agentic) AI의 가격 체계는 이미 좌석당 라이선스 방식에서 사용량 기반, 성과 기반, 매출 증가나 비용 절감 등 실질적 효과에 비례해 값을 매기는 가치 기반 방식으로 바뀌고 있다. AI 가격 체계는 앞으로도 계속 달라질 것으로 예상된다.

이러한 변화는 비용 예측 정확도와 마진 관리에 상당한 영향을 미친다. 클라우드에서 AI 애플리케이션을 운영하는 기업은 토큰 운영비용이 사용량 그대로 계측되지만, AI 확장과 복잡도 증가로 토큰 사용량이 늘어난 기업은 예상치 못한 지출이 발생할 수 있다.

AI 비용의 새로운 단위, 토큰

AI 비용을 이해하려면 먼저 토큰을 이해해야 한다. 토큰은 AI가 문장을 읽고 쓸 때 쓰는 최소 단위다. AI 비용은 이 토큰을 기준으로 계산된다. 텍스트든 이미지든 코드든, AI와 나누는 모든 상호작용은 토큰을 소비한다. 프롬프트와 기존 대화 이력, 데이터 조회 같은 입력값도 토큰으로 계산된다. AI가 내놓는 응답은 물론, AI 에이전트가 이메일을 보내거나 코드를 실행하는 것처럼 대신 수행하는 작업도 출력값으로 토큰에 반영된다.

토큰 한 개의 가격은 어떤 모델을 쓰는지, 어떤 인프라에서 실행하는지 등 여러 요인에 따라 달라진다. 컨텍스트 길이나 응답 속도 같은 세부 설정도 가격에 영향을 준다. 시장 상황도 변수다. 예전에는 사용자 수나 라이선스 개수, 계약 기간처럼 정해진 단위로 비용을 정산했으나, AI 비용은 이와 달리 실제로 쓴 토큰의 양만큼 정산된다.

AI 도입이 확대되면 아래와 같은 변화가 나타난다.

    • 사용자 증가, 데이터 확대, 자율 워크플로(사람 개입 없이 AI가 스스로 여러 작업을 처리하는 방식) 확산에 따라 토큰 사용량이 늘어난다.
    • 모델이 복잡해질수록 비용은 비선형적으로 늘어난다.
    • 토큰 사용을 미리 관리하지 않으면 지출 예측이 어려워진다.

토큰 사용량 증가 요인과 시사점

기업의 월간 토큰 생성량은 조직 규모와 프롬프트 작성 패턴, 모델 복잡도에 따라 달라진다. 프롬프트 작성 패턴에는 글자 수나 상호작용 횟수가 포함된다.

기업이 AI·디지털 중심으로 전환하면 토큰 사용량은 계속 늘어난다. 사용량이 늘면 이를 뒷받침할 인프라도 그만큼 더 필요해진다. AI를 구동하려면 연산을 처리하는 고성능 칩인 GPU가 더 많이 필요하다. 전문 업체의 데이터센터 공간을 빌려 서버를 두는 코로케이션(colocation) 수요도 커진다. 서버를 가동하려면 전력 공급 설비와 냉각 설비도 함께 늘려야 한다. 이러한 GPU와 코로케이션, 전력·냉각 설비가 모두 AI 인프라에 포함된다. 재무와 기술 리더는 이런 AI 인프라 수요 변화를 선제적으로 파악해야 한다. AI 인프라에 대한 투자 결정이 결국 운영비용과 자본 지출, 즉 토큰 경제 전반에 영향을 미치기 때문이다.

언뜻 간단해 보이는 대화 하나에도 토큰 수천 개가 사용된다. 사용 규모가 커지면 수백만 개는 금세 수십억, 수조 개로 불어난다. 한 예시로 딜로이트와 협업한 대형 헬스케어 기업은 토큰 사용량이 월 8~10%씩 늘어 6개월 만에 1조 개에 달했다. 그 결과 재무팀이 원인을 파악하기도 전에 예산에 없던 추가 비용이 연 환산 600만 달러 이상 발생했다.

토큰 사용 개수는 엔지니어링 선택과 시스템 복잡도, 사용자 행동에 따라 크게 달라진다.

AI에 질문을 하나 보낼 때마다 입력 토큰과 출력 토큰, 두 가지가 함께 사용된다. 질문 내용이 입력 토큰으로, AI의 답변이 출력 토큰으로 계산된다. 질문을 이해하고 답을 만들어내는 전 과정이 토큰 단위로 진행된다. 약 1,500단어는 토큰 약 2,048개에 해당하며, 여러 차례 주고받는 대화라면 입력과 출력을 합쳐 토큰 5,000개가 사용되기도 한다.^[4][5]

사용자 한 명이 추론 과정에서 토큰 수백만 개를 소비하기도 한다. 기본형 챗봇이라면 구독자 한 명당 연간 940만 개, 슈퍼 에이전트라면 사용자 한 명당 연간 최대 3억 5,600만 개에 이른다.^[6]

조직마다 월간 토큰 사용량은 편차가 크며, 비용도 그만큼 달라진다. 시애틀의 한 소프트웨어 스타트업은 30일 동안 토큰 약 10억 개를 소진했는데, 사용량과 가격 구조가 모두 유동적이어서 비용을 예측하기조차 어려웠다.^[7] 구글은 2025년 자사 제품과 API 전반에서 월 480조 개 이상의 토큰을 처리했다고 밝혔는데, 이는 전년의 월 9조 7,000억 개에서 약 50배 증가한 규모다.^[8][9] 이처럼 AI 활용이 빠르게 확대되면 토큰 사용 및 처리 규모도 급증할 수 있어, 기업은 사용량 증가가 비용 구조에 미치는 영향을 면밀히 관리할 필요가 있다.

토큰은 제조업의 변동원가와 비슷하게 쓸수록 비용이 늘어난다. 하지만 토큰 수요를 통제하기는 훨씬 더 어렵다. AI 활용이 확대되면 토큰 사용량도 자연스럽게 늘어나는데, 사용자 수, 데이터 형태, 에이전틱 워크플로(AI가 작업을 처리하는 절차와 흐름) 설계, 프롬프트 관리 체계 등 다양한 요인이 함께 작용하기 때문이다. 현재로서는 이 요인들이 서로 어떻게 맞물려 토큰 수요를 늘리는지 이해하고 대응할 수 있는 기술 리더는 소수에 불과하다. 그나마 AI를 대규모로 도입한 기업이 그 영향을 가장 먼저 체감하고 있다.

대표적 사례로 미국 통신사 AT&T가 있다. AT&T는 10만 명 이상의 직원들에게 AI 솔루션을 지원하고 사람을 대신해 특정 업무를 자동으로 처리하는 워커 에이전트 전반에도 AI 솔루션을 도입했다. 그 결과 하루 토큰 사용량이 80억 개에 달했다. 이후 AT&T는 슈퍼 에이전트가 여러 워커 에이전트를 관리·조율하는 멀티에이전트 체계로 전환했다. 몇 달 만에 하루 토큰 사용량은 270억 개로 세 배 늘었지만, 비용은 오히려 90% 줄었다.^[10]

토큰 총량뿐 아니라 개당 단가도 변수다. SaaS, 클라우드, 전용 호스팅 등 호스팅 방식에 따라 토큰 단가가 달라진다. 게다가 어떤 방식이 가장 유리한지는 AI 도입 규모가 커지면서 계속 바뀐다. 이러한 이유로 CFO는 지출 증가 폭을 가늠하기가 어려워진다.

그림 1. 호스팅 방식별 AI 토큰 단가 변화

출처: Deloitte, "Navigate the economics of AI: How tokenomics is reshaping AI costs and ROI," 2026년 1월
참고: SaaS는 제공업체마다 토큰 비용이 불투명하고 제각각이기 때문에 클라우드와 자체 호스팅 방식으로만 비용을 분석하였음

딜로이트 분석에 따르면 AI 토큰 단가는 사용량에 따라 크게 달라진다. 토큰 사용량이 증가하는 단계마다 어떤 호스팅 방식이 더 저렴한지도 시시각각 바뀌기 때문이다.

    • 몇몇 SaaS 솔루션은 아직 토큰 가격을 공개하지 않고 있으나, 최근 들어 이들도 토큰 계측 기능을 도입하기 시작했다.^[11]
    • 사용량이 적을 때는 단가는 높아도 유연성이 크기 때문에 클라우드 API가 유리하다.
    • 사용량이 중간 규모일 때는 대체 클라우드나 GPU 컴퓨팅 전문 업체인 네오클라우드가 비용 효율이 높다.
    • 사용량이 지속적으로 많을 때는 AI 팩토리나 자체 호스팅의 단가가 가장 낮으나, 초기 자본 투자가 필요하다.

딜로이트가 미국 기업 리더 550명을 대상으로 진행한 '기업 AI 인프라 조사(2028년 전망)'에 따르면, 기업의 AI 토큰 소비량과 지출액은 이미 높은 수준이며 더 빠르게 늘어날 전망이다. 실제로 많은 기업이 이미 월 100억 개 이상의 토큰을 생성하고 있다. 월 1,000억 개 이상의 토큰을 생성할 것으로 예상하는 기업 비율은 2025년에서 2028년 사이 세 배로 늘어날 전망이다.

많은 CFO가 사용량이 어느 수준에 이르렀을 때 개입해야 하는지, 예산 상한선과 대응 기준 중 무엇부터 정해야 하는지, 개입하지 않는다면 마진과 비용 예측 중 무엇이 먼저 문제가 될지 등의 질문과 마주하고 있다. CFO가 직접 시스템 구성 방식을 선택하지는 않지만, 경제적 제약 조건과 상한선, 그리고 한도를 초과했을 때 누가 대응할지에 대한 기준은 CFO가 정하는 경우가 많다. 토큰 비용 구조가 CFO의 책임 범위와 맞닿는 지점에서는 그 결과도 CFO가 직접 감당해야 한다.

AI 확산의 청구서, 토큰 비용 관리가 CFO의 새 과제로

토큰 흐름을 관리하지 않으면 CFO는 아래 네 가지 위험에 직면할 수 있다.

➀ 비용 예측 오차 확대

AI 지출은 고정비가 아니라 변동비처럼 움직인다. 토큰 소비량을 미리 정확히 추정해 두지 않으면 AI 도입이 늘어날수록 예측 오차도 커진다. 예측 모델 자체를 상당 부분 재검토해야 할 수도 있다. AI 구축 비용 시나리오는 대략 다음과 같은 식으로 계산된다: (사용자당 평균 토큰 수 × 사용자 수 × 토큰당 단가) × (모델 조합 계수). 사용량과 확장 속도가 아직 불안정하다면, 부서별·사용자별로 토큰 사용 한도를 미리 정해두고 주기적으로 점검하는 가이드라인이 필요할 수 있다.

➁ 숨은 비용에 의한 마진 잠식

토큰 비용은 SaaS 계약, 클라우드 청구서, 전문 서비스 인보이스 비용 등에 분산돼 있어 전체 규모를 한눈에 파악하기 어렵다. 이에 따른 마진 압박은 점진적으로 누적되다가 AI 사용 규모가 이미 상당 수준 확대된 뒤에야 가시화되는 경우가 많다. 비용 부담이 재무 실적에 본격적으로 반영될 시점에는 계약 조건을 재협상하거나 이미 발생한 비용을 줄일 여지도 제한적이다.

따라서 리더는 SaaS 제공업체와 계약을 체결하는 단계부터 토큰 관리 관련 조항을 협의할 필요가 있다. 특히 제공업체가 집계하는 세부 토큰 사용 내역에 대한 접근권을 확보하면, 실제 비용이 청구되기 전에 토큰 사용량과 비용 발생 추이를 선제적으로 파악할 수 있다. AI 워크로드를 클라우드에서 운영한다면 더욱 면밀한 운영비용 관리가 필요하다.

구체적으로는 조직 내 사용자 도입 현황과 행동 패턴, 솔루션 설계를 더 꼼꼼히 들여다봐야 한다. 재무팀과 기술팀이 함께 클라우드 비용을 상시로 추적하고 최적화하는 체계, 이른바 핀옵스(FinOps)도 갖춰야 한다.

이와 별개로 전략과 규모에 따라서는 외부 인프라를 빌리는 대신 기업이 직접 소유하거나 전용으로 임대한 인프라에서 AI를 운영하는 자체 호스팅이 더 합리적인 경우도 있다. 초기 투자는 크지만, 사용량이 많아질수록 단가가 낮아지기 때문이다.

결국 어떤 방식을 택하든 비용 자체는 사라지지 않는다. 리더는 체계를 갖춰 전략의 타당성을 검증하고, 비용을 지속적으로 관리해야 한다.

➂ 뒤늦은 자본 지출 결정

토큰 사용 추이를 조기에 파악하지 못하면, CFO는 떠밀리듯 자본 지출 결정을 내릴 수밖에 없다. 토큰 사용량이 이미 확정된 뒤에야 자체 호스팅이나 전용 인프라 투자를 결정하는 식이다. 미국 금융 서비스 그룹 TIAA Nuveen의 션 살라미 CFO는 CFO가 선제적으로 대응하려면 재무와 기술 리더 간 긴밀한 협업이 중요하다고 강조한다. 살라미는 혁신 기술에 대한 투자를 승인받으려면 CFO와 가까운 관계를 유지하며 사업의 매출 창출 방식뿐 아니라 리스크의 원천과 구체적인 경쟁 차별점까지 이해해야 한다고 기술 리더들에게 당부했다.^[12]

➃ AI 투자 성과 입증 부담 확대

AI 투자가 확대될수록 애널리스트와 투자자는 그에 상응하는 실질적인 성과를 요구한다. 매출 증가나 비용 절감, 생산성 향상 등의 효과가 나타나더라도 AI 운영에 투입된 토큰 비용을 고려하면 실제 성과는 달라질 수 있다. 따라서 기업은 토큰 비용을 차감한 뒤에도 AI 투자가 어느 정도의 순효과를 창출했는지 입증할 수 있어야 한다. 이를 명확히 제시하지 못하면 AI 투자 성과에 대한 시장의 신뢰가 낮아지고, 기업이 제시하는 실적 내러티브의 설득력도 약화할 수 있다.

CFO를 위한 토큰 비용구조 관리 원칙

CFO에게 중요한 건 어떤 AI 모델이 정답인가가 아니라, 토큰 수요를 얼마나 일찍 파악해 비용 구조의 변곡점을 예측할 수 있는지다. CFO가 토큰 하나하나를 추적할 필요는 없지만, 토큰 지출 증가가 명확한 전략적 판단에 따른 것인지는 확인해야 한다. 총소유비용도 얼마를 쓰는가가 아니라, 그 비용이 가치사슬 어느 단계에서 가치를 만드는가까지 따져 투자 판단의 근거로 삼아야 한다. 즉, 토큰 비용 구조 역시 자본 배분과 같은 수준으로 다뤄야 한다. 아래 세 가지 원칙을 기준으로 삼을 수 있다.

➀ 사업 가치 중심의 AI 투자 재편

AI가 조직의 핵심 전략이라면 단순한 AI 투자 확대를 목표로 두어서는 안 된다. 가장 높은 가치를 창출할 수 있는 영역에 자원을 집중해야 한다. 그러나 현재 많은 기업의 AI 전략은 실질적인 사업 가치보다 경쟁에서 뒤처질 수 있다는 불안감에서 출발하는 경우가 많다. 따라서 대형 언어 모델(LLM)을 활용해 새로운 역량을 확보하거나 ERP에 AI를 내장하고, 고부가가치 프로세스를 최적화하는 등 명확한 사업 가치를 창출할 수 있는 전략적 투자에 우선순위를 둬야 한다. 이를 위해서는 개별 사업부를 넘어 전사적 관점에서 AI 투자를 판단하고 조직의 비전 및 전략과 일치시키는 것이 중요하다. 이러한 기준이 확립돼야 투자를 확대·지속할 영역과 축소·철수할 영역을 명확히 구분할 수 있다.

➁ 비용 대비 창출 가치로 투자 타당성 검증

AI 투자의 궁극적 목적은 주주 가치 창출이다. 이를 위해서는 가치사슬 전반을 살펴 AI가 어디에서 가치를 창출하고, 기업이 그 가치를 어떻게 확보·유지할 것인지 판단해야 한다. 특히 AI에 대규모로 투자하는 기업이라면 총소유비용과 운영 모델, 인프라 전략에 영향을 미치는 토큰 비용 구조가 핵심 전략 과제로 부상한다. CFO는 단순히 토큰 비용을 줄이는 데 초점을 맞추기보다, AI가 가장 큰 전략적·경제적 가치를 창출할 수 있는 영역을 찾아 투자를 집중해야 한다.

실제로 토큰 비용보다 이를 통해 창출되는 가치를 기준으로 AI 투자를 판단하는 기업들이 나타나고 있다. 예를 들어 직원 15명 규모의 한 스타트업은 기술 부서에서 AI 에이전트를 활용해 약 2,000달러의 토큰 비용으로 총 30만 줄에 달하는 코드로 구성된 워크플로 도구 3개를 개발했다. 비용 대비 산출이 크다고 판단한 이 회사는 AI 코딩 플랫폼을 더 폭넓게 도입하기로 했다. 비슷한 논리로 클라우드 기술 기업 Vercel의 CEO 기예르모 라우흐는 토큰을 가장 많이 쓰는 직원이 생산성도 가장 높다고 말했다.^[13] 하루 토큰 비용 1만 달러를 쓰더라도 IT 업무 효율을 높여 결국 수백만 달러를 절감한다면 비용을 상쇄하고도 남는 효과다. 결국 중요한 것은 토큰 비용의 절대적인 규모가 아니라, 투입한 비용을 넘어서는 실질적인 사업 가치를 창출하고 있는지다.

➂ AI 투자 전반의 비용·성과 관리 체계 구축

아직 많은 기업이 AI의 실제 비용과 사용량, 투자 대비 성과를 정확히 파악하지 못한 채 지출을 승인하고 있어, CFO는 이런 관행부터 바꿀 필요가 있다. 이를 위해서는 먼저 조직이 어느 영역에 어느 정도 규모로 AI 투자를 진행하고 있는지 파악하고, 토큰 사용량을 끌어올리는 요인과 그에 따른 비용 구조를 명확히 이해해야 한다. 이후 AI 지출과 리스크를 전담해 총괄하는 조직이나 담당자를 지정하고, 비용 관리와 재무 건전성 관리 체계를 마련해야 한다. 재무팀과 기술팀이 함께 비용을 상시로 추적·최적화하는 핀옵스 역량도 여기 포함된다. 이와는 별개로, AI 도구를 도입할 때는 데이터 활용과 생산성, 매출 성장, 신사업 모델, 인재 성과 전반에 걸쳐 가치를 측정하는 새로운 핵심성과지표(KPI)도 마련해야 한다. 직원 60명 규모의 스타트업 Kumo AI는 엔지니어별 토큰 사용량을 추적하고 관련 투자를 전략적 연구개발(R&D) 비용으로 분류하는 방식으로 AI 비용을 체계적으로 관리하고 있다.^[14]

맺음말: 토큰 경제, CFO의 새로운 재무 관리 과제

AI 프로그램은 다른 전략적 투자와 마찬가지로 사업 가치와 투자 수익을 기준으로 평가해야 한다. 이를 통해 전략적 가치가 높은 프로그램에 자원을 집중하고, 그렇지 않은 프로그램은 축소 또는 중단할 수 있어야 한다. AI 확장이 기업의 핵심 전략으로 자리 잡았다면, 토큰 사용량과 비용을 재무적으로 관리하는 것은 CFO의 핵심 과제가 된다. 토큰 비용이 향후 어떻게 증가할지 예측하고 이를 실적 전망과 마진 계획, 자본 리스크 시나리오에 구체적인 수치로 반영해야 한다. 이를 위해서는 재무와 사업부, 기술 리더 간의 긴밀한 협업이 필요하다. AI 지출이 회사의 전략적 우선순위와 일치하는지 지속적으로 점검하고, 총소유비용을 투자수익률의 핵심 요소로 관리해야 한다. 비용 구조를 개선하기 위해 자체 호스팅에 전략적으로 투자하거나, 실제 사용 부서에 비용을 나눠 청구하는 차지백(chargeback) 같은 새로운 재무 관리 방식을 도입할 수 있다.

AI는 단순한 기술 투자가 아니라, 비용과 가치가 함께 움직이는 하나의 경제 시스템이다. 제대로 관리하지 않으면 비용은 예상보다 빠르게 증가해 마진을 잠식하고, 자본 계획까지 흔들 수 있다. 반면 토큰 사용량과 비용을 사업 성과와 연계해 관리하면 AI 지출은 기업 가치를 키우는 지렛대로 작용한다. CFO는 토큰 사용 추이를 미리 내다보고, 명확한 예산 기준을 엄격하게 적용하는 동시에, 시나리오 모델링을 통해 토큰 지출이 손익에 미치는 영향을 지속적으로 점검해야 한다. 이러한 관리 체계는 단순한 비용 통제를 넘어 AI 투자의 경제성을 높이고 장기적인 경쟁 우위를 확보하는 기반이 될 수 있다.