AI 네이티브 시대, 인프라 경쟁 본격화

▸ AI 운영 빠르게 확산
31개 이상 AI 파일럿 운영 기업은 2025년 50%에서 2028년 70%로, 운영 사례 보유 기업은 44%에서 67%로 증가할 전망이다.

▸ 현재는 폐쇄형 모델이 주도하지만 다중 모델 전략 확대
2028년에는 폐쇄형·오픈형·SaaS·파생형 모델이 유사한 비중으로 공존할 것으로 예상된다.

▸ AI 확산과 함께 복잡성과 토큰 수요도 급증
응답자의 96%가 높은 워크로드 복잡성을 체감했으며, 97%는 향후 3년 내 AI 확장에 자신감을 보였다.

[그림 1. AI 모델 활용 비중 전망]

▸ 토큰 사용량이급증하며 AI 확산 속도 반영
월 100억 개 이상 토큰을 사용하는 기업 비중은 2026년 30%에서 2028년 61%로 두 배 이상 증가할 전망이다.
▸ 고도화된 추론형 AI 확산이 토큰 수요 견인
'사고 토큰’(thinking token)이 추가되면서 AI 워크로드의 연산량과 인프라 수요가 빠르게 늘고 있다.

▸ 토큰이 새로운 비용 관리 지표로 부상
AI 성과뿐 아니라 프롬프트·아키텍처 최적화를 통한 토큰 효율 관리가 경쟁력의 핵심이 될 전망이다.

[그림 2. 월간 AI 토큰 사용량 전망]

▸ AI 팩토리 구축이 빠르게 확대
AI 팩토리 도입 기업 비중은 2025년 64%에서 2028년 88%로 증가하며, 전면 도입 기업은 36%에서 73%로 두 배 가까이 늘어날 전망이다.
▸ 하이브리드·엣지 중심의 AI 인프라 전환 가속화
기업들은 멀티모달·멀티모델 AI 확산에 대응해 클라우드와 온프레미스를 결합한 유연한 운영 환경을 구축하고 있다.

▸ AI 팩토리 투자의 핵심 목표는 혁신과 운영 최적화
기업들은 AI 팩토리의 주요 성과로 혁신 가속화(71%), 리스크·컴플라이언스 강화(64%), 토큰 효율 개선(59%)을 기대하고 있다.

[그림 3. AI 팩토리 투자 기대 효과]

▸ AI 인프라 투자 급증
응답자의 86%가 예산 확대를 예상했으며, AI 인프라 투자 규모는 2028년까지 평균 3.2배, 대기업은 최대 3.9배 증가할 전망이다.
▸ AI 확산으로 재무·운영 체계 혁신이 필수 과제
기업들은 토큰 경제성, TCO, 자본·운영비 최적화를 고려한 새로운 재무관리 체계를 구축해야
한다.
▸ 전력과 반도체확보가 새로운 경쟁력으로 부상
GPU·HBM 가격 상승과 전력 수요 증가로 비용 부담이 커지면서, 전력 조달과 거버넌스 역량이 중요해지고 있다.

[그림 4. AI 인프라 투자 예산 전망]

▸ AI 인프라 의사결정은 여전히 IT 리더십이 주도
응답자의 51%가 CIO·CTO를 핵심 의사결정권자로 지목했으며, AI 확산을 위한 인프라 전환도 IT 조직이 주도하는 것으로 나타났다.
▸ AI 스케일업의 최대과제는 기술보다 인재 확보
데이터 엔지니어, AI/ML·에이전트 운영 엔지니어, 보안·컴플라이언스 전문가에 대한 수요가 높지만 공급은 여전히 부족한 상황이다.
▸ IT와 사업 부문간 AI 역량 격차 해소가 중요
AI 확산 역량을 갖췄다고 평가한 비율은 IT 부문 81%, 사업·제품 부문 65%로 16%p 차이가 나타났다.

[그림 5. AI 인프라 의사결정 주체]