금융 서비스 혁신을 이끄는 AI

금융 서비스 산업 전반에 생성형 AI 도입이 실험을 넘어 본격적인 전환기를 맞고 있다. 이를 통해 가시적인 성과를 내는 기업들이 등장하고 있지만, 기관별 준비 수준과 도입 속도의 격차는 뚜렷하게 나타나고 있다. 구체적으로 생성형 AI 전문성에 대한 자신감이 높은 금융 기업일수록 관련 이니셔티브에서 더 높은 성과를 내고 있다는 점이 딜로이트 설문조사에서 확인됐다.

딜로이트는 ‘기업의 생성형 AI 사용 현황’에서 금융 서비스 분야 응답자 약 540명을 분석하여, 생성형 AI에 대한 태도를 기준으로 고위 리더들은 크게 두 부류로 나누었다. 자사의 생성형 AI 역량에 대해 ‘역량이 매우 높거나 높다’고 평가한 ‘선도 기업’(pioneer)과, ‘역량을 일부 갖추고 있다 혹은 역량이 거의/전혀 없다’고 응답한 ‘추종 기업’(follower) 다. 분석 결과, 전체 응답자 중 선도 기업 비율은 46%로 집계됐다(조사 방법론 참고).

2023~2024년 총 네 차례 조사 결과를 보면, 기업 규모에 따라 생성형 AI 전문성에 대한 자기 평가에서 주목할 만한 변화가 드러난다. 2023년 말에는 매출 5억~50억 달러 규모의 중견기업은 전문성이 높다는 응답과 낮다는 응답이 거의 절반씩 고르게 분포했지만, 매출 50억 달러 이상 대형 기업의 59%는 스스로 전문성이 낮은 ‘추종 기업’으로 평가했다.

그러나 최근 조사에서 대형 기업들은 상당한 발전을 이룬 결과, 이제 절반가량이 스스로를 '선도 기업'으로 인식하고 있었다. 이는 기술 경험이 축적되면서 전문성에 대한 시각도 변한다는 것을 의미한다. 어떤 기업은 자신감을 얻는 반면, 어떤 기업은 앞으로 해결할 과제가 더 많다는 점을 인지하게 되는 것이다.

응답 결과를 보면, 선도 기업은 기술의 잠재력에 대해 훨씬 큰 신뢰를 보인다. 향후 1년 내 생성형 AI가 조직에 중대하고 변혁적인 영향을 미칠 것이라고 응답한 비율은 선도 기업이 추종 기업 대비 3배 높았다. 이러한 확신은 투자 전략으로 그대로 이어진다. 선도 기업의 76%는 전체 AI 예산의 20% 이상을 생성형 AI에 투자하는 반면, 추종 기업은 이 비율이 46%에 그쳤다. 참고로 2023년 말 조사에서는 이 수치가 선도 기업이 62%, 추종 기업이 38%였다.

이처럼 ‘신뢰에 기반한 선제적 투자’가 선도 기업의 경쟁력으로 이어질 수 있다. 그렇다면 이러한 투자는 현재 기대만큼의 성과를 거두고 있을까? 만약 그렇다면, 그 성과는 구체적으로 어느 영역에서 나타나고 있을까?  

선도 기업, 생성형 AI 도입으로 실질적 가치 창출 중

선도 기업은 생성형 AI를 도입해 이미 상당한 성과를 거두고 있다고 평가한다. 2024년 5~6월 조사에서는 선도 기업의 78%가 생성형 AI 도입의 성과를 확인한 것이 투자 확대의 직접적인 요인이 되었다고 응답했다. 이어 2024년 7~9월 조사에서는 가장 고도화된 생성형 AI 프로젝트의 투자수익률(ROI)을 직접 추정하도록 조사 문항을 구성했다.

아래 그림 1의 음영 구간은 선도 기업들이 자사의 가장 고도화된 생성형 AI 프로젝트를 통해 추가로 창출했을 것으로 추정한 투자수익률(이하 ‘기대 ROI’)을 보여준다. 기대 ROI에서도 두 그룹 간 격차는 분명하다. 선도 기업의 74%는 기대 ROI가 10% 이상이라고 응답한 반면, 추종 기업에서는 동일하게 답변한 비율이 44%에 그쳤다. 특히 이 차이는 규모가 작은 금융기관에서 더욱 크게 나타나, 이들이 생성형 AI를 통해 실질적 가치를 확보하는 데 상대적으로 더 큰 어려움을 겪고 있음을 시사한다. 다만, 새로운 비용 효율적인 생성형 AI 모델이 등장함에 따라, 기업들은 ROI 기대치를 다시 조정하게 될 가능성도 있다.¹  

조사에 따르면, 선도 기업 중 47%는 고도화된 생성형 AI 프로젝트의 ROI가 예상했던 수준보다 더 큰 성과를 얻었다고 응답한 반면, 추종 기업에서는 이 비율이 17%에 그쳤다. 또한 기대했던 효과를 ‘매우 크다’ 또는 ‘상당하다’고 평가한 비율 역시 선도 기업이 추종 기업보다 두 배 이상 높게 나타났다. 선도 기업이 체감한 주요 효과를 살펴보면, 언급 빈도 순으로 새로운 아이디어와 인사이트 발굴, 혁신과 성장 촉진, 효율성과 생산성 향상, 금융사기 탐지, 기존 상품·서비스 개선, 고객 관계 강화 등이었다. 이러한 결과는 선도 기업이 생성형 AI를 단순한 비용 절감 도구가 아니라, 전사적 혁신과 성장을 추진하는 핵심 동력으로 바라보고 있음을 보여준다.

선도기업, 조직 전반으로 생성형 AI 확산 추진

설문조사에 따르면, 선도 기업의 43%는 조직 내 40% 이상 직원에게 생성형 AI 도구를 사용할 수 있도록 권한을 부여했다고 응답했다. 반면 추종 기업에서는 이 조치를 시행한 곳이 19%에 그쳐, 두 그룹 간 확산 속도의 차이가 뚜렷했다.

또한 선도 기업은 생성형 AI를 단순한 실험 단계에서 벗어나 실제 운영 단계로 전환한 비율이 크게 높았다. 특히 IT·사이버보안, 마케팅·영업·고객 서비스, 전략·운영과 같은 핵심 기능에서는 소규모 파일럿 수준의 초기 적용부터 전사적 확산 단계에 이르기까지 다양한 수준의 구현이 활발히 진행되고 있는 것으로 나타났다(그림 2 참고).  

조직 내부에서의 확산뿐 아니라, 시장 전반에서도 생성형 AI 활용 사례가 빠르게 늘고 있다. 예를 들어, 2024년 6월 모건스탠리(Morgan Stanley)는 재무 자문가들을 위해 화상 회의 내용을 요약하고 후속 이메일까지 자동생성하는 ‘모건 스탠리 디브리프’(AI @ Morgan Stanley Debrief)의 출시했다.² 앨리 파이낸셜(Ally Financial)은 생성형 AI를 활용해 마케팅 캠페인과 콘텐츠를 제작하고 있으며,³ 프루덴셜(Prudential), 뮌헨 리(Munich Re), AIG 등 보험사 및 재보험사들은 언더라이팅과 보험금 청구 처리 업무에 생성형 AI 활용을 점차 확대하고 있다.⁴

추종기업은 명확한 성과가 확인되기 전까지는 도입을 서두르지 않으려는 경향을 보인다. 초기에는 기대감을 갖고 접근했지만, 실제 적용 과정에서 얻은 경험을 바탕으로 보다 신중하게 속도를 조절하고 있는 것으로 보이며, 상당수는 여전히 사용 사례를 실험하거나 파일럿 단계에서 테스트하는 수준에 머물러 있다(그림 3 참고). 데이터를 보면, 선도 기업은 현재까지 IT·사이버보안과 제품 개발 분야에서 가장 큰 성과를 거둔 것으로 나타난다. 이러한 성과는 이들이 실험 단계를 넘어 실제 운영 단계로 빠르게 전환할 수 있었던 주요 배경으로 해석된다. 실제로 두 그룹 간의 ‘실험–도입’ 격차도 이 영역에서 가장 크게 나타났다. 예를 들어, 딜로이트의 최근 보고서에서는 한 은행의 사이버보안 부서가 생성형 AI 기반 솔루션을 활용해 수백만 건의 사이버 위협 경보를 분석하고, 실제 위협을 선별해 우선순위를 지정한 사례가 소개되었다.⁵  

기술의 잠재력에도 불구하고, 인사(HR)와 법무·리스크·컴플라이언스 분야에서는 선도 기업과 추종 기업 모두 아직 뚜렷한 성과를 내지 못한 것으로 보인다.

특히 법무·리스크·컴플라이언스 분야의 경우, 생성형 AI를 활용하면 사실 기반 질의응답, 여러 규정의 요구사항 비교·추출, 내부 정책과의 대조를 통한 규제 준수 격차(Compliance Gap) 진단, 정책·절차 변경 사항의 직관적 업데이트 및 전달 등 다양한 기능을 수행할 수 있다.6

한편 인사(HR)에서는 온라인 임원 포럼에서 여러 참가자들이 언급했듯, 인재 확보와 채용 분야에서 생성형 AI가 가장 활발하게 활용되고 있다.7 하지만 이 영역을 제외하면 인사와 리스크·컴플라이언스 분야 전반에서 비용 대비 효과가 충분히 입증되지 않아 선도 기업들조차 도입 속도가 더딘 것으로 보인다.  

가치 창출의 출발점은 ‘준비도’

생성형 AI 도입 준비도를 묻는 조사에서, 추종 기업 중 ‘준비가 매우 잘 되어 있다’고 응답한 비율은 인재 측면 7%, 리스크 및 거버넌스 16%, 기술 인프라 20%에 불과했으며, 전략 및 데이터 관리 분야조차도 약 30%에 그쳤다. 반면 선도 기업은 대부분의 항목에서 상대적으로 높은 준비도를 보였지만, 인재 역량(37%)과 리스크 관리(36%)는 여전히 개선 여지가 있는 영역으로 나타났다.

또한 생성형 AI 도입의 주요 장애 요인으로 ‘도입 전략 부재’와 ‘경영진의 의지 부족’을 지목한 비율은 추종 기업이 선도 기업보다 두 배가량 높았다. 이 같은 준비도 차이는 향후 계획에서도 그대로 드러났다. 실험·검증(PoC) 단계에 있는 프로젝트의 40% 이상을 3~6개월 내 본격적으로 확장하겠다고 답한 비율은 선도 기업이 거의 절반에 달했지만, 추종 기업은 22%에 불과했다.

결국 선도 기업은 인재, 리스크·거버넌스, 데이터 관리, 도입 전략 등 핵심 영역에서 비교적 탄탄한 준비도를 갖추고 있어 생성형 AI 도입을 빠르게 확대하고 단기적 성과를 확보할 수 있는 기반을 이미 마련한 셈이다. 다만 지속적인 경쟁우위를 유지하려면, 생성형 AI를 단순한 효율화 도구가 아니라 자사의 기존 강점과 전략적으로 연계하는 방향으로 활용해야 한다. 따라서 앞으로 이 경쟁에서 어떤 그룹이 우위를 점할지는 아직 단정할 수 없다. 승부는 기술 도입의 속도 자체가 아니라, 기술을 전략적 자산으로 전환하는 데 성공하느냐에 달려 있기 때문이다.

방법론

본고는 딜로이트의 '기업의 생성형 AI 활용 현황’(State of Generative AI in the Enterprise) 서베이에 기반한다. 이번 조사는 2024년 7월부터 9월 사이에 진행되었으며, 전 세계 14개국 2,773명의 리더들을 대상으로 실시되었다. 이 중 542명의 금융 서비스 분야 리더가 본 보고서에서 핵심적으로 다루는 인사이트를 제공했다. 응답자는 이사회 구성원, C-레벨 임원, 사장·부사장, 디렉터 등 조직 내 주요 의사결정권자이다.

이전 '기업의 생성형 AI 현황' 연구에서는 2024년 5월에서 6월 사이에 2,770명의 리더(금융 서비스 분야 약 518명)를 대상으로, 2024년 1월에서 2월 사이에는 1,982명의 리더(금융 서비스 분야 약 357명)를 대상으로, 2023년 10월에서 12월 사이에는 2,835명의 리더(금융 서비스 분야 응답자 약 513명)를 대상으로 설문조사를 실시했다. 보고서 내 일부 수치는 반올림으로 인해 총합이 100%가 되지 않을 수 있다.

조사에서 선도 기업(pioneer)은 생성형 AI에 대한 조직의 전문성을 ‘매우 높음 또는 높음’으로 평가한 응답자이며, 추종 기업(follower)은 ‘일정 수준, 낮음, 거의 없음’으로 평가한 응답자로 정의한다.

생성형 AI는 인공지능(AI)의 한 분야로, 사용자의 질의에 대응해 텍스트, 이미지, 영상 등 다양한 콘텐츠를 생성할 수 있는 기술을 의미한다. 이러한 시스템은 인간과 상호작용할 수 있으며, 대규모 언어모델(LLM)을 기반으로 구축되는 경우가 많다.