미국 생명보험사, ‘AI 거버넌스’ 구축으로 안전한 AI 활용 기반 마련
금융 혁신의 핵심, AI 거버넌스
안전하고 신뢰할 수 있는 AI 활용을 위한 필수 전략
고객 직면 문제 및 이슈 (Situation)
봇(Bot)이 위험을 인지할 수 있을까요?
AI가 스스로 위험을 인지하고, 학습하면서 위험 인지 능력을 갖출 수 있을까요?
동사는 미국의 주요 생명보험 및 재무 서비스 회사이다. 1860년에 설립된 이 회사는 생명보험, 치아보험, 장애보험, 은퇴 및 재무 계획과 같은 다양한 보험 및 재무 서비스 상품을 제공하고 있다.
최근 이 회사는 전사적으로 AI 애플리케이션을 도입했다. 고객의 재정적 안정과 미래 자산 보호를 위해 다양한 보험과 재무 관리 솔루션을 제공하고, 각 사업부의 운영을 효율화하고자 단행한 조치였다. 그러나 이 AI 애플리케이션에서 예상치 못한 문제가 발생 했다. 여러 사업부에서 운영 중인 이유로 문제는 더 심각해졌다.
이는 도입한 AI 애플리케이션의 관리 미비로 초래된 것이며, 구체적으로는 일관된 모니터링 체계, 선제적인 위험 식별 메커니즘, 견고한 거버넌스 구조, 그리고 문서 보안 프로토콜 등의 부재가 주요 원인으로 작용했다. 결과적으로 이 회사는 AI 시스템이 일으킬 수 있는 거의 모든 위험에 노출되는 상황에 직면하게 된 것이다.
이 상황은 시급한 해결을 요하는 중대한 과제로 대두되었다. AI 애플리케이션 관리의 부재는 고객 경험의 질적인 저하, 기업 브랜드 이미지의 훼손, 그리고 현행 관련 규정과 규제 위반에 따른 법적 리스크 증가 등 다각도의 위험을 초래할 수 있기 때문이다.
이 문제의 근본적인 원인을 살펴보려면, AI모델과 이를 탑재한 애플리케이션의 놀라운 처리 속도에 주목할 필요가 있다. AI 모델은 단 몇시간, 심지어 그보다 더 짧은 시간 내에 결과물을 도출하고, 심지어 자체 성능을 최적화하기 위해 지속적으로 학습하고 알고리즘을 조정하는 능력을 갖추고 있다.
AI 모델의 신속성과 자가 최적화 능력이 조직의 미흡한 시스템 관리 역량과 맞물려 문제를 더욱 심각하게 만들었을 것이다.
이 회사의 경영진은 기 도입된 AI 알고리즘이 사업부들의 의도대로 작동하도록 관리하고, 위험을 통제할 수 있는 거버넌스의 부재를 인식하기 시작했다. 더욱이, AI 애플리케이션 공급업체 조차 자사 AI 모델에 대한 제한된 정보로 인해 잠재적인 위험 식별에 어려움을 겪고 있었다.
회사가 기존 AI 시스템의 위험 관리와 새로운 위험을 선제적으로 감지하기 위해서는 엄격한 프로세스 개발과 AI 거버넌스 구축이 시급했다. 그러나 이 과제를 추진하고 위험 평가를 효율적으로 진행하기 위해서는 데이터 과학, 통계학, 그리고 위험 관리 분야의 전문 역량을 대폭 강화해야 했다.
- AI 리스크 분석 및 평가
- Deloitte's AI Risks dimensions 도구와 Deloitte's Trustworthy AI™ framework 활용
- 각 AI 모델의 리스크 도출 및 모니터링 체계 구축
- AI 거버넌스 구축 지원
- AI 모델의 작동과 전략의 일치 및 규제 준수 사항을 확인, 검증하는 프로세스 구현 및 책임 소재 설정
- AI 알고리즘에 대한 인간의 감독 권장 및 각 AI 모델의 학습 과정의 투명성 보장
이슈 해결 방안(Solution)
딜로이트는 AI 모델을 심층분석하고, 업종 맞춤형 AI 거버넌스 구축을 지원했다.
딜로이트는 해당 생보사의 다양한 사업 부문에 걸쳐 운용 중인 60여 개의 AI 모델을 심층 분석하여, 각 모델에 대한 정교한 리스크 프로파일을 구축했다. 이 과정에서 딜로이트의 AI 거버넌스 및 리스크 관리 전문가들은 회사의 데이터 관리 전담팀과 긴밀히 협력했고, AI 모델에 대한 포괄적인 평가를 진행했다.
이때 딜로이트 전문가들과 회사 실무진들은 딜로이트가 자체 개발한 AI 리스크 분석 및 평가 도구인 ‘AI 리스크 차원(Deloitte’s AI Risks dimensions)과 ‘신뢰할 만한 AI 프레임워크(Deloitte’s Trustworthy AITM framework)’를 활용 했다.
그리고 동사의 AI 모델들이 얼마나 안전하고 신뢰할 만한지, 그리고 어떤 잠재적인 위험이 있는지를 종합적으로 분석하고 평가 했다.
그 결과, 딜로이트는 회사가 AI 애플리케이션을 통해 확보할 수 있는 기술적 우위와 이를 실현할 수 있는 전략적 방향성과 과제까지 도출했다.
구체적으로, 책임 있는 AI 모델을 개발하고 배포 하는 과정에서 예상되는 이슈와 그 해소 방안을 제시했으며, 거버넌스 구축 계획에는 AI 애플리케이션의 지속적인 모니터링 체계와 AI 리스크에 대한 내부 임직원 교육 프로그램을 포함시켰다.
가장 주목할 만한 점은, 딜로이트 전문가들이 회사를 도와 AI를 더욱 인간 친화적으로 만들었다는 점이다.
먼저 AI가 혼자 결정을 내리지 않도록, 사람이 항상 AI의 작동을 지켜보고 관리하도록 제안했고, 둘째, AI가 어떻게 정보를 배우고 결정을 내리는지 누구나 이해할 수 있도록 그 과정이 투명하게 드러나도록 했으며, 마지막으로 AI 모델이 예상치 못한 결과를 내놓을 경우를 대비해, 문제를 빠르게 해결할 수 있는 안전 장치를 마련하고, 명확한 책임 소재를 정립했다.
딜로이트는 회사의 업종과 특정에 맞춘 AI 거버넌스를 구축함으로써, AI 애플리케이션의 신뢰성과 안전성을 제고하는 한편, 인간 중심의 가치와 요구사항을 AI 애플리케이션 전반에 효과적으로 반영할 수 있도록 지원 했다.
추진 결과 (Impact)
인간의 경험과 통찰력을 기반으로 한 진정한 인공지능을 제공하다.
딜로이트는 신뢰할 수 있는 AI를 구축하여, AI 애플리케이션의 안전성과 효율성을 높이는 데 기여했다. 구체적으로 딜로이트는 고객사가 직면한 문제를 해소하기 위해 다음과 같은 서비스와 성과를 도출했다.
- AI 애플리케이션을 비즈니스 맥락과 연계하여 의미 있는 결과를 도출할 수 있도록 재조정했다.
- AI 모델과 잠재적 리스크에 대한 분류체계와 표준화된 접근 방식을 수립했다.
- 업계 선도 기업들이 설정한 AI 거버넌스 역량 기준을 충족하고, 일부 영역에서는 이를 상회하는 성과를 달성했다.
- AI 시스템 결정의 책임 소재를 명확히 하는 정책을 수립하고, 기업 전반에 걸쳐 AI의 안전성, 투명성, 신뢰성을 강화했다.
- AI 도입을 위한 유연하고 목표 지향적인 운영 모델을 구축하여, 적절한 거버넌스의 통제 하에 책임감 있는 AI 활용을 실현했다.
결과적으로 회사는 AI의 혜택을 최대화하면서도 잠재적 위험을 최소화할 수 있는 견고한 기반을 마련했으며, 향후 AI 혁신을 지속적으로 추진할 수 있는 역량을 갖추게 되었다.
