AI 에이전트 설계 전략

모두가 처음으로 대규모 언어 모델(LLM)과 생성형AI가 할 수 있는 일을 목격
한 그 결정적인 순간을 기억하고 있다. 오랫동안 논의되어 온 대화형, 직관적,
창의적인 AI의 개념이 갑자기 현실이 되었고, 우리의 손끝으로 직접 활용할
수 있게 되었다. 2023년 말까지 대부분의 기업이 생성형AI 솔루션을 도입하
였으며, 2024년 중반에는 생성형AI를 사용하는 기업의 67%가 기술의 강력
한 효과를 확인한 후 투자를 확대하고 있다고 응답하였다.

그러나 기업들이 생성형AI의 잠재력을 시험하는 과정에서 단독 생성형AI 모
델의 한계를 인식하기 시작했다. 일반적인 LLM의 문맥 및 추론 능력의 한계
로 인해 복잡한 다단계 워크플로우에 생성형AI를 적용하는 것이 어려울 수
있다. 전통적인 AI와 마찬가지로 환각(hallucination)과 편향(bias)은 신뢰
를 구축하는 데 큰 장애물이 될 수 있으며, 생성형AI의 창의적인 결과물은 품
질과 정확성을 유지하기 위해 지속적인 인간의 모니터링이 필요하다.

이러한 이유로 초기 생성형AI 활용 사례는 대개 더 큰 워크플로우 내에서 제
한적이거나 특정한 작업에 국한되는 경우가 많았다. 예를 들어, 자산 관리 컨
설턴트가 단독 LLM 기반 솔루션을 사용하여 빠르게 회의 요약을 생성할 수
는 있지만, 회의에서 논의된 다양한 정보(예: 고객 프로필, 고객 목표, 은퇴 계
획 등)를 기반으로 심층적인 사후 분석을 수행하는 것은 단독 생성형AI 솔루
션으로는 지나치게 복잡한 작업이었다.

AI 에이전트 및 다중 에이전트 AI 시스템은 이러한 한계를 극복하고, 기업
이 새로운 비즈니스 프로세스 혁신과 변화를 향한 인지적 도약(cognitive
leap)을 할 수 있도록 지원하고 있다. AI 에이전트는 기업이 생성형AI를 활용
하여 훨씬 더 복잡한 작업을 수행할 수 있도록 하며, 보다 확장된 프로세스와
다양한 활용 사례에 적용할 수 있도록 한다. 또한, AI 에이전트가 시스템 내
에서 협력적으로 작동하면, 공동으로 추론하고 계획을 수립하며, 디자인하고
실행함으로써 기업 전반에서 속도, 차별성, 효율성을 극대화하는 새로운 워
크플로우를 구현할 수 있다.

본 리포트에서는 AI 에이전트 활용 사례를 확장하기 위한 핵심 설계 원칙과
참조 아키텍처를 소개하며, 이를 통해 기업이 AI 에이전트의 잠재력을 즉시
활용할 수 있도록 지원하고자 한다.