AI 혁신과 금융의 위험: ‘비대칭적 이해’

프론티어 모델과 자율형 인공지능(Agentic AI) 시대에 중앙은행의 기존 통화정책과 금융시장의 거래 방식이 붕괴될 위험이 있다는 경고가 나와 눈길을 끈다.

올해 ‘금융 혁신’을 주제로 한 잭슨홀 심포지엄에서 마커스 브루너마이어 프린스턴대 경제학과 교수는 첨단 AI가 중앙은행보다 먼저 금리 결정 방향을 읽어낼 수 있지만 인간은 AI의 판단과 결정을 제대로 알지 못하게 되는 ‘비대칭적 이해’(asymmetric understanding)를 초래할 수 있으며, 이는 시장 가격을 해석하기 어렵게 하거나 통화정책 당국이 시장 참가자들과 소통할 때 전략적 불리함을 낳을 수 있다고 주장했다.^[1]

인간이 시간이 지나도 AI의 7행동규칙을 제대로 해석하지 못하는 반면, AI는 인간과 제도의 반응을 잘 학습하는 비대칭적 상황이 구조화될 수 있다. 실제로 에이전트 AI는 이전의 혁신과 질적으로 다르며, 이를 인간이 이해하거나 AI의 행동을 신뢰할 수 있게 예측하기 힘들다.

브루너마이어 교수는 이로 인해 기존의 신뢰 체계가 무너지고 제도의 기반이 되는 사회적 이해가 약해질 수 있다며, 대안으로 아예 AI 에이전트와 인간이 활동하는 시장을 분리할 필요를 제기한다.

금융 혁신을 이끌어 내는 강력한 AI의 성과 이면에서 이러한 금융시장 불안에 대한 경고가 나오는 배경, 그리고 브루너마이어 교수가 제시하는 대안적인 해법에 대해 살펴보자. 

비대칭적 이해: ‘알파고와 이세돌’ 2국 37수

10년 전인 지난 2016년 바둑 AI 프로그램인 알파고(AlphaGo)는 이세돌 9단과 대국을 벌여 5전 4승 1패로 승리했다. 알파고를 탄생시킨 구글 딥마인드(Google DeepMind) 창업자 겸 최고경영자(CEO)인 데미스 허사비스는 최근 “10년 전 알파고의 승리가 작금의 현대 AI 시대의 서막을 알리는 신호탄이었다”고 회고했다.^[2]

이제는 전설이 된 과거 AI와 인간의 바둑 대결에서 AI가 인류에게 던진 ‘결정적인 한 수’로 알려진 제2국 37수가 그것이다. 해당 수는 기존 바둑의 정석을 깬 수로, 당시 프로 기사들은 실리로 집 손해가 큰 해당 수를 AI 프로그램의 ‘실착’(失着)이라고 생각했다. 하지만 당시는 금기로 여겼던 그 수가 지금은 기리(棋理, 바둑의 이치)에 맞는 최선의 승리 묘수로 이해된다. 딥마인드 팀은 인간이 이러한 수를 둘 확률을 1만분의 1로 계산했다.^[3] 

그림 1. 이세돌 vs 알파고 2국 기보

출처: 한국기원 기보. 딜로이트 인사이트

37수는 인간이 수 세기 동안 연구해 온 영역에서 AI가 독창적이고 기존의 틀을 벗어난 아이디어를 내놓은 최초의 사례였다. 알파고 개발 주역이었던 허사비스는 이러한 성공 이후 단백질 접힘 문제 해결에 AI를 적용한 ‘알파폴드’ 연구로 2024년 노벨 화학상을 공동 수상했다.

한편, 이세돌은 ‘인간이 유일하게 AI를 이긴 대국’으로 평가받는 4국 중 ‘신의 한 수’로 알려진 78수에 대해, 실은 이보다 앞서 AI의 오류를 일으키려 예상 외의 노림수를 68수부터 두었으며, 이는 모두 ‘꼼수’였다고 9년이 지나 밝힌 복기를 통해 실토했다.^[4]

공교롭게도 인간이 4국 78수를 둘 확률 또한 1만분의 1이었다. 10년이 지난 지금 AI는 37수와 같은 인간이 이해하기 힘든 수를 순식간에 내놓고 있으며, 심지어 인간의 명령을 거부하거나 기만하는 행동을 보이고 있다. 통제된 시험 환경에서 탈출한 악성 에이전트가 다른 회사로 침투하는 해킹 사례나, 인터넷 접속이 허용되지 않는 AI가 연구원에게 전자우편을 보내는 사례와 같이 심각한 사태가 나타난 것이 대표적으로 알려진 사례이다.

최근 한 앤트로픽(Anthropic) 소속 연구원은 AI 업계를 떠나면서, 지금처럼 재귀적 자기개선(RSI)^[5]모델 개발 경쟁이 지속되면 ‘통제 불가능한 AI 시스템’이 등장하여 인류를 파멸시킬 수 있다고 경고해 화제가 되었다.^[6]

또 앤드류 베일리 영국 중앙은행 총재 겸 금융안정위원회(FSB) 의장은 주요20개국(G20) 재무장관 및 중앙은행 총재 회의에 보낸 서한에서 AI가 금융 시스템이 심각한 위험을 초래할 수 있다고 경고했다.^[7]

과도한 레버리지가 발생하는 AI 관련 투자로 인한 자산 가치 하락 위험과 함께 첨단 AI가 사이버 위험에 미칠 수 있는 잠재적 영향을 위험의 사례로 제시했다. 이러한 위험 때문에 금융 시장을 관리하기가 더욱 어려워지고 있다.

실제로 프론티어 AI는 사이버 위험의 속도, 규모 및 경제성을 실질적으로 변화시킬 수 있는 잠재력을 가지고 있으며, 이는 특히 제3자 서비스 제공업체가 고도로 집중되어 있는 상황에서 시스템 전반에 걸쳐 시장 신뢰를 약화시킬 수 있다.

가장 큰 문제는 단순히 일부 기능이 중단되는 장애 발생을 넘어 시스템 자체가 장애 발생 전부터 이미 제대로 작동하지 않게 될 수 있는 ‘시장의 소멸(또는 부재)’로 이어질 수 있다는 데 있다.^[8]

브루너마이어 교수가 제시하는 ‘비대칭적 이해’ 개념은 AI 에이전트가 경제 작동 원리를 근본적으로 변화시킬 수 있으며, 따라서 기존 이론을 뒤집을 수 있는 새로운 경제 분석 개념이 필요하다는 결론으로 이어진다. 

비대칭적 이해와 사회적 이해의 ‘간극’

두 명의 투자자 중에서 한 명이 중요한 정보를 더 많이 알거나 혹은 양쪽 모두에게 중요한 사안에 대해 아는 것이 더 적은 경우를 ‘정보 비대칭’이라고 한다. 이는 역선택, 도덕적 해이 등을 통해 시장의 실패를 낳는다.

정보가 부족하거나 불완전한 앎(지식)이라고 해도, 이는 세상이 어떻게 돌아가는지에 대한 정확한 이해를 바탕으로 한다. 따라서 정보를 공유하거나 하는 방식으로 좀더 완벽한 정보를 가질 수 있다면 앞으로 벌어질 상황을 비교적 정확하게 예측할 수 있다.

하지만 AI가 어떤 정보를 어떻게 처리하고 중요성을 판단하여 어떤 규칙에 따라 선택하고 행동하는지를 인간의 개념으로 충분히 이해하거나 분석할 수 없다면, 단순히 정보가 부족한 것이 아니라 이해가 불완전하고 비대칭적인 경우에 해당한다.^[9]

정보가 아닌 이해의 비대칭은 인간에게 불리하게 작용한다. AI 에이전트는 인간의 행동을 이해하고 나아가 예측할 수 있는 수준까지 도달하고 있지만, 인간은 그렇지 않다. 알파고의 2국 37수는 그런 사례를 단적으로 보여준다. 시간이 지나서 AI의 행동이 지니는 전략적 의미를 이해하게 된다고 하더라도, 이미 불리한 결과가 발생한 뒤이며 AI는 계속해서 마치 ‘신의 한 수’ 같은 이해하기 힘든 수로 인간을 이길 수 있다.

금융 서비스업은 데이터, 정보 그리고 인센티브를 토대로 하는 산업이다. AI가 금융 데이터와 시장의 정보를 빠르고 저렴하게 수집하여 분석할 수 있게 되면 혁신적인 서비스가 등장하기 쉬운 영역이다.

AI 개인 맞춤형 금융자문 서비스가 이러한 혁신의 대표적 사례이며, 최근에는 개인이 AI 프로그램을 이용해 과거에는 기관들이나 이용할 수 있던 헤지펀드 투자 전략을 구사하기도 한다. 금융 당국도 AI를 활용해 위험 관리와 사기탐지 능력을 향상하는 등 감독 능력을 강화할 수 있을 것으로 기대한다.

문제는 정보 분석이 획기적으로 향상되었지만, 반대로 AI 에이전트들이 참가하는 시장의 정보가 급격히 늘어나고 나아가 어떤 정보가 중요한지 가려내기가 더 어려워지는 상황이 발생한다는 점이다.

AI 에이전트의 거래 판단과 행위가 금융시장의 기초 정보 단위인 ‘시장 가격’ 형성에 포함되는 경우, 인간 참가자들은 어떤 정보와 판단으로 이러한 가격이 형성되었는지 추론하기 힘들다. AI로 인해 되레 시장 가격의 정보 효율성이 떨어지게 되는 셈이다.

시장 가격은 단순히 정보가 많이 들어 있다는 이유만으로 유용한 것이 아니다. 시장참여자가 가격을 보고 다른 사람들이 어떤 정보를 어떻게 해석해 이런 가격을 만들었는가를 어느 정도 역으로 추론할 수 있어야 한다. AI 거래자의 판단과 반응이 인간에게 불투명해지면 이러한 추론이 어려워질 수 있다.

문제의 심각성은 AI의 비설명가능성(non-explainability)과 비정렬(non-alignment) 특징 때문에 심화된다. 은행 고객은 대출을 신청한 뒤 은행이 이를 거절했을 때 그 이유에 대해 설명을 들을 수 있지만, 실제로 이러한 대출 거절 결정이 나오게 된 내부 메커니즘까지는 확인할 수 없다. AI 시스템의 의사결정 규칙은 명시적으로 작성되거나 사전에 결정되어 있지 않은 경우가 많다.

프로그램 개발자들이 구조나 절차, 파이프라인 및 계산 방식을 미리 결정하거나 입력하지만, 모델 학습은 자체적으로 방대한 매개변수의 집합을 통한 결정 구조를 만들어 내면서 인간의 사고적 추론 영역을 벗어난다.^[10]

게다가 AI 모델이 최신형으로 출시될 때마다 프론티어 모델의 이해는 향상되지만, 인간의 사회적인 이해 능력은 이에 비해 갈수록 뒤처지게 된다. 인간의 제도는 이익, 제재 여부, 평판, 경력, 법적 책임에 반응하도록 되어 있지만, AI 에이전트는 이러한 동기나 유인을 알지 못하며, 오로지 목표함수, 훈련 신호, 운영 제약 조건, 정보 등에 반응할 뿐이다.

브루너마이어 교수는 ‘AI 혁신의 이해’와 ‘사회적 이해’ 사이에 간극이 형성될 때, 사회가 회복력을 유지하려면 상대적으로 느린 전환 혹은 상대적인 속도 조절을 위한 합의와 사전 규제가 필요하다고 본다. 이는 반드시 혁신을 늦추는 것이 아니라, 혁신과 사회적 이해 사이의 격차가 너무 벌어지지 않도록 가급적 억제하는 것을 말한다.

즉 AI 혁신으로 인해 신뢰가 약화될 때 사회적 이해가 붕괴되는 임계점을 넘지 않도록 조절하면, 사회적 이해가 혁신의 이해와 간극을 줄이기 위해 새로운 제도적 틀을 확립할 수 있는 기회가 형성된다. 그렇지 않고 빠른 전환이 발생할 때는 신뢰에 기반한 사회적 이해가 더욱 빠르게 후퇴하여 임계점을 넘어가게 되면서 AI에 대한 인간의 통제권이 상실된다.^[11] 

그림 2. AI 혁신과 사회적 이해의 간극, J-커브(회복력)

출처: Markus K. Brunnermeier(2026 August). 딜로이트 인사이트

물론 사회적 신뢰나 이해도 상당 부분 과학에 대한 신뢰에 기반한다. 따라서 최신 AI 모델로 검증 기능을 향상하고 이해할 수 없던 문제를 해결하면 사회적 이해를 확장하는 새로운 제도적 체계를 발견할 수 있다. 알파고의 충격 이후 AI를 활용한 바둑 기사들의 실력은 더욱 높아지고 해결 능력도 향상되었다.

하지만 현재 우리는 AI 에이전트의 추론 자체를 이해하거나 신뢰할 수 없다. 따라서 어떤 관찰된 결과나 정보, 선택으로부터 미래의 행동을 예측할 수 없게 된다.

시장 분리, 단순 명료한 무딘 정책 필요

AI 에이전트가 참여하는 시장의 가격은 우리가 생각하는 것만큼 유용한 정보를 제공하지 못할 수 있다.

예를 들어 금융 자산 가격이 급락했을 때 인간 투자자가 해당 움직임이 과도하다고 판단하면 반대 매수에 나서 충격을 흡수한다. 하지만 이러한 가격 급락이 왜 발생했는지 이해하지 못하면 AI의 판단 배경에 알 수 없는 것이 있다는 의심 때문에 쉽게 매수에 나설 수 없을 것이다.

그 결과 인간이 퇴장하면서 시장의 유동성은 줄어들고, AI의 담합이나 시장 조작이 발생해도 이를 파악하기가 어려워지는 등 종국에는 시장 자체가 소멸할 수 있다. 브루너마이어 교수는 이러한 위험을 예방하기 위해 아예 AI 참여 시장과 인간의 참여 시장을 분리하고, 위기가 발생했을 때 인간 중심의 대안을 유지하는 방안을 제시한다.

한편 AI가 중앙은행의 과거 정책을 학습해 매우 정교하게 미래 정책을 예상하는 반면, 중앙은행은 AI 에이전트의 반응이나 움직임을 충분히 이해하지 못하는 상황이 발생할 수 있다. 이럴 경우 중앙은행과 시장 간 게임이 한 쪽으로 일방적으로 기울어진 상태가 되는 것이다.

특히 시장참여자가 중앙은행이 언제 유동성을 공급하고 시장 안정을 위해 개입하는지를 잘 알게 되면, 단순히 개입을 예측하는 것을 넘어 개입하지 않으면 시스템이 위험해지는 상황을 만드는 식으로 정책당국을 압박할 가능성도 있다.

이런 상황에 대응하기 위해 중앙은행이 기존의 정교한 규칙보다는 오히려 단순하고 무딘(blunt) 규칙을 세우는 것이 차라리 AI가 파고들 빈틈을 줄일 수 있다고 본다. 예를 들어 간접적으로 시장과 참여자들의 기대를 조절하기 위한 기존 의사소통 기법을 제거하고, 시장을 활용하는 것보다 이를 우회하는 기계적이고 직접적인 정책 수단을 사용하는 데 집중해야 한다는 것이다.

또 금융 시장을 통합하는 것보다는 전염 위험을 줄이도록 서로 분리하는 방식이 권고된다. 

그림 3. 브루너마이어가 제시하는 대안

출처: Markus K. Brunnermeier(2026 August). 딜로이트 인사이트

다만 이러한 대안적인 방식들은 AI 에이전트로 인한 위험은 줄일 수 있지만, 효율성과 정책 신뢰를 희생하는 대가를 치러야 할 수 있다는 것이 단점이다.

‘인간 대 AI’ 아닌 ‘인간+AI 대 인간+AI’

브루너마이어 교수의 경고와 권고 사항은 기본적으로 인간 세계가 AI의 혁신과 대결한다는 전제에서 나온 것이다. 하지만 현실은 인간 대 AI 대결보다는 ‘인간+AI’와 ‘인간+AI’의 대결 양상을 보일 가능성이 더 높다. AI 에이전트를 상대하는 중앙은행이나 투자자 역시 AI를 활용할 수 있기 때문에, 당장 어느 한 편이 일방적인 열세에 몰린다고 할 수는 없다.

또한 통화정책과 달리 기존 금융 감독 정책은 시장 참가자의 이해나 반응을 활용하는 방식이 아니라 자본 규제, 마진 규제, 레버리지 제한, 위험 규제 등 객관적인 지침과 외부적 제약을 통해 시장 참가자의 행동 범위를 제한해왔다. 따라서 AI 에이전트의 내부 의사결정 규칙을 이해하지 못한다고 해서 기존 금융 규제가 무력화되는 것은 아니다.^[12]

현재 AI 모델의 다양성과 상호 경쟁은 당장 AI 간 협력이나 담합을 제한하는 요인이 될 수 있다. 따라서 AI의 힘과 위험이 과도하게 집중되는 것을 막기 위한 조치가 필요하지만, 또한 갈수록 표준화와 범용화를 통해 AI 모델의 ‘논리 집중’이 발생하는 경우도 대해서도 경계할 필요가 있다.

프론티어 AI가 인간과 다른 방식으로 시장을 이해하고 행동하게 될 경우 현재와 같은 금융 거래와 중앙은행 정책이 지속가능한지 질문하는 것은 정당하다. 다만 기존 방식과 제도가 지니는 회복력과 대안적인 방식의 비용-편익에 대한 질문도 병행되어야 한다.