첨단 인공지능 기술과 새로운 금융 위기

안녕하세요.

딜로이트 인사이트는 글로벌 경제 및 산업 구도에 영향을 주는 주요 이슈에 대한 인사이트를 소개하고 최신 경제산업 데이터와 그 함의를 분석한 ‘딜로이트 주간 글로벌 경제 리뷰’를 매주 금요일에 발행합니다.

딜로이트 글로벌 수석 이코노미스트 아이라 칼리시(Ira Kalish) 박사를 비롯한 딜로이트 글로벌 이코노미스트 네트워크(DGEN)가 매주 배포하는 ‘딜로이트 주간 글로벌 경제 리뷰’를 통해 중요한 세계 경제 동향을 간편하게 파악하실 수 있습니다. 

‘딜로이트 주간 글로벌 경제 리뷰’는 국내 유력지 등 다양한 채널을 통해 외부 배포되고 있으며, 딜로이트의 풍부최한 경제·산업 인사이트를 전달하는 플랫폼의 기초 콘텐츠로 자리잡을 것입니다.

많은 관심 및 활용을 부탁드립니다.

2025년 2월 3주차 딜로이트 주간 글로벌 경제 리뷰는 첨단 인공지능 기술과 새로운 금융 위기에 대해 다룹니다. 

첨단 인공지능 기술과 새로운 금융 위기

생성형 인공지능(gen AI)의 발전으로 인해 금융서비스 산업에서 AI 도입이 더욱 빨라지고 있다. 민간 금융서비스 기업은 효율성 개선을 위해 AI를 도입해 왔으며, 이를 통해 긍정적인 성과도 내고 있다. 이 가운데 AI 도입으로 인해 아직 제대로 이해되지 않은 금융안정성에 대한 위협이 동시에 증가했으며, 미래에 AI가 유발하는 금융 위기가 이제까지 경험했던 것보다 더 빠르고 강력할 수 있다는 우려가 제기된다.^[1]

딜로이트 글로벌의 분석에 따르면, 금융산업 리더들은 AI가 고객경험을 혁신하고 직원의 생산성을 높이는 등 다양한 이점을 제공할 것이라고 낙관하지만, 이로 인해 기술부채, 엄격한 규제 요건, 금융 기술 스택의 복잡성 및 취약성으로 인한 약점도 노출된다. 게다가 금융회사가 기대하는 비전의 구현 일정과, 인재 비용, 경쟁 심화, 고객 기대치 상승 및 AI 활동 관련 비용 증가 등이 부담이다.^[2]

AI와 금융 불안정성 혹은 금융 위기 가능성에 대한 전망은 복합적이다. AI가 인간보다 훨씬 더 빠르게 정보를 처리하기 때문에 지금까지 경험한 것보다 더 빠르고 심각한 금융 위기가 발생할 수도 있지만, 반대로 AI가 금융 시스템을 안정시키는 데 커다란 역할을 할 수도 있기 때문이다.^[3]물론 AI의 금융 안정화 역할은 규제 당국의 관여에 달려있다.

금융산업 내 AI 도입 확산과 해결 과제

앞서 2024년 초반만 해도 주요 소매은행들 중에서 생성형AI 도입을 위한 로드맵을 구축한 비율이 6%에 불과할 정도였다.^[4]또한 유럽 핀테크 업체들은 일자리 감소와 규제적인 우려 등으로 인해 AI 도입이 성공에 대해 부정적인 태도를 보였다.^[5]

하지만 1년 만에 상황은 빠르게 역전되고 있다. 이미 많은 은행들이 머신러닝(ML), 신경망(ANN), 자연어처리(NLP), 생성형AI 도구들과 같은 최신 기술을 통합해 사업 운영을 보다 효율화하고 새로운 가치를 창출하고자 노력하고 있다.^[6]

그림 1. 생성형AI로 인한 은행의 클라우드 및 데이터 투자 증가

출처: 2024 Deloitte State of Generative AI survey, 딜로이트 인사이트

딜로이트 글로벌의 ‘2025년 금융산업 전망’에 따르면, 은행 부문에서 AI 혁신 잠재력은 빠르게 현실화되고 있으며 이에 따라 은행 서비스 제공 및 소비 방식이 대전환을 맞이했다고 판단된다.^[7] 2025년은 은행들이 생성형AI의 실험적 도입에서 나아가 소프트웨어 엔지니어링과 금융사기 대응 등 본격적 상용화에 나서는 변곡점이 될 전망이다.

씨티그룹(Citigroup)은 AI로 인해 글로벌 은행 업계 수익이 향후 5년간 연평균 9% 증가해 2028년에는 미화 2조 달러 규모에 달할 것이란 전망을 제시했다.^[8]또한 맥킨지(McKinsey) 연구소는 글로벌 은행업 부문 전체에서 차세대 AI가 생산성 향상을 통해 매년 연간 2,000억~3,400억 달러, 전체 산업 이익의 2.8~4.7%를 추가할 것이라고 주장하기도 했다.^[9]

현재 대규모 언어모델(LLM)이 큰 관심을 받고 있지만, 정작 은행들의 비즈니스 성과에 더욱 유용한 것은 초기 AI의 예측능력이다. JP모간(J.P. Morgan)은 생성형AI와 더불어 양자컴퓨팅 등 미래 기술에 투자하고 있지만,^[10]현재까지는 초기 형태의 머신러닝에서 더 많은 가치를 얻을 수 있다고 한다.^[11]

한편, 포브스 인사이트(Forbes Insights) 2023년 설문조사에 응한 은행 리더 10명 중 약 6명(59%)이 조직의 비즈니스 성장을 가로막는 최대 장애물로 레거시 인프라를 꼽았다.^[12]은행들이 AI의 혁신적 힘을 100% 활용하기 위해서는 현대화 노력에 박차를 가해야 한다는 의미다. 딜로이트 서베이에 따르면, 2024년 6월 기준 데이터 관리와 클라우드 소비에 대한 투자를 늘려 전사적 생성형AI 전략 개선 계획을 세운 은행이 3/4을 넘었다.^[13]더 이상 핵심 기능을 지원하지 못하는 메인프레임 기반의 ‘좀비’ 코어 시스템을 현대화하는 것은 힘든 과제다.

은행 외에도 자산운용사, 보험사들도 AI 활용에 진심이다. 자산운용 업계는 상품판매와 자산배분에 AI가 동력이 될 것으로 기대한다. 글로벌 대형 자산운용사들은 자체 AI 기반 플랫폼을 구축해 고객 개인별 리스크 수용도에 기반한 맞춤형 포트폴리오를 제안한다. 자산배분의 경우 AI를 적극 이용하는 경우가 적지만, 보통 수준 이상 활용하는 운용사가 60%에 달하기 때문에 보다 적극적인 활용으로 나아갈 것으로 예상된다. 특히 생성형AI가 데이터분석, 정보 리서치, 앱 개발 등 인적 스킬 가치를 증강할 것으로 예상된다.^[14]

딜로이트가 미국 보험사 임원 200명을 대상으로 2024년 6월 실시한 조사 결과에 따르면, 응답자의 76%가 1개 이상 사업부서에 생성형AI를 도입했다고 밝힐 정도로 보험업계에서도 AI 도입이 변곡점에 도달했다. 일부 업체는 보험금 청구 및 고객 서비스 등 핵심 부문에 생성형 AI를 도입했다. 서베이 결과 보험사 임원들은 판매, 리스크 관리, 보험금 청구 관리 등을 우선 도입 분야로 꼽았다.^[15]

이들 금융서비스 기업들의 AI 전략에 필수적인 해결 과제는 올바른 데이터 전략과 거버넌스 구축, 그리고 인력 확보 및 스킬 교육, 조직 문화 함양 등이다.

최신 AI 기술 발전: ‘에이전틱 AI’

AI는 할당된 작업을 실행하는 합리적 에이전트(rational agent)이다.^[16]라틴어 ‘agere’(to do)를 어원으로 하는 에이전트는 행위주체 혹은 대리인이란 뜻이다. 합리적 에이전트는 단순한 행위자를 넘어 최선의 결과를 얻기 위해, 혹은 불확실성이 있을 때 최선의 기대 결과를 달성하기 위해 행동한다. 경제학에서 지능을 가진 인간 에이전트는 자원 제약에 따라 주관적인 효용성을 극대화하기 위해 행동하는 목표 지향적이고 합리적인 에이전트로 모델링이 되는데, AI도 이러한 접근방식을 채택한다.^[17]

생성형AI의 최신 진화단계인 ‘자율적 생성형AI 에이전트’(autonomous gen AI agent), 이른바 ‘에이전틱 AI’(agentic AI)는 콘텐츠를 생성하는 것을 넘어 인간의 행동을 모방하고 자율적으로 추론하고, 적응하고, 조치를 취하는 작업을 수행할 수 있는 지능형 시스템, 이른바 ‘에이전트’ 기술이다.^[18]에이전시(agency)는 독립적으로 행동하고 결정할 수 있는 자율성을 의미한다. 이 때 에이전시와 자율성은 도덕적이고 정치적인 개념이 아니라 소프트웨어 기반 기술이 인간의 지시가 없이 임무를 설계하고 달성한다는 맥락에서 사용하는 개념이다.^[19]

챗봇이나 코파일럿 등 프롬프트에 응답하여 문장이나 이미지를 생성하는 기존 생성형AI와 달리, 에이전틱 AI는 자율적으로 작동하며 실시간 데이터를 기반으로 결정을 내린다. 이는 단순히 생성하는 것을 넘어 행동한다. 이 때문에 간단한 작업을 도와주는 것을 넘어 실제 의사결정 및 문제해결과 같은 고차원적인 작업을 해주거나 컨설턴트 역할을 하여 기업이나 개인이 의사결정을 내리는 데 도움을 줄 수 있을 것으로 기대된다.

그림 2. 에이전틱 AI의 발전

출처: 딜로이트 2025 첨단기술·미디어·통신 산업 전망

딜로이트는 ‘2025 첨단기술·미디어·통신(TMT) 산업 전망’(TMT Prediction 2025) 보고서에서 생성형AI를 도입하는 기업의 25%가 2025년에 에이전틱 AI를 시범 도입하거나 개념증명(PoC)을 시도할 것이며, 2027년까지 이 비율이 50%까지 증가할 것이라는 예측을 제시했다. 또한 일부 산업과 활용 사례에서는 2025년부터 특정 에이전틱 AI 애플리케이션을 기존 업무 절차에 실제로 도입할 수 있으며, 이러한 추세가 하반기부터 본격화될 것이라고 전망했다.^[20]

에이전틱 AI의 기초 메커니즘이 지니는 공통적인 특징은 LLM과 같은 기초 모델에 기반하며 추론 토큰을 도입하여 사고 흐름 모델을 통해 스스로 복잡한 과업을 계획하고 실행하도록 훈련할 수 있으며(자율적인 행동), 환경을 감지해 정보를 처리하고 주어진 과업의 맥락을 이해하고, 소프트웨어와 기업용 애플리케이션, 인터넷 등 다른 도구 및 시스템과 상호작용한다는 점이다. 또한 다른 시스템과 봇에 참여를 지시하는 멀티에이전트 시스템으로 다른 자율적 생성형AI 에이전트와 협업할 수 있다. 나아가 ‘상태 또는 기억이 없다’고 알려진 LLM과 달리 복구 가능한 메커니즘과 데이터베이스를 갖추고 있어 과거의 경험으로 학습하고 개선할 수 있다는 특징도 있다.

일부 최신 에이전틱 AI는 사고의 흐름 모델이 도입돼 추론 방식이 더욱 정교하며, 복잡한 문제에 대해 더욱 고차원적인 추론도 가능하다. 나아가 멀티모달(multi modal; 문장, 화상, 영상, 음성 등 다양한 유형) 데이터 분석이 가능해 해석 및 생성할 수 있는 데이터 종류가 확대되기 때문에 유연성이 더욱 뛰어나다.

다만 자동화 소프트웨어 설계 기술인 ‘에이전틱 AI 엔지니어’는 현재까지 가장 성공적인 생성형AI 활용 사례로 꼽히는 ‘코파일럿’(Copilot)보다 뛰어나지만, 비슷한 취약점을 가지고 있는 것으로 알려진다. 현재 기술로는 인간의 감독 없이 완전히 자율적인 것은 고사하고 부분 자율적인 과업을 맡기기에도 오류가 지나치게 많다는 것이다. 최신 AI 기술도 지금까지는 사람 엔지니어의 업무 부하를 일부 처리할 수 있는 수준에 도달한 것으로 평가된다.^[21]

결론적으로 에이전틱 AI는 업무흐름 전체 혹은 일부를 자동화함으로써 지식근로자의 생산성을 개선할 막대한 잠재력을 지니고 있지만, 아직은 해당 기술의 개발 및 도입의 초기라서 실수나 오류의 반복 회로에 갇힐 위험이 있다.

따라서 에이전틱 AI가 자율적인 과업을 수행하더라도 휴먼인더루프(HITL, human in the loop)^[22]보다는 덜 제한적인 휴먼온더루프(HOTL, human on the loop)^[23]방식으로 인간이 검토하고 필요한 경우 개입하는 방식이 현실적인 것으로 판단된다.

딜로이트는 일부 기업들이 신뢰할 수 있는 에이전틱 AI를 개발하기 위해 수십 억 달러를 투자하고 있지만, 언제 어떠한 환경에서 성공할지 알 수 없으며 광범위한 도입이 당장 2025년에 가능할 수도 있지만 5년 후에나 가능할 수도 있다면서 ‘건전한 회의적인 시각을 유지’할 것을 주문한다.^[24]

AI와 금융 불안정성 논란

AI가 금융 안정성에 미치는 함의에 대해서는 학계와 업계 내부에서도 논란이 있다. 낙관적인 전문가들은 기술이 시스템을 근본적으로 바꾸는 것이 아니며 AI도 금융서비스를 재편하는 기술 혁신들 중 하나일 뿐이라고 주장한다. 이 같은 주장에 따르면, AI는 금융 안정성에 새롭거나 특이한 위협을 가하지 않는다. 그러나 비관론자들은 생성형AI가 인간 의사결정자에게 정보를 제공하는 것을 넘어 자율적인 결정을 내린다는 점에서 이전 기술 혁신과는 차이가 있다는 점에 주목한다.^[25]

AI가 금융 안정성에 미치는 영향은 첨단 기술과 전통적인 금융 시스템 취약성이 교차하는 지점에서 나타난다. AI 기술은 대규모 데이터 세트 속에서 특정한 패턴을 빠르고 안정적으로 탐지하고 활용하는 데 유리하다. 하지만 AI의 성능은 관련된 데이터에 대한 훈련 수준에 따라 크게 좌우되며, 사용자가 보기에 불투명한 의사 결정 과정, 다른 엔진과의 유착, 환각 경향과 결합되어 안정성 위험이 발생한다.

지금 당장 AI에게 '시스템을 안전하게 유지하라'고 명령하는 것은 불가능하다. 인간은 직관, 광범위한 교육, 집단적인 판단 등으로 부족한 격차를 메울 수 있지만 아직까지 AI는 그런 수준에 도달하지 않은 것으로 판단된다. 일례로 AI 모델이 증권법을 준수하면서 이익을 극대화하라는 명시적인 지시를 받은 상태에서, 비공개 내부 정보 팁을 전달받자 인간 감독자에게 거짓말을 하면서 즉시 불법적인 내부자 거래에 참여한 사례는 주목할만하다.^[26]

그림 3. 내부자 거래 실행하는 GPT-4

출처: Jérémy Scheurer et al.(2023), 딜로이트 인사이트

관련 연구에 따르면, 생성형AI 최신 엔진인 GPT-4를 현실적으로 시뮬레이션 된 환경에서 에이전트로 배포하여 자율적인 주식매매 에이전트 역할을 설정했을 때 모델은 수익성이 높은 주식 거래에 대한 내부자 정보를 입수하자 회사 경영진이 내부자 거래를 승인하지 않는다는 것을 알고 있음에도 불구하고 정보에 따라 내부자 거래를 단행했다. 또한 모델은 관리자에게 보고할 때 거래 결정 뒤에 숨겨진 진짜 이유를 일관되게 숨기는 것으로 나타났다. 관리자가 내부 정보를 가지고 있는지 여부를 물었을 때, 모델은 전략적인 속임수를 두 배로 늘렸다. AI 모델은 직접적인 지시나 훈련이 없이도 현실적인 상황에서 전략적으로 사용자를 속였다.^[27]

그림 4. GPT-4, 전략적으로 사용자 기만

출처: Jérémy Scheurer et al.(2023), 딜로이트 인사이트

금융 및 재무 의사결정권자는 법 또는 규제에 따라 자신이 내린 결정의 배경을 설명해야 할 의무가 있다. 하지만 현재의 AI는 그렇게 할 수 없다. 앞에서 보듯이 이른바 ‘설명 가능성’ 자체가 제한되기 때문이다.

나아가 AI는 추론 오류와 ‘환각’(hallucination, 할루시네이션)에 취약하여, ‘자신 있게 말도 안 되는 답변’을 할 수도 있다. 이 때문에 금융회사가 다양한 경제적 충격이나 위기 상황에 직면했을 때 얼마나 잘 버틸 수 있는지를 평가하는 ‘스트레스 테스트’(stress test) 시나리오를 생성할 때 AI를 활용하는 것은 신중히 검토해야 한다.

심지어 AI는 법과 규제의 허점을 찾거나, 범죄를 저지르거나, 테러에 가담하거나, 국가적 공격을 수행하는 등 유해한 목적으로 기술을 사용하려는 사람들의 작업을 용이하게 할 수 있다. 범죄자들은 윤리적 지침이나 규정을 따르지 않는다.

규제는 개인의 보상 동기를 사회적 이익과 일치시키는 역할을 한다. 하지만 보상이나 처벌에 관심이 없는 AI에게 ‘당근과 채찍’인 전통적인 규제 수단은 효과가 없다. 이 때문에 규제 자체가 근본적으로 변해야 한다.

AI는 고유한 훈련 방식 때문에 다양한 부문에 걸쳐 있는 다른 AI 엔진의 결정을 관찰하고 바람직하지 않은 행동을 강화할 수 있는, 인간이 감지할 수 없는 ‘피드백 루프’를 형성한다. 인간 사용자가 실시간으로 관찰하거나 이해할 수 없는, 숨겨진 이러한 채널은 폭주, 유동성 증발 및 위기로 이어질 수 있다.^[28]

보이지 않는 금융 위기

금융 위기가 주기적으로 발생함에도 불구하고 이를 사전에 감지하고 예방하기 어려운 주된 이유는 위기를 유발하는 시스템 상의 불안정성이 경제 주체들에게 보이지 않은 곳에서 작동하기 때문이다. 가장 심각한 금융 위기는 정의상 ‘알 수 없는 것’(unknown-unknowns) 또는 ‘불확실한 것’(uncertain)이다.^[29]

또한 위기 발생 여부는 시스템이 이러한 불안정성을 통제하려는 시도나 방식에 어떻게 반응하는가에 달려 있다. 통상 금융회사들은 규제 당국의 통제를 고분고분하게 받아들이기 보다는 전략적으로 대응한다. 금융회사는 항상 수익을 최적화하는 데 집중하지만, 위기가 닥치면 이익보다는 생존이 최우선이다. 생존이 우선인 경우 뱅크런, 헐값 매각, 신용경색 등 금융 혼란과 위기를 유발하는 행위로 이어지며, 이 때 개별 회사의 행위는 무작위적이지 않고 훨씬 더 동기화되어 동일한 자산을 동시에 사고 파는 상황이 전개된다.

상황을 더 악화시키는 것은, 금융회사가 미래에 발생할 충격이나 위기에 어떻게 반응할지 사전에 알 수가 없다는 것이다. 사실 외부 관찰자뿐 아니라, 자신들도 어떻게 해야 할지를 알지 못하는 경우가 많다. 이 때문에 극단적인 유형의 위기나 사고에 대한 데이터는 거의 없는 경우가 많다. 모든 위기는 비슷해 보이지만, 그 세부적인 내용은 독특하며 위기가 남긴 교훈은 위기가 발생한 이후라야 시스템 운영 방식을 변경할 수 있다. 이 때문에 위기 상황에 대비하는 것은 ‘백미러로만 운전하는 것과 같다’는 말이 있다.^[30]

금융 시스템은 매일 막대한 양의 데이터를 생성하는데, AI가 훈련하는 데이터는 대부분 위험 분포의 가운데(90~95% 신뢰 구간)에서 나오며, 위기 발생에 관여하는 꼬리에 대한 데이터는 희박하다. 이러한 데이터 부족이 환각을 유발하고 잘못된 방향으로 위험을 초래할 수 있다. 극단적인 금융 시스템 사고와 관련된 데이터가 너무 적고 각각의 위기가 서로 관련성이 적은 고유한 특징을 가지기 때문에, AI는 과거의 위험이나 위기로부터 많은 것을 배울 수 없다.^[31]

나아가 자본과 인적인 자원, 컴퓨팅 소스 및 데이터 등 관련 경제성 문제 때문에 AI를 공급하는 회사는 거의 독점적이거나 많아야 몇 개에 불과하다는 점도 감안해야 한다. 이 때문에 민간이나 공공 부문 모두 금융 환경이나 시스템 위험에 대한 이해를 제한된 공급자들로부터 동일하게 받게 될 가능성이 높다.

이는 위험에 대한 단일한 인식이나 대응방식 등과 같은 제한된 환경을 유발하며, 유사한 거품을 부풀리고 동일한 체계적 취약성을 놓치게 만든다. 하지만 금융시장에 참가하는 인간들의 사고방식이나 행동은 매우 이질적이기 때문에, 예상치 못한 위험이나 사건에 직면했을 때 잘못된 대응을 낳을 가능성이 있는 셈이다.

최신 금융 불안정성 요인: 경제 연착륙과 레버리지

최근 글로벌 경제의 금융 불안정성은 상대적으로 낮은 것으로 보인다. 이는 주요국 경제가 팬데믹 위기, 전쟁, 지정학적 불확실성, 인플레이션 등을 극복하고 연착륙에 성공할 것이란 전망과 일치한다. 하지만 다양한 위기와 불안정 상황에서 이루어진 확장적 재정정책과 유동성 증가, 이에 따른 자산가치 상승과 레버리지 활용 증대는 미래 위기의 요인이 될 수 있다.

국제통화기금(IMF)은 2024년 연례 금융안정보고서(Global Financial Stability Report)에서 “단기적으로 금융 안정성에 대한 위험은 제한적일 것으로 예상된다”고 평가했다.^[32]다만 IMF는 “경제적, 지정학적 불확실성이 커지면서 부정적인 충격이 발생할 가능성이 높아지고, 취약성이 노출되고 있다”는 의견도 덧붙였다.

금융의 안정성이 유지된 것은 주요국 통화정책이 계속 완화되면서 경제가 연착륙에 성공 것으로 예상되기 때문이다. 그러나 단기적인 위험을 억제하는 완화적 금융 여건은 높은 자산가치 평가, 민간 및 정부 부채의 증가, 비은행 금융기관의 레버리지 활용 증가와 같은 ‘취약성’이 축적되도록 촉진한다.

이러한 취약성이 커지면 경제적 불확실성 증가에도 불구하고 금융 변동성이 감소하는 ‘불일치’ 혹은 ‘단절’이 지속될 경우, 향후 부정적인 충격으로 인해 시장 변동성이 치솟을 때 훨씬 더 광범위한 충격을 가할 수 있게 된다. 현재 가장 우려되는 대목은 늘어난 재정적자 조달 우려, 중국 경제의 성장 둔화와 금융시스템 취약성, 상업용 부동산 부문의 지속되는 어려움 등이다.

그림 5. 높은 지정학적 불확실성과 낮은 금융시장 변동성의 간극

(역사적 표준편차 값의 차이)

출처: Bloomberg Finance L.P., IMF 보고서 재인용

IMF의 분석에 따르면, 거시경제 불안정성이 높으면 경제와 금융의 안정성이 저하될 위험이 높아지는데, 앞서 금융시장의 취약성이 축적되거나 경제적 여건과 무관하게 금융시장의 변동성이 낮을 때 그러한 위험이 더욱 높아질 수 있다. 글로벌 무역과 금융시장 간 연계로 인해 위험은 글로벌 파급효과를 유발한다. 이 때문에 주요국들은 거시경제 안정성 강화와 대외준비금 확대를 통해 부정적인 파급효과를 억제하고자 한다.^[33]

금융 당국의 역할과 AI 활용 가능성

기술의 특허출원 동향에 의하면 AI 알고리즘 거래 방식과 새로운 거래 및 투자 전략의 도입이 크게 증가할 가능성이 높으며, 이는 금융시장 구조에 큰 변화를 초래할 수 있다.  반면 AI를 잘 활용하면 위험 관리를 강화하는데 도움이 될 수 있으며, 시장 유동성을 확대하고, 시장 참여자와 규제기관 모두 금융시장 모니터링을 개선해주는 식으로 일부 금융 안정성 위험을 줄일 수 있다.

하지만 금융 스트레스 상황에서 시장의 속도와 변동성 증가, 비은행 금융회사의 불투명성과 모니터링 과제 증가, 일부 제3자 AI 서비스 제공업체에 대한 의존에 따른 운영 위험 증대, 사이버 시장 조작위험 증가 등 새로운 위험을 유발할 수도 있다. 특히 기존 규제 프레임워크를 벗어나는 잠재적인 혁신적인 변화에 대비할 필요성도 높아진다.

경제협력개발기구(OECD)에 따르면, 2022년 12월부터 2024년 9월 사이에 생성형AI의 사용으로 인해 발생하는 위험이나 사고의 규모가 2024년 6월에 전례 없는 최고치인 730건을 기록할 정도로 폭발적으로 증가했다.^[34]

그림 6. 생성형AI 활용에 따른 위험 혹은 사고 건수 급증 양상

출처: OCED(2023), BIS “Governance of AI adoption in central banks”(2024)에서 재인용

금융당국, 특히 중앙은행의 중요한 임무들 중 하나는 금융 위기를 예방하고 충격을 최소화하여 금융안정성을 달성하는 것이다. 체계적 금융 위기는 파괴적인 양상을 보이면서 경제에 막대한 손실을 입힌다. 금융 시스템의 복잡성이 계속 높아지기 때문에 이러한 임무는 갈수록 어려운 일이 된다.

이런 상황에서 규제 당국이 AI를 활용한다면, 방대한 양의 데이터를 처리하고 시스템의 복잡성 속에서 패턴을 발견하고 대응하는 일이 수월해질 수 있을 것이다. 이러한 역할은 주로 금융시장 참가자들의 행동과 미시적인 균형 영역에서 빛을 발한다.

현재의 금융 규제로는 이러한 위험에 사전적으로 대응하거나 위기를 해결하기에 충분하지 않다. 특히 거시적인 금융 안정성 분야에 AI를 활용하기 위해서는 전략적인 접근이 필요하다.^[35]

일례로 금융시장 참가자들이 단기 기준금리 결정에 대해 신뢰하는 이유는 중앙은행이 즉시 개입할 수 있고, 또 필요할 때 일상적으로 개입한다는 것을 알고 있기 때문이다. 이러한 신뢰 때문에 실제로 중앙은행이 단기 자금시장에 개입하지 않더라도 ‘자기실현적 예언’이 성립한다.

금융 당국은 일반 AI 시스템과 달리 금융시장의 스트레스에 대해 즉시 개입을 실현하는 트리거 반응을 허용하는 사전에 정해진 규칙이 있는 상시적 대응 기능을 AI 엔진에 구현할 수 있다. 또한 자동화 대응 프로그램 외에도 금융시장에 대한 상시 모니터링 기능을 통해 시스템 전반에 대한 시야를 확보해야 한다. 당국은 나아가 AI 엔진간 통신 링크를 구축하여 벤치마킹함으로써 자체 AI 엔진을 개발할 수 있다. 이를 통해 ‘스트레스 테스트’를 수행하고 대응 방식을 시뮬레이션 하는 것이 가능해진다.^[36]

이러한 전략적인 AI 엔진 개발 및 대응을 위해서는 당국의 자원만으로는 부족하다. 앞서 신용위험 분석, 금융사기 탐지, 자금세탁방지, 위험관리 등과 같이 이미 금융 규제 분야에서 일반화된 유형의 민관 파트너십을 활용해 자체 AI 엔진에 반영할 수 있다.

─

[1] Jon Danielsson, Andreas Uthemann, “Artificial intelligence and financial crises”, Aug. 2, 2024

[2] Deloitte Global, “How should banks respond to the current disruption in software engineering?” Feb. 6, 2025

[3] Jon Danielsson, Andreas Uthemann, “AI financial crises,” Jul. 26, 2024

[4] CapGemini Research Institute, “World Retail Banking Report 2024”, Mar. 5, 2024

[5] Financial Times, “Financial services shun AI over job and regulatory fears,” Jun. 30, 2024

[6] 딜로이트 인사이트, “2025 금융 혁신 키워드: 기술, 규제, 인간-딜로이트 2025 금융산업 전망”, 2025년 1월 16일

[7] Ibid.

[8] Citigroup, “AI in Finance: Bot, Bank & Beyond”, Jun. 17, 2024

[9] McKinsey, “Scaling gen AI in banking: Choosing the best operating model,” Mar. 22, 2024

[10] JPMorgan Chase & Co., “2023 Investor Day: Presentation”, May 22, 2023

[11] JPMorgan Chase & Co., “2024 Investor Day Presentation”, May 20, 2024 

[12] Forbes/Thought Machine, “Banking At A Crossroads: The Threat of Legacy Infrastructure”, Aug. 11, 2023

[13] 딜로이트 인사이트, op. cit.

[14] 딜로이트 2025 금융산업 전망, “Part 2. 자산운용 부문, 극적인 위험-보상의 한 해 전망,” 2025년 1월 16일.

[15] 딜로이트 2025 금융산업 전망, “Part 3. 보험산업, 미개척 미래를 향한 방향성 재정립의 분기점,” 2025년 1월 16일

[16] Russell, S. and Norvig, P. (2021) Artificial Intelligence: A Modern Approach. 4th Edition, Pearson Education, Inc., London.

[17] 딜로이트 글로벌 TMT 센터, op. cit.

[18] IBM, “Agentic AI: 4 reasons why it’s the next big thing in AI research”, Oct. 11, 2024

[19] 딜로이트 글로벌 TMT 센터, “2025 첨단기술·미디어·통신(TMT) 산업 전망”, 2025년 1월31일. 에이전틱 AI는 사용자의 개입 없이 환경을 인지하여 상호작용하고, 데이터를 수집하고, 데이터를 사용하여 사전 결정된 목표를 달성하기 위해 필요한 작업을 ‘스스로 결정해서 수행할 수 있는’ 소프트웨어 프로그램으로 정의된다. 목표는 인간이 설정하지만, 그 목표 달성 과정은 에이전틱 AI가 담당하는 것이다

[20] Ibid.

[21] Ibid.

[22] 휴먼인더루프(HITL, human in the loop)는 AI가 신뢰도 높은 학습 모델을 도출하기 위해 인간 전문가가 AI 학습 과정 중에 중간 결과물을 직접 확인하고 조정하는 ‘피드백 루프’(feedback loop)를 형성하는 방식을 뜻한다. 데이터 주석, 오류 수정 및 모델 학습에서 주로 사용한다. 정보통신용어사전 및 국립국어원 해당 용어 참조

[23] 휴먼온더루프(HOTL, human on the loop)는 HITL의 확장으로, 인간이 감독의 관점에서 훈련 또는 교육 역할을 담당하여 개입하는 방식이다. 인간은 라벨이 지정된 데이터를 제공하고 실수를 수정하는 등 AI 시스템에 실시간 모니터링 및 피드백을 제공하여 시간이 지남에 따라 AI의 성능을 개선한다. 일반적으로 AI 시스템이 특정 수준의 성능에 도달했지만 예외적 이상 사례, 중요한 결정 지점 등에 직면하여 더욱 개선이 필요하고 이에 따라 인간의 피드백과 개입이 필요할 때 사용하며, 고도의 추론 결과가 필요한 자율주행차, 사기탐지, 의료진단 등의 전문 애플리케이션에서 주로 활용한다.

[24] 딜로이트 글로벌 TMT 센터, op. cit.

[25] Jon Danielsson, “Artificial intelligence and stability”, Feb. 6, 2025

[26] Jérémy Scheurer, Mikita Balesni, Marius Hobbhahn, “Technical Report: Large Language Models Can Strategically Deceive their Users when Put Under Pressure”, Nov. 2023

[27] Ibid.

[28] Jon Danielsson, op. cit.

[29] Frank H. Knight, “Risk, Uncertainty and Profit”, 1921

[30] 주류적인 시각에서 금융 위기는 대체적으로 예측 불가능하다. 이러한 견해가 맞는다면, 정책 당국은 '소방수', 즉 위기 후 청소에 노력을 집중해야 한다. 이러한 주류적 시각에 대한 이견도 있다. Greenwood, R, S G Hanson, A Shleifer, and J A Sørensen (2020), "Predictable Financial Crises", Harvard Business School working paper, No 20-130.을 참고하라.

[31] Jon Danielsson, Andreas Uthemann, “How the financial authorities can respond to AI threats to financial stability”, Jul. 28, 2024.

[32] IMF, “Steadying the Course: Uncertainty, Artificial Intelligence, and Financial Stability”, Oct. 2024

[33] Ibid.

[34] BIS Consultative Group on Risk Management, “Governance of AI adoption in central banks”, Jan. 2025

[35] Jon Danielsson, Andreas Uthemann, “Artificial intelligence and financial crises”, Aug. 2, 2024

[36] Jon Danielsson, Andreas Uthemann, “How the financial authorities can respond to AI threats to financial stability”, Jul. 28, 2024.

─