Deloitte AI Institute ┃ 딜로이트 글로벌 CEO 프로그램
생성형AI 활용 극대화를 위한 CEO의 세 가지 핵심 역할
기업 경영에 생성형AI 활용하기: CEO 시리즈
생성형AI 기업을 구상하는 CEO들을 위한 가이드: CEO 시리즈
딜로이트/포춘이 CEO를 대상으로 실시한 생성형AI 관련 설문조사에 따르면, 응답자의 79%가 생성형AI 도입 원인 중 하나로 혁신 가속화를 꼽았습니다.
딜로이트의 CEO 시리즈는 CEO가 미래를 내다보고 조직의 가치를 극대화할 수 있도록 생성형AI 비전 구상 및 실현 방안을 제시합니다.
오늘날 CEO는 앞으로 생성형AI 활용 방안을 구상하고 구현할 때 의사 결정의 최전선에 서야 합니다.
생성형AI에서 파생되는 전략상 중요한 기회를 잡으려면 CEO는 자사의 첨단기술 아젠다에 대해 깊이 고민해봐야 합니다. CEO는 생성형AI가 어떻게 비즈니스 모델을 변화시킬지 이해할 수 있을 만큼 첨단기술에 대한 이해도가 높아야 합니다. 또한 생성형AI로 인한 격변이 산업에 미치는 영향을 이해하고, AI가 가져오는 경쟁 우위에 대해 이해하며, AI가 빠르게 잠식할 수 있는 분야를 파악해야 합니다.
생성형AI의 다양한 선택지와 그 막대한 영향력을 고려할 때, CEO가 일반적으로는 위임했을 주요 의사 결정에 대해 심층적으로 고민해야 합니다. 얼리 어답터가 될지 아니면 빠르게 따라잡는 후발주자가 될지, AI가 혁신을 위해 필요한지, 아니면 생산성을 위해 필요한지, 또는 AI 기술을 자체적으로 구축할지 아니면 외부에서 구매할지 등에 대한 의사결정이 필요합니다.
생성형AI의 다양한 선택지와 그 막대한 영향력을 고려할 때, CEO가 일반적으로는 위임했을 주요 의사 결정에 대해 심층적으로 고민해야 합니다. 얼리 어답터가 될지 아니면 빠르게 따라잡는 후발주자가 될지, AI가 혁신을 위해 필요한지, 아니면 생산성을 위해 필요한지, 또는 AI 기술을 자체적으로 구축할지 아니면 외부에서 구매할지 등에 대한 의사결정이 필요합니다.
모든 책임은 CEO에게 있다
어제의 빛나는 혁신은 오늘의 골칫거리가 될 수 있습니다. 멀티클라우드(Multi-cloud)가 일례입니다. 많은 기업이 중앙 의사 결정 허브를 구축하지 않고 여러 건의 개별 클라우드 계약을 서두르다가 지금은 오히려 간소화가 절실한 상태에 놓인 것이 좋은 예입니다. 이처럼 신중한 주의 없이는 생성형AI 또한 같은 길을 걷게 될 수 있습니다.
AI 서비스를 출시하는 기업이 증가함에 따라, CEO는 과거를 교훈 삼아 사전에 충분한 시간을 들여 다음과 같은 의사 결정을 내려야 합니다.
AI 서비스를 출시하는 기업이 증가함에 따라, CEO는 과거를 교훈 삼아 사전에 충분한 시간을 들여 다음과 같은 의사 결정을 내려야 합니다.
- 몇 가지 주요 선택지에 투자를 집중할 것인가, 아니면 생성형AI 시장이 발전하면서 생기는 다양한 선택지를 활용할 것인가?
- 접근 방식에 있어 유연성을 확보하기 위한 방안에는 어떤 것들이 있을까?
- 직간접적인 비용과 성과에 대한 영향은 어떻게 측정할 것인가?
- AI 모델 개발에 있어 신뢰와 가드레일을 포함할 수 있는 방안에는 어떤 것들이 있을까?
컴퓨팅 파워 확보
생성형AI가 광범위하게 도입되면서 신속한 모델 트레이닝 및 실행 필요성이 주요 비즈니스 요건으로 부상했습니다. 기존 컴퓨팅 인프라는 데이터를 순차적으로 처리하는 중앙처리장치(CPU)에 의존했습니다. 그러나 LLM의 경우 ‘대규모 병렬 처리’(Massively Parallel Processing, MPP)가 가능한 특수 AI 칩이 필요합니다. MPP는 생성형AI 기반 알고리즘을 통해 테라바이트 단위의 데이터를 효율적으로 처리하는 데 중요한 요소로 작용합니다. 연구에 따르면 AI 특수 칩 시장은 그 규모가 2024년에 600억 달러를 넘어 2027년에는 1,200억 달러까지 증가할 것으로 전망됩니다.
그래픽처리장치(GPU)를 전문으로 하는 클라우드 제공업체는 일부 기업의 니즈를 충족할 수 있습니다. 그러나 AI로 혁신과 경쟁 우위 확보를 목표로 가진 CEO는 보다 강력한 컴퓨팅 파워를 확보하길 희망할 것입니다. 이러한 CEO 중 대다수가 생성형AI 하드웨어 기업과 커뮤니케이션을 진행하고 있으며, 적절한 수준의 자원을 확보하기 위해 반도체 제조업체와 협상 또한 진행하고 있습니다.
CEO는 딜 메이커로서 투자자의 정서를 고려하고 경영진, 특히 최고정보책임자(CIO) 및 최고기술책임자(CTO)와 협력하여 하드웨어 조달 전략과 중요한 비즈니스 목표가 부합하도록 해야 합니다. 또한 엣지 컴퓨팅(Edge Computing) 등 신기술은 분산형 AI 프로세싱에 대한 새로운 기회를 제공합니다. CEO는 기술 발전과 시장 동향을 면밀히 파악하여 객관적인 정보에 입각한 의사 결정을 통해 미래를 위한 자사의 컴퓨팅 인프라를 준비할 수 있습니다.
그래픽처리장치(GPU)를 전문으로 하는 클라우드 제공업체는 일부 기업의 니즈를 충족할 수 있습니다. 그러나 AI로 혁신과 경쟁 우위 확보를 목표로 가진 CEO는 보다 강력한 컴퓨팅 파워를 확보하길 희망할 것입니다. 이러한 CEO 중 대다수가 생성형AI 하드웨어 기업과 커뮤니케이션을 진행하고 있으며, 적절한 수준의 자원을 확보하기 위해 반도체 제조업체와 협상 또한 진행하고 있습니다.
CEO는 딜 메이커로서 투자자의 정서를 고려하고 경영진, 특히 최고정보책임자(CIO) 및 최고기술책임자(CTO)와 협력하여 하드웨어 조달 전략과 중요한 비즈니스 목표가 부합하도록 해야 합니다. 또한 엣지 컴퓨팅(Edge Computing) 등 신기술은 분산형 AI 프로세싱에 대한 새로운 기회를 제공합니다. CEO는 기술 발전과 시장 동향을 면밀히 파악하여 객관적인 정보에 입각한 의사 결정을 통해 미래를 위한 자사의 컴퓨팅 인프라를 준비할 수 있습니다.
AI 생태계 선정
생성형AI의 가치는 생성형AI가 소비하는 데이터에 달려 있습니다. 시중에 나와 있는 대부분의 LLM은 도메인이나 산업, 또는 기업 차원의 특수성을 바탕으로 구축되지 않았기 때문에 이는 CEO에게 이슈가 될 수 있습니다. 기업 전용의 프라이빗 LLM은 선택과 비용, 제어 측면에서 확실한 이점을 제공하는 동시에 기업이 지적 재산을 지킬 수 있도록 합니다. 가치를 창출하고 이를 확대하려면 기업은 자사의 특수한 니즈에 맞는 LLM과 광범위한 AI 생태계를 선택해야 합니다.
CEO는 자사의 데이터를 협상 카드로 쓸 수 있습니다. 미가공 데이터는 AI 제품을 개발하는 기업에게 있어 그 가치가 매우 큽니다. CEO는 신뢰 및 규제 문제를 방지하기 위해 데이터를 보호하거나 익명화 한다는 전제하에 현재 및 미래 데이터 자산을 새로운 모델의 잠재적 인풋으로 가치 평가하는 것을 고려해볼 수 있습니다.
하드웨어를 확보할 때와 마찬가지로 CEO는 다양한 AI 모델의 기술적인 세부 사항에 대해 너무 깊이 파고들 필요는 없습니다. 대신 CEO는 회사의 AI 중장기적 비전을 수립해야 하고, 맞춤형 LLM을 구축하는 데 있어 얼리 어답터가 될 것인지, 아니면 패스트 팔로워가 될 것인지에 대한 의사결정이 필요합니다. CEO는 벤처 투자자와 같은 사고방식을 가지고 시장에 대한 이해와 주요 기업과 쌓은 네트워크를 활용하여 어떤 선택이 최적일지에 대한 인사이트를 발휘할 수 있습니다. 동시에 광범위한 비즈니스 포트폴리오를 면밀히 분석하고 모든 투자 집행 단계에서 신중을 기할 수 있습니다.
CEO는 자사의 데이터를 협상 카드로 쓸 수 있습니다. 미가공 데이터는 AI 제품을 개발하는 기업에게 있어 그 가치가 매우 큽니다. CEO는 신뢰 및 규제 문제를 방지하기 위해 데이터를 보호하거나 익명화 한다는 전제하에 현재 및 미래 데이터 자산을 새로운 모델의 잠재적 인풋으로 가치 평가하는 것을 고려해볼 수 있습니다.
하드웨어를 확보할 때와 마찬가지로 CEO는 다양한 AI 모델의 기술적인 세부 사항에 대해 너무 깊이 파고들 필요는 없습니다. 대신 CEO는 회사의 AI 중장기적 비전을 수립해야 하고, 맞춤형 LLM을 구축하는 데 있어 얼리 어답터가 될 것인지, 아니면 패스트 팔로워가 될 것인지에 대한 의사결정이 필요합니다. CEO는 벤처 투자자와 같은 사고방식을 가지고 시장에 대한 이해와 주요 기업과 쌓은 네트워크를 활용하여 어떤 선택이 최적일지에 대한 인사이트를 발휘할 수 있습니다. 동시에 광범위한 비즈니스 포트폴리오를 면밀히 분석하고 모든 투자 집행 단계에서 신중을 기할 수 있습니다.
AI 특화 조직 설립
최근 포춘과 딜로이트가 실시한 CEO 설문조사에 따르면 80%의 기업이 혁신을 가속하기 위해 생성형AI를 이미 구현하고 있거나 구현할 계획에 있으며, 이 중 96%는 업무의 효율성을 높이기 위해 생성형AI를 도입하고 있는 것으로 나타났습니다. 이러한 기대 효과를 거두기 위해 기업들은 AI 특화 조직을 설립하고 있습니다. 이 특수한 비즈니스 허브는 혁신을 위한 촉매제 역할을 하며, 기업이 AI 솔루션을 개념화하고 개발하며 대규모로 활용할 수 있도록 지원하는 역할을 담당합니다. AI 특화 조직은 여러 부서의 AI 전문가와 이해관계자를 한 데 모아 조직 차원의 노력을 집중시키고 거버넌스와 가드레일(윤리 전문가 채용 등)에 대해 일관적인 접근 방식을 구축할 수 있습니다.
AI 특화 조직을 구현하는 데 있어 CEO의 역할은 설립에 대한 전폭적인 지지와 다양한 지원과 자원을 제공하는 데 있습니다. 여기에는 하드웨어, 데이터 니즈, 거버넌스 등 중요 요소에 대한 충분한 자금 지원 또한 포함됩니다.
또한 CEO는 고객, 직원, 이사회, 사회 전반을 포함한 모든 이해관계자의 지지를 얻어야 합니다. CEO는 최고법률책임자나 최고위험책임자와 협력하여 기업의 모든 구성원이 다가올 미래에 대비할 수 있도록 준비할 수 있습니다.
많은 직원들이 AI에서 기인한 변화에 대한 불확실성과 두려움을 느끼고 있고, 미래 직업과 기술의 모습에 대한 이해를 원하고 있습니다. CEO는 AI 유창성(AI Fluency)과 혁신의 문화를 조성하고, AI가 인간을 대체하는 것이 아니라 업무 조력자로서의 역할을 강화하는 것이라는 명확한 AI 도입 목적을 알려야 합니다.
CEO는 AI 특화 조직을 지식 교환과 협업의 장으로 활용함으로써 기업이 생성형 AI 경쟁에서 선두주자로 자리매김할 수 있도록 이끌어 나가는 중요한 역할을 담당하고 있습니다.
AI 특화 조직을 구현하는 데 있어 CEO의 역할은 설립에 대한 전폭적인 지지와 다양한 지원과 자원을 제공하는 데 있습니다. 여기에는 하드웨어, 데이터 니즈, 거버넌스 등 중요 요소에 대한 충분한 자금 지원 또한 포함됩니다.
또한 CEO는 고객, 직원, 이사회, 사회 전반을 포함한 모든 이해관계자의 지지를 얻어야 합니다. CEO는 최고법률책임자나 최고위험책임자와 협력하여 기업의 모든 구성원이 다가올 미래에 대비할 수 있도록 준비할 수 있습니다.
많은 직원들이 AI에서 기인한 변화에 대한 불확실성과 두려움을 느끼고 있고, 미래 직업과 기술의 모습에 대한 이해를 원하고 있습니다. CEO는 AI 유창성(AI Fluency)과 혁신의 문화를 조성하고, AI가 인간을 대체하는 것이 아니라 업무 조력자로서의 역할을 강화하는 것이라는 명확한 AI 도입 목적을 알려야 합니다.
CEO는 AI 특화 조직을 지식 교환과 협업의 장으로 활용함으로써 기업이 생성형 AI 경쟁에서 선두주자로 자리매김할 수 있도록 이끌어 나가는 중요한 역할을 담당하고 있습니다.
지속적으로 확대되는 CEO의 우선순위
AI 혁명은 앞으로 몇 년 동안 CEO의 역할에 변화를 가져올 것으로 예상됩니다. 경쟁우위와 업무 방식에 있어 기술이 얼마나 중요한지를 감안할 때 CEO의 기술에 대한 높은 이해도가 바탕이 되어야 합니다. AI가 지식 노동에 더욱 깊숙이 자리 잡으면서 AI 도입은 첨단기술 리더의 영역에서 벗어나 CEO의 우선순위가 되어 가고 있는 것입니다.
특히 AI 도입이 아직 초기 단계인 경우 더욱 그렇습니다. CEO는 새로 등장한 기술의 영향력이 클 때 내려야 하는 수많은 거시적 및 미시적 의사 결정에 자신의 경험을 활용할 수 있습니다. 앞으로 AI를 동력삼아 미래를 대비하는 기업을 이끄는 방법을 시리즈로 연재하면서, CEO의 역할에 대해 자세히 살펴볼 예정입니다.
특히 AI 도입이 아직 초기 단계인 경우 더욱 그렇습니다. CEO는 새로 등장한 기술의 영향력이 클 때 내려야 하는 수많은 거시적 및 미시적 의사 결정에 자신의 경험을 활용할 수 있습니다. 앞으로 AI를 동력삼아 미래를 대비하는 기업을 이끄는 방법을 시리즈로 연재하면서, CEO의 역할에 대해 자세히 살펴볼 예정입니다.
본 시리즈의 다음 보고서에서는 조직의 준비 상태, 에코시스템 전략, 리더십의 필수 요건을 짚어보고, CEO가 이러한 도전 과제를 극복할 수 있도록 지원하고자 합니다. 본 시리즈는 조직이 디지털 엔터프라이즈에서 인텔리전트 엔터프라이즈로, 그리고 최종적으로는 자동화된 엔터프라이즈로 진화하는 과정에서 CEO의 AI 여정을 지원하기 위한 기획과 연구 결과를 담았습니다. 시리즈의 첫 번째 리포트인 ‘생성형AI 기업을 구상하는 CEO들을 위한 가이드’를 읽어 보시기를 권합니다.