허위조작정보(가짜 뉴스)의 경제적 비용

안녕하세요.

딜로이트 인사이트는 글로벌 경제 및 산업 구도에 영향을 주는 주요 이슈에 대한 인사이트를 소개하고 최신 경제산업 데이터와 그 함의를 분석한 ‘딜로이트 주간 글로벌 경제 리뷰’를 매주 금요일에 발행합니다.

딜로이트 글로벌 수석 이코노미스트 아이라 칼리시(Ira Kalish) 박사를 비롯한 딜로이트 글로벌 이코노미스트 네트워크(DGEN)가 매주 배포하는 ‘딜로이트 주간 글로벌 경제 리뷰’를 통해 중요한 세계 경제 동향을 간편하게 파악하실 수 있습니다. 

‘딜로이트 주간 글로벌 경제 리뷰’는 국내 유력지 등 다양한 채널을 통해 외부 배포되고 있으며, 딜로이트의 풍부최한 경제·산업 인사이트를 전달하는 플랫폼의 기초 콘텐츠로 자리잡을 것입니다.

많은 관심 및 활용을 부탁드립니다.

2025년 1월 4주차 딜로이트 주간 글로벌 경제 리뷰는 허위조작정보(가짜 뉴스)의 경제적 비용에 대해 다룹니다. 

허위조작정보(가짜 뉴스)의 경제적 비용

전문가들이 꼽은 글로벌 최대 위험 요인, “허위 정보”

세계경제포럼(WEF)이 매년 초 공개하는 글로벌위험보고서의 조사 결과에 따르면, 2025년 현재 전 세계적인 규모로 중대한 위기를 초래할 수 있는 가능성이 가장 높다고 생각되는 위험 순위는 국가 무력충돌, 극단적 기상이변, 지정학적 대립에 이어 ‘잘못된 정보 및 허위조작정보’(misinformation & disinformation, 이하 허위[조작]정보)가 4위로 꼽혔다.^[1]

그림 1. 2025년 글로벌 최대 위험 요인

(응답자가 선택한 상위 10대 위험, 응답 비중 %)

출처: Global Risk Report 2025(WEF), 딜로이트 인사이트

허위 혹은 오해의 소지가 있는 콘텐츠의 확산은 여러가지 경로로 지정학적인 여건을 복잡하게 할 수 있다. 또 외국 정부나 기관이 유권자의 의도와 판단에 영향을 미칠 수 있는 주요 메커니즘일 뿐 아니라, 분쟁 지역에서 일어나고 있는 일에 대해 전 세계 일반인 대중에게 의심을 불러일으킬 수도 있다. 나아가 다른 국가 및 경쟁사의 제품이나 서비스 이미지를 손상시키는 데도 활용될 수 있다.

허위정보는 2년 연속으로 전문가들이 가장 심각한 영향을 미칠 것이라고 생각하는 단기적(2년) 최고 위험 요인에 올랐다. 10년 뒤 장기적 위험 요인으로는 극단적 기상이변이 2년 연속 1위에 올랐으며, 잘못된 정보 및 허위조작정보도 5위로 높은 순위를 기록했다. 단기 위험에는 33개 위험들 중 13위에 그친 ‘AI 기술의 부정적 결과’가 장기 위험에는 허위 정보 다음 6위에 나란히 올라있는 점이 눈에 띈다.^[2]

WEF는 이러한 결과에 대해 AI로 인한 변화의 속도에 대한 과대 혹은 과소 평가가 의문이라고 지적했다. 첨단기술의 위험에 대한 안일한 태도는 급격하게 변화하는 AI 기술 분야의 보편화되는 특징을 감안할 때 바람직하지 않다는 것이다. 또한 디지털 플랫폼 사용이 증가하고 AI 생성 콘텐츠의 양이 급격히 늘어남에 따라 분열을 조장하는 허위 정보가 더욱 보편화되고 있다는 점에 주목해야 한다. 알고리즘의 편향으로 정치적 사회적 양극화와 관련된 허위 정보가 더욱 만연해질 수 있다.^[3]

그림 2. 영향력(심각성)에 따른 장단기 글로벌 위험

(위험이 미칠 영향의 심각성에 따른 2년/10년 위험 순위)

출처: Global Risk Report 2025(WEF), 딜로이트 인사이트

WEF는 기술과 허위 정보 그리고 정치 사회적 양극화 문제에 대한 대응을 위해 ▲자동화알고리즘의 편향 제거를 위한 사람들의 업스킬링(upskilling) ▲디지털 리터러시를 위한 자금 지원 확대 ▲책임성 및 투명성 프레임워크의 개선 등의 조치를 권고한다.

갈수록 커지는 허위 정보에 대한 우려

온라인 허위 정보, 딥페이크 등에 대한 소비자와 기업의 우려는 갈수록 높아지고 있다.

딜로이트 글로벌의 2024년 ‘커넥티드 컨슈머 서베이’(Connected Consumer Study)에 따르면, 응답자의 절반은 1년 전보다 온라인 정보의 정확성과 신뢰성에 대해 더 회의적이라고 말했다. 생성형AI에 익숙하거나 사용하는 응답자 중 68%는 합성[조작] 콘텐츠가 자신을 속이거나 사기를 치는 데 사용될 수 있다는 우려를 제기했고, 59%는 인간이 만든 미디어와 AI가 생성한 미디어를 구별하는 데 어려움을 겪는다고 답했다. 생성형AI에 익숙한 응답자의 84%는 이 기술로 만들어진 콘텐츠에는 항상 명확한 라벨링(labeling)이 필요하다는 데 동의했다.^[4]

그림 3. 전례 없이 높은 소비자들의 디지털 우려

(아래 진술에 대해 동의한 응답자 비율 %)

주: 표본 수=미국인 3,857명(2024년); 2,018명(2023년); 2,005명(2022년)

출처: Deloitte Connected Consumer Survey, 딜로이트 인사이트

기업의 경우에도 거짓과 허위 정보로 인한 탈선 위험에 갈수록 노출되고 있다. 특히 자료 생산을 더 쉽게 하기 위해 인공지능(AI)을 사용하면 위험이 더 커질 수 있다.^[5]다국적 홍보 마케팅 컨설팅회사 에델만(Edelman)이 기업 마케팅 및 커뮤니케이션 임원들 400여명을 대상으로 조사한 바에 따르면, 10명 중 8명은 AI의 성장으로 가짜 뉴스/허위 정보에 대해 우려하지만, 이러한 AI 관련 평판 위협 문제에 잘 대비하고 있다고 대답한 비중은 절반 이하인 것으로 나타났다.^[6]

그림 4. AI와 AI의 영향에 대한 기업 CMO/CCO의 우려

출처: 2024 Edelman Crisis & Risk Thought Leadership Report, 딜로이트 인사이트

딥페이크와 같은 생성형AI 기술로 인해 허위 정보에 대한 우려는 커지고 있다. 지난해 과학기술정보통신부가 실시한 대국민 설문조사 결과 응답자의 39%가 '딥페이크 허위조작정보(가짜뉴스)를 접해봤다'고 답했으며, 약 42%는 '딥페이크 허위조작정보를 판별할 수 없다'고 응답했다.^[7]

앞서 2023년에 입소스(Ipsos)가 유네스코를 위해 실시한 설문조사에 따르면, 85%에 이르는 전 세계 시민들은 가짜 뉴스가 미치는 영향을 걱정하고 있다고 대답했고, 87%는 허위 정보가 자국 정치에 위협이 된다고 봤다.^[8]

이 조사에 응한 16개국의 18세 이상 인터넷 사용자 8,000명 중 94%는 허위 정보에 의해 적어도 한 번은 오도되었으며, 87%는 그 결과 이러한 거짓이 자국 선거에 미칠 영향에 대해 우려했다. 전 세계 시민들 90%는 허위 정보가 해결해야 할 심각한 문제라고 생각했다. 또한 91%에 달하는 사람들은 선거 기간에는 소셜미디어 플랫폼 자체가 ‘가짜 스토리’에 맞서 싸울 의무가 있다고 말했다. 88%의 사람들이 정부와 규제 기관이 개입해야 한다고 응답했고, 75%는 UN과 같은 국제 기관이 역할을 해야 한다고 주장했다.^[9]

그림 5. 허위조작정보와 가짜뉴스에 대한 책임

출처: Ipsos-UNESCO Survey(2023)

허위 정보 파급력이 확대되는 배경

거짓말, 가짜, 조작된 정보는 새로운 현상은 아니며 그 기원은 인류의 역사와 함께 한다고 해도 과언이 아니다.^[10]

로마 최초 황제가 된 옥타비아누스는 경쟁자 안토니우스가 클레오파트라에 빠져 로마를 배신할 것이란 소문을 내어 권력 투쟁에서 승리했다. 백제 무왕(武王)이 지은 ‘서동요’는 신라 선화공주와 결혼하기 위한 거짓 정보 선동 도구였고, 1923년 관동대지진 당시 조선인 대량학살을 선동한 일본 정부의 악의적 가짜 정보 유출은 구전되는 루머 형태의 가짜 정보였다. 사람들의 원초적인 호기심과 불확실성에 대한 우려의 해소 욕구가 이러한 루머가 빠르게 확산되는 배경이다.

최근 역사에서 수많은 사람들을 죽음으로 몰고 간 코로나19 팬데믹 기간 넘쳐난 가짜 보건정보인 ‘인포데믹’(infodemic) 사태는 인터넷과 소셜미디어, 심지어 주류언론을 통해서 확산됐다.^[11]이처럼 2000년 전후 인터넷의 발명과 소셜미디어의 발흥 이후 가짜 정보가 빠르고 광범위하게 확산됨에 따라 사람들의 행동, 그리고 그에 따른 결과를 선동할 수 있는 힘을 가지게 됐다. 이는 주식시장과 같은 금융시장에 충격을 주거나 기업 브랜드 평판을 좌우하고, 나아가 시민사회와 국가 어젠다 실행을 어렵게 할 정도로 실질적인 파급효과를 나타내고 있다.

최근 MIT의 연구 결과에 따르면 소셜미디어에서 뉴스를 공유하려는 사람들의 충동이 잘못된 정보의 확산을 조장하는 배경이 된다.^[12]연구자들은 조사 참가자들에게 먼저 뉴스 내용을 공유할지 물었을 때, 진실과 거짓을 구별하는 능력이 35% 낮아졌다. 반대로 평가 이후에 공유할지에 대해 물었을 때는 진실 여부를 판단하는 능력이 18% 떨어졌다.^[13] 

그림 6. 공유 여부에 따른 정확도 판단력 감소

(조건에 따른 인지 정확성 평균 및 주체의 정확도 식별 능력 평균)

출처: Ziv Epstein et al.(2023)

이 조사 결과는 소셜미디어에서 뉴스 기사를 공유할지 여부를 고려하는 것만으로도 사람들이 진실과 거짓을 구분하는 능력이 떨어질 수 있다는 것을 보여준다. 따라서 소셜미디어 영역에서는 정보 공유와 정확성 사이에 본질적인 긴장이 있다. 이 연구 결과의 긍정적인 측면은 사람들의 거짓에 대한 믿음이 다른 사람을 속이려는 적극적인 의도보다는 온라인 활동 패턴에 더 많은 영향을 받을 수 있다는 점이다. 소셜미디어 플랫폼이 재설계되어 사람들이 오해의 소지가 있고 부정확한 뉴스 콘텐츠를 공유할 가능성이 낮은 환경을 조성할 필요가 있다.

이보다 앞서 MIT의 다론 아제모을루(Daron Acemoglu) 교수 등은 소셜미디어에서 잘못된 정보가 바이러스처럼 확산되는 배경에 사용자의 평판과 사회적 인정 욕구가 존재하며, 그 위에 플랫폼이 채택한 알고리즘과 전략적 계산에 따른 공유, 동질성과 내생적 ‘반향실’(에코 체임버·echo chamber)이 각각 작동한다고 분석했다.^[14]

사용자가 잘못된 정보를 공유하면 무책임하거나 무모하다는 평판을 받고 소셜미디어 내 지위가 떨어지지만, 동시에 다른 사용자로부터 ‘좋아요’나 ‘리트윗’ 형태로 사회적 확인 또는 ‘격려’(peer encouragement)를 받는 가치를 누리게 된다. 따라서 사용자는 전략적 계산을 하게 된다. 그런데 사용자의 공유 네트워크는 소셜미디어 플랫폼의 추천 알고리즘에 의해 결정된다. 이는 비슷한 이념적 신념을 가진 다른 사용자들로 구성된 동질성을 이룬 외생적 ‘반향실’을 형성하고 나아가 서로 다른 이념 집단끼리 상호작용하지 않는 내생적 반향실 또는 ‘필터 버블’(filter bubble), 즉 정보 여과 현상을 만들어 낸다. 이렇게 광범위한 반향실이 형성된 경우, 사용자는 비슷한 신념을 가진 사람들과 강하게 어울리고, 이러한 상황을 인식하여 그렇지 않을 때보다 사실 확인을 훨씬 더 소홀히 한다. 그 결과 잘못된 정보가 바이러스처럼 퍼져 나가게 되는 것이다.^[15]

더불어 이러한 정보를 전파하는 플랫폼의 역할도 중요한데, 플랫폼은 클릭 및 재전송 등사용자 참여를 극대화하고자 노력하며 이 때 반향실의 존재가 도움이 된다. 결과적으로 정보나 기사에 보다 극단적인 내용이 포함되어 있을 때 반향실 효과 및 잘못된 정보의 바이러스성 확산이 더 가능성이 높아진다. 다시 말해, 최적의 플랫폼 알고리즘은 가장 극단적인 사용자와 일치하는 극단적인 콘텐츠를 추천하는 동시에 이 인구통계를 넘어 콘텐츠가 퍼지는 것을 방지하는 필터 버블을 채택하는 것이다.^[16] 

플랫폼 입장에서는 이로울 수 있지만, 정치적으로 민감한 콘텐츠를 위한 이런 내생적 에코 챔버는 잘못된 정보가 급속히 퍼지는 결과를 초래한다. 따라서 이러한 플랫폼에 대한 규제가 있는 것이 내생적 반향실 효과를 억제하는 데 도움이 된다는 결론이 나온다.

허위 정보의 경제적 비용

가짜 뉴스, 즉 허위 정보는 소비자, 기업, 정부 기관 및 공공기관에게 부담을 주고, 일국을 넘어 전 세계 경제에 부정적인 영향을 주는 것으로 알려진다.

신뢰할 수 없는 대체 미디어를 통해 전달된 잘못된 정보 및 허위조작정보는 이를 억제하고 대응하기 위한 경제 주체들의 신속한 노력과 비용을 수반한다. 특히 기업들은 허위 정보 확산을 막기 위한 위기 커뮤니케이션 대응 절차를 수립해야 한다. 또한 허위 정보의 중요성이 높아지면 뉴스 회사의 광고 매출이 줄어드는 반면 이를 통해 더 많은 사용자를 끌어들이는 소셜 미디어 회사의 수익이 높아지며, 이에 따라 비즈니스 모델의 변경이 수반된다. 또한 허위 정보 확산은 소비를 억제하여 기업의 매출을 줄이고, 공급망 운영을 방해하며, 고객 신뢰를 약화하고 회복하기 어려운 평판 손실을 일으킨다. 전 세계적으로 온라인 허위 정보는 전자상거래, 저널리즘을 넘어 금융, 의료, 보건 및 행정 및 정치활동에 이르기까지 광범위한 피해를 미칠 수 있다.^[17]

이스라엘 소재 사이버 보안회사인 체크(CHEQ)와 볼티모어대학은 2019년 경제분석 보고서 ‘인터넷 악당의 경제적 비용’(The Economic Cost of Bad Actors on the Internet)을 통해 광고 사기, 온라인 괴롭힘, 가짜 뉴스 등의 문제로 인해 기업과 사회가 지불하는 비용이 연간 780억 달러에 달한다고 보수적으로 추정했다.^[18]이러한 추정치는 주식시장의 손실 및 변동성, 잘못된 금융 정보, 평판 관리, 잘못된 공중 보건 정보, 온라인 플랫폼 보안, 정치적 지출, 브랜드 안전성 유지 등을 포함하는 것이다.

그림 7. 온라인 악당의 경제적 비용

(단위: 미화 1억 달러)

출처: CHEQ(2019), 딜로이트 인사이트

일례로 드는 것이 2017년 12월 미국 ABC뉴스가 당시 마이클 플린 국가안보보좌관이 2016년 대선 기간 트럼프 대통령이 직접 러시아 정부 관리들과 접촉하도록 지시했다고 증언했다고 폭로했을 때, 이 가짜 뉴스로 인해 뉴욕 증시가 약 3,000억 달러의 손실을 입은 사례다. 해당 보도가 거짓으로 판명되고, ABC가 해당 기사를 철회했을 때 총 피해액은 510 억달러로 줄었다.^[19]

이러한 허위 정보에 따른 경제적 영향의 시작에 불과하다. 체크의 후속 연구에 따르면, 전자상거래의 온라인 리뷰에서 악의적인 사용자와 봇의 경제적 영향(손실이 아님)이 무려 1,520억 달러에 이른다.^[20]전 세계 유수 전자상거래 사이트의 공식 수치와 자체 보고에 의하면 평균적으로 온라인 리뷰의 4%가 가짜다. 이러한 가짜 리뷰는 레스토랑 별점을 좌우해 매출을 늘리거나 줄어들게 하며, 검색 순위와 판매 순위에 상당한 기간 영향을 미쳐 경제적 이익 혹은 손실을 끼친다.

거시경제학적 이론은 주류에서 합리적기대가설을 기반으로 하기 때문에 가짜 뉴스가 경제 동학과 경기순환에 어떤 영향을 미치는지에 대한 연구 결과는 거의 없다. 다만 기술 충격이 경기순환 및 경기주기 변동성에 미치는 영향은 상당히 크다는 풍부한 경험적 연구는 많다. 이에 따라 뉴스가 주는 충격과 경제적 불확실성 그리고 이것이 거시경제에 미치는 영향을 분석할 경우, 가짜 뉴스로 인해 실업률이 상승하고 산출량은 감소한다는 정량적 분석이 도출된다.^[21]

그림 8. 벤치마크 반응: 가짜 뉴스의 경제적 영향

출처: Tiziana Assenza et al.(2024)

가짜 뉴스, 혹은 오해의 소지가 있는 정보의 급증은 불확실성과 같은 역할을 한다. 위 그림은 2007년 1월부터 2022년 12월까지 미국의 월별 지표를 분석하여 1개월의 경제적 불확실성이 유발한 한 시점의 충격이 다른 시점에 어떤 영향을 주는지를 보여주는 충격-반응함수(IRF)로, 기술과 관련한 가짜 뉴스의 충격이 경제에 반향을 일으키는 불확실성을 유발해 실업률이 단기적으로 상승하고 산업생산은 감소하는 것을 보여준다. 이러한 결과는 가짜 뉴스의 충격이 경제에 미치는 영향이 매우 크다는 것을 보여준다는 점에 의의가 있다. 이러한 충격은 경기순환의 변동성에 크게 영향을 미치고, 소비자들의 지출을 억제하는 효과를 나타낸다. 나아가 노동시장에 부정적인 영향을 미쳐 근무시간이 줄고 구인율도 감소한다.

가짜 뉴스의 사회적 비용을 다룬 국내 연구도 많지 않다. 현대경제연구원이 2017년에 산출한 사회적 비용 추정치는 연간 30조 원에 달하는 것으로 나타났는데, 이는 가짜 뉴스 건수와 피해 정도에 대한 가정이 과도하다는 비판에 직면하기도 했다. 이후 2022년에 교육부와 한국연구재단의 지원으로 수행된 연구과제에서 이미숙, 진형익 등은 가짜 뉴스로 인한 불편 비용(inconvenience cost)을 2020년 기준으로 연간 8,000억원 정도로 추정한 바 있다.^[22]다만 후자의 경우 가짜 뉴스로 인한 사회적 비용을 소비자가 느끼는 불편비용, 즉 가짜 뉴스를 방지하기 위해 지불할 의향이 있는 통신서비스 금액(1인당 월평균 2,054원*만 20~64세 인구 3,280만명=연간 총비용)으로 국한한다.

그림 9. 가짜 뉴스의 불편비용 추정 결과

출처: 이미숙, 진형익(2022)

허위 정보 충격을 줄이기 위한 해법

이상에서 살펴본 것처럼 허위 정보, 혹은 가짜 뉴스의 충격을 억제하고 나아가 근본적인원인을 제거하거나 제어하는 것은 사회 정치적, 경제적 안정을 유지하고 모든 개인이 정보에 입각한 결정을 내릴 수 있도록 하는 데 필수적이다.

일례로 유럽연합(EU)은 2015년부터 허위 정보의 생산 및 유포를 적극 반대하며, 허위조작정보를 대응하는 태스크포스 운영과 온라인 플랫폼 사용자의 ‘행동강령’(Code of Practice on Disinformation), ‘디지털서비스법’(DSA), ‘디지털시장법’(DMA) 등을 마련해 가장 활발한 규제에 나서고 있다.^[23]

하지만 궁극적으로 허위 정보를 식별하는 능력을 키우는 것은 개별 소비자와 기업의 책임이기도 하다. 허위 정보 억제를 한다고 정보 플랫폼의 개방성을 억제해서는 안 되며, 뉴스는 수많은 플랫폼을 통한 전파, 공유 및 확산을 통해서 과거의 신뢰 수준을 회복하기 위해 더 노력해야 한다.

올바른 통제와 규제를 위해서라도 앱과 플랫폼의 속도, 범위와 영향력을 활용해야 한다. 신뢰할 수 있는 사실에 기반한 뉴스의 기반을 확립하는 보다 효과적이고 신뢰할 수 있는 방법과 기술이 등장할 것이다. 첨단 AI의 잠재력을 활용할 수 있는 능력을 키우고 디지털 리터러시를 함양하는 데 정부의 지원이 결합되면 더욱 좋은 결과를 만들 수 있을 것이다. 

그림 10. 가장 신뢰할 수 있는 일반 뉴스 및 정보 출처(2011~2023)

(응답자 비율 %)

출처: Statista. 딜로이트 인사이트

규제 정책은 경제 주체의 의향과 경제적 인센티브를 결합하는 것이 중요하다. 개인이 허위 정보의 악영향으로부터 자신을 보호하기 위해 기꺼이 지불할 의향이 있도록 개입하는 것도 중요하다. 또한 소셜미디어 플랫폼의 경제적 인센티브 시스템을 수정할 수 있도록 하는 방안을 마련하고, 이러한 절차를 관장하는 거버넌스 체계를 확립하는 것이 중요하다. OECD는 허위조작정보 대응에 필요한 액션플랜과 협력방안을 마련하고 허위조작정보에 탄력적으로 대응할 수 있는 거버넌스를 구축해야 할 필요성을 강조했다.

최근 연구 결과 사람들은 가짜 뉴스를 파악하는 자신의 능력을 과대평가하는 반면, 다른 사람의 능력은 과소평가한다.^[24]

미국인 조사대상자의 83%가량은 현실을 왜곡하거나 완전히 거짓인 뉴스나 정보를 식별하는 능력이 ‘좋음’ 혹은 ‘매우 좋음’이라고 답했지만, 정작 미국인 일반이 진짜 뉴스와 가짜 뉴스를 구별하는 능력을 가진 경우가 37%에 그친다고 믿는 것으로 나타났다. 이들에게 뉴스를 식별할 수 있는 실제 능력에 한계가 있다는 정보를 제공하자, 잘못된 정보의 악영향으로부터 자신을 보호하기 위해 기꺼이 돈을 지불할 것이란 의지를 보였다.

이러한 분석은 허위 정보, 가짜 뉴스 문제에 대한 해결을 위한 개입의 역할이 크다는 점을 보여준다. '가짜 뉴스'가 일반적으로 무료이기 때문에, 양질의 저널리즘에 비용을 지불할 여유가 없거나 독립적인 공익 뉴스 미디어에 접근할 수 없는 사람들이 허위 정보와 잘못된 정보 모두에 특히 취약하다. 

마찬가지로 중요한 것은 사전에 ‘신뢰’를 구축/재구축하는 것이다. 거짓 서사가 전례 없이 빠르게 퍼지는 디지털 세계에서, 기업과 정부는 ‘제로트러스트’ 기반으로 신뢰를 재구축해야 한다. 허위 정보와 잘못된 정보의 확산은 주로 소셜 미디어를 통해 이루어지며, 이는 이러한 서비스를 제공하는 회사에 대한 규제 및 자체 규제의 범위에 대한 질문을 제기한다.

콘텐츠 제작자가 아닌 중개 플랫폼으로서의 특성으로 인해 해당 비즈니스는 저작권 분야를 제외하고는 가벼운 규제만 받는다. 하지만 비즈니스 모델의 기반에 결함이 노정되고 있는 것이 사실이다.

인터넷의 창시자인 팀 버너스 리(Team Berners Lee)는 인터넷에 영향을 미치는 세 가지 기능 장애의 원인으로 ▲고의적이고 악의적인 의도(온라인 해킹 및 공격, 범죄행위, 괴롭힘) ▲클릭베이트와 거짓정보 확산 등에 상업적인 보상을 제공하는 광고 기반 수입 모델 등 사용자 가치를 희생하는 왜곡된 인센티브를 제공하는 시스템 설계 방식 ▲선의의 설계로 인한 의도치 않은 부정적 결과(온라인 담론의 분노와 양극화)를 제시한 바 있다. 그는 이러한 문제점 각각에 대한 해법으로 ▲법률과 행동규칙 수립 ▲인센티브를 변경하도록 시스템 재설계 ▲새로운 시스템 모델링 및 기존 시스템 조정을 각각 제시했다.^[25]

한편, 문제 인식은 해결의 지름길이기도 하다. 딜로이트와 벤처비트에 따르면, 딥페이크는 2023년 미국에서 무려 3,000%나 증가했다. 2024년 딥페이크로 인한 사건은 전 세계적으로 14만~15만건 발생한 것으로 추정된다. 또한 2027년까지 딥페이크 때문에 발생하는 손실액이 연평균 32%증가할 것으로 전망돼 2027년에는 그 손실액이 55조 규모에 달할 것으로 보인다. 이에 따라 분석가들은 기술, 미디어, 소셜 네트워크 거대 기업이 구현하는 글로벌 딥페이크 감지 시장이 2023년 55억 달러에서 2026년 157억 달러로 연간 42% 성장할 것으로 추정한다. 

딜로이트는 딥페이크 감지 시장이 사이버 보안과 비슷한 경로를 따를 수 있다고 예측한다. 미디어 회사와 기술 제공업체는 콘텐츠 인증 솔루션과 컨소시엄 활동에 투자하여 점점 더 정교해지는 가짜에 앞서 나가기 위해 노력할 것이다. 신뢰할 수 있는 콘텐츠를 만들려면 소비자, 광고주, 심지어 제작자가 부담해야 할 비용도 증가할 것으로 예상된다.

미국에서는 AI 생성 콘텐츠에 대한 디지털 워터마크 의무화 법안이 상원 심사 중이며, 캘리포니아주는 2026년부터 기기 제조사들에게 사진의 출처 메타데이터 첨부를 의무화하는 법안을 검토하고 있다.

EU는 AI 법안을 통해 AI 생성 콘텐츠와 딥페이크의 명확한 라벨링을 의무화하고 있다. 이러한 전략은 AI 기술의 지속적인 발전을 지원하는 동시에 사용자가 접하는 콘텐츠의 특성을 알 수 있도록 보장한다. 이처럼 딥페이크 기술의 급속한 발전은 기술 발전에 맞춰 진화할 수 있는 유연하고 적응력 있는 규제 프레임워크를 요구한다.^[26]

─

[1] World Economic Forum, “Global Risk Report 2025”, Jan. 15. 2025

[2] Ibid.

[3] Ibid.

[4] Deloitte Global, “Earning trust as gen AI takes hold: 2024 Connected Consumer Survey”, Dec. 3, 2024

[5] Financial Times, “The disinformation storm is now hitting companies harder,” Dec. 23, 2024

[6] Edelman, “Navigating the AI Readiness Gap: 2024 Edelman Crisis & Risk Thought Leadership Report”, Sep. 2024

[7] 과학기술정보통신부, “응답자 41.9%, “딥페이크 가짜뉴스 판별 못해”, 2024년 12월 9일. 이 조사에서 응답자의 94.5%는 허위조작정보가 개인과 사회에 미치는 영향이 심각하다고 답했으며, 84.9%는 '딥페이크' 기술을 활용한 허위조작정보가 일반적인 허위조작정보보다 부정적인 영향이 더 심각하다고 답했다. 이 같은 딥페이크 확산 원인으로 36.5%가 법·제도 미비를 지적했으며, 피해 예방을 위한 효과적인 방법으로는 '강력한 입법과 정책' 필요성이 57.6%로 가장 높게 나왔다. 정부 정책으로는 '범죄자에 대한 처벌 강화'(36.9%)를 꼽았다.

[8] Ipsos-UNESCO, “Survey on the impact of online disinformation and hate speech”, Sep. 2023

[9] Ibid.

[10] 최은창, “가짜뉴스의 고고학: 로마 시대부터 소셜미디어 시대까지, 허위정보는 어떻게 여론을 흔들었나”, 동아시아(2020)

[11] 김준일, “허위조작정보(가짜뉴스)와 언론의 역할”, 언론중재 2021 여름호 Vol. 159, 2021년 6월 25일

[12] Ziv Epstein, Nathaniel Sirlin, Antonio Arechar, Gordon Pennycook, David Rand, “The social media context interferes with truth discernment”, Science Advances, Mar. 3, 2023

[13] Ibid.

[14] Asuman Ozdaglar, Daron Acemoglu, “Misinformation: Strategic sharing, homophily, and endogenous echo chambers”, Jun. 30, 2021

[15] Ibid.

[16] Ibid.

[17] Radoslav Baltezarevic, “Global Economic effects of fake news”, Apr. 7, 2024

[18] The University of Baltimore, CHEQ, “The Economic Cost of Bad Actors on the Internet”, Nov. 22, 2019

[19] Ibid.

[20] Jonathan Marciano((CHEQ), “Fake online reviews cost $152 billion a year. Here's how e-commerce sites can stop them,” Aug. 10, 2021

[21] Tiziana Assenza, Fabrice Collard, Patrick Feve, Stefanie Huber, “From buzz to bust: How fake news shapes the business cycle”, Apr. 10, 2024

[22] 이미숙, 진형익, “가짜뉴스에 대한 사회적 인식과 불편비용 추정 연구”, 2022년 2월 17일

[23] 방송통신위원회, “가짜뉴스 실태와 대응방안 – OECD 주요국가 사례를 중심으로”, 2023년 12월

[24] Tiziana Assenza, Alberto Cardaci, Stefanie Huber, “Fake news: Susceptibility, awareness, and solutions”, May 21, 2024

[25] World Wide Web Foundation, “30 years on, what’s next #ForTheWeb?” Mar. 12, 2019

[26] Deloitte Global, “Deepfake disruption: A cybersecurity-scale challenge and its far-reaching consequences”, Nov. 19, 2024

─