‘디지털 大妄語’ 막아낼 ‘AI 리터러시’ 구축을
근거 없는 선지식 예언 지어내
국뽕·정치인 지지 콘텐츠 양산
AI 대중화로 1인 미디어 확산
조회수 높이고자 자극에 몰두
“비불교적 콘텐츠…망어 양산
바른 법 전하고 배움 노력을”
유해신고센터 운영·제재해야
디지털 리터러시 배양도 필요
‘탄허 스님 충격 예언 100% 적중! 해인사 대적광전에 80년 전 봉인돼 있던 예언서 〈화엄미래기〉 드디어 공개, 전세계 과학계 경악’
대체 무슨 소리인가 싶겠지만, 한 유튜브 채널에 올라온 미디어콘텐츠 제목을 그대로 옮긴 것이다. 내용은 더 가관이다. 해인사에 봉인돼 있던 탄허 스님의 예언서 〈화엄미래기〉가 공개되고 양자역학을 연구하는 노벨물리학상 수상자 제임스 위튼 케임브리지대 교수가 이를 보고 우주의 비밀과 동양 철학의 위대함을 깨닫는다는 소위 ‘국뽕(국가에 대한 과도한 자부심이나 맹목적 애국심에 도취된 상황)’으로 채워졌다.
하지만, 이는 전부 가짜다. 온갖 가짜 정보를 그럴 듯하게 각색해서 제작한 소위 ‘주작(없는 사실을 꾸며내거나 부정하게 일을 만들어내는 행위) 콘텐츠’다.
문제는 해당 콘텐츠에 대한 대중들의 반응이다. 주작 콘텐츠임을 파악하고 이를 지적하는 사람들도 많았지만 적지 않는 사람들이 ‘평생 절에 다니면서도 이런 깊은 뜻이 있는 줄 몰랐어요. 정말 감사한 영상이에요’ ‘눈물이 납니다. 너무 감동적입니다!’ ‘정말 소름 돋네요. 우리나라에 이런 위대한 분이 계셨다니. 아이들에게도 꼭 보여줘야겠어요’라는 등의 댓글을 달았다. 이는 선지식에 대한 가짜 정보들로 이뤄진 가짜 콘텐츠의 내용을 믿는 사람들도 적지 않음을 의미한다.
AI 1인 미디어의 명과 암
현재 유튜브를 비롯한 SNS에는 ‘탄허·성철·법정 스님과 그 제자들의 확인되지 않는 예언, 비기가 발견됐고 이를 보니 한국 국운 융창, 특정 정치인이 대세가 된다’는 류의 콘텐츠들이 범람하고 있다.
이 같은 주작 콘텐츠들이 확산될 수 있는 이유 중 하나에는 생성형 AI의 대중화가 있다. 생성형 AI를 통해 누구나 쉽게 대본을 쓰고, 나레이션을 녹음하며 이미지와 영상을 합성·제작할 수 있게 됐기 때문이다. 과거 미디어 콘텐츠는 작가, 촬영, 편집 등의 전문가들이 참여해 제작하는 자본·노동집중형 사업이었지만 현재는 생성형 AI를 활용해 마음만 먹으면 누구나 ‘1인 미디어’의 역할을 할 수 있게 됐다. 미디어 제작의 장벽을 낮춘 것은 의미가 있지만, 반대로 훈련되지 않은 비전문가가 정보를 취급함으로서 ‘가짜정보’와 ‘확증편향’을 확산시키는 문제도 낳았다.
AI제작 콘텐츠의 대중화로 인한 문제는 한국만의 문제가 아니다. 지난 2023년에는 온라인 상에 태국 승려들이 헤비메탈 밴드를 결성해 광란의 공연을 선보이는 모습, 레이싱 경기장에서 헬멧 등 장비 없이 오토바이를 타고 질주하는 모습, 술집에서 술을 마시며 담배를 태우는 승려 등이 담긴 AI 이미지들이 유포됐다. 이에 태국불교협회가 “해당 사진들이 대중들로 하여금 진짜 스님들이 일탈하는 것으로 오해하게 해 불교 평판을 저해시킨다”고 우려하며 문제가 된 사진들을 전부 삭제하고 유포자를 발본색원하기 위해 경찰에 수사를 의뢰하기도 했다.
‘도파민 저수지’에 빠진 대중들
생성형 AI로 제작된 콘텐츠들을 만날 수 있는 대표적 플랫폼은 ‘유튜브’다. 올해로 20주년을 맞는 유튜브는 소자본 창작자들에게 ‘기회의 땅’이었다. 전문적 장비가 없어도 스마트폰 하나만 있으면 영상을 만들어 의견을 개진하거나 재미있는 콘텐츠를 제작해 수익을 창출할 수 있었다. 하지만 전문적인 디지털 크리에이터들이 많아지며 알고리즘에 선택받아야만 살아남을 수 있는 경쟁 구도가 나타났다.
실제 과학기술정보통신부와 한국전파진흥협회의 ‘2024년 디지털크리에이터 미디어 산업 실태조사’ 결과에 따르면 2023년 기준 디지털 크리에이터 사업체 수는 1만 3514개, 종사자는 4만 2000여 명이며, 시장의 총 매출액은 5조 3159억원에 달했다. 이는 전년대비 20%가량을 성장한 수치다.
시장은 20%씩 성장하지만 디지털 크리에이터가 살아남기란 쉽지 않다. 2022년 국세청 자료에 따르면 1인 미디어 창작자로 수익을 신고한 사업자 3만 9000여 명의 연간 총수입은 1조 1420억원, 이중 상위 1%에 해당하는 393명이 총수입의 30%(3333억원)를 차지하고 있는 것으로 나타났다. 결국 유튜브나 여러 인터넷 방송 플랫폼을 통해 생계를 유지하는 것은 일부 상위권 크리에이터에 국한된다는 것을 알 수 있다.
그러다보니 일부 크리에이터들은 조회수 올리기에 급급해 거짓을 퍼뜨리는 가짜뉴스와 주작 콘텐츠를 양산하며 더욱 자극적인 정보로 대중을 선동하고 있는 상황이다.
특히 알고리즘을 통해 내 입맛에만 맞는 정보들을 편향적으로 접하고 자신의 믿음이 확인될 때 쾌감과 만족감을 느끼는 ‘확증편향+도파민’ 매커니즘은 이런 악순환을 더욱 강화하고 있다. 최근 유튜브 등을 ‘도파민 저수지’로 비판하는 이유도 여기에 있다.
비불교·망어의 업이 넘쳐난다
불교까지 넘어온 가짜·유사불교 콘텐츠들에 대해 동국대 WISE캠퍼스 겸임교수 법장 스님은 ‘디지털 대망어(大妄語)’라고 강하게 비판했다.
법장 스님은 “탄허 스님과 성철 스님 등 고명한 선지식들은 그런 식으로 말씀하셨던 적도, 가르침을 주신 적도 없다. 예언이라는 것은 결정론인데 이는 불교와 정면으로 대치된다. 이들 영상들은 비불교적인 콘텐츠”라며 “불교적 이해도 없으면서 자신의 이익을 위해 사람들을 현혹해 망어의 죄를 범하고 있다. 영상 속의 사람들은 물질적이고 욕망적인 탐·진·치의 파순에 사로잡혀 정작 눈앞의 법은 못보고 눈앞의 업에만 빠져 번뇌만을 쌓고 있는 것”이라고 지적했다.
이어 “오늘을 바르게 살며 자신의 행위로 그 삶을 바꾸고 만들어 나가는 것이야 말로 부처님께서 2600년 전부터 중생들에게 아낌없이 알려주셨던 결정론적인 업에 의한 삶을 바꾸는 비밀”이라며 “불교의 바른 법에는 어떤 것도 결정되어 있지 않고 오직 지금의 삶과 행위에 의해 다음의 모습이 만들어지고, 그렇게 지나간 찰나는 과거가 될 뿐이다. 그렇기에 오직 할 뿐이고, 지금 이 순간을 최선을 다해 정진해 살아가야 하는 것”이라고 강조했다.
제도적 제재와 리터러시 능력
넘쳐나는 가짜·비불교적 콘텐츠를 제재하는 방법은 없을까. 제도적으로는 방송통신심의위원회에서 심의와 규제를 담당하고 있으며, 플랫폼 사업자들 자체적으로 심의 규정을 두고 가짜뉴스·콘텐츠 등을 제재하고 있다. 최근에는 가짜뉴스·콘텐츠들의 문제성이 사회적으로 대두되면서 정부 규제 방침도 강화되는 추세다.
이와 함께 불교계 내부에서도 가짜 정보를 담은 비불교·유사불교 콘텐츠에 대한 관심을 높이고 대응기구를 신설해야 한다는 목소리도 높다. 이화행 동명대 미디어커뮤니케이션학과 교수(본지 뉴미디어 자문위원)는 “종단적으로 비불교·유사불교 콘텐츠 등 유해콘텐츠신고센터를 운영하며 종단 구성원들에게 문제점을 알리고 신고할 수 있도록 유도하는 방안이 필요하다”며 “신고된 내용은 법적 심의 거쳐 플랫폼 사업자에 진정을 넣어 해당 콘텐츠들과 채널·사업자들을 제재하도록 해야 한다”고 제안했다.
콘텐츠 시청 여부는 1차적으로 개인 소비자가 결정할 문제인 만큼 불자 개인의 ‘디지털(AI) 리터러시(정보 문해력)’ 능력을 배양하는 것도 필요하다. 이 교수는 “디지털 리터러시는 개인적 영역에 해당된다. 개인 스스로 이 정보가 팩트에 가까운 것인지에 대한 이중 체크하는 노력을 해야 한다”면서 “우선 제도권 언론들의 정보를 두루 찾아보며 크로스 체크하는 노력들이 함께 이뤄져야 한다”고 강조했다.
이어 “종단적으로도 불자 개개인의 디지털 리터러시를 고양할 수 있는 교육 등도 추진되면 시너지 효과를 낼 수 있을 것”이라고 덧붙였다.
법장 스님은 바른 법을 만날 수 있도록 종단과 개인이 함께 노력해야 함을 제안했다. 스님은 〈초발심자경문〉의 ‘사람의 몸 받아 태어나기 어렵고 부처님 만나는 더 어렵다(人生難得 佛法難逢)’는 구절을 인용하며 “불교 관련 콘텐츠를 찾아보려 했다면 부처님 가르침이 궁금한 사람일 것이다. 그렇다면 정법(正法)을 만나려는 노력을 개인 스스로도 해야 한다. 종단 홈페이지나, 공인된 불교계 언론 등을 찾아서 정보들을 확인하며 불교를 바르게 배우려고 노력해야 한다”고 말했다.
이어 “불교 사부대중 역시 부처님의 바른 법을 전하려는 노력을 게을리해서는 안 된다. 일반 대중들이 비불교·유사불교 콘텐츠를 접하지 않고 이로 인한 피해가 생겨나지 않도록 전법·포교에 힘써야 한다”고 강조했다.
