2024년 1월, 미국 뉴햄프셔주 예비선거를 앞두고 ‘투표하지 말라’는 전화가 수만 명의 유권자에게 걸려왔다. 문제는 전화의 목소리가 조 바이든 당시 대통령의 목소리였다는 점이다. 같은 해 우리나라에서는 10대 청소년들이 동급생 얼굴을 합성한 성착취물을 텔레그램으로 유통하다 적발되었다. 이즈음부터 유명인을 대상으로 합성 미디어를 제작한 사기 광고, 투자 유도를 한 금융사기가 급속히 늘어났다. 

세계경제포럼(WEF)은 「2025 글로벌 리스크 보고서」에서 허위 정보(misinformation & disinformation) 확산을 단기 최상위 위험으로 지목했다(Elsner et al., 2025). 합성 미디어는 이제 ‘기술적 호기심’이 아니라 ‘사회적 위험’이다. ‘위험’이라는 말은 ‘사기’와 같은 범죄 행위로 이어지는 현상만을 이야기하는 것은 아니다. 이는 본질적으로 우리가 ‘앎(knowing)의 위기’ 시대에 직면했음을 의미한다. 

UNESCO(2025)는 합성 미디어 시대의 본질적 위기를 ‘앎(knowing)의 위기’로 규정했다. 인간은 새로운 정보나 지식을 획득하기 위해 시각, 청각에 대부분 의존한다. 특히 오늘날 인터넷, 특히 소셜미디어는 지식 정보 생성·유통의 중심에 있다. 만약 누가 어떤 말을 했는지에 대한 판단을 영상이나 음성으로 판별할 수 없다면 인간은 모든 매체에 대해 의심을 품어야 한다. 결국에는 내가 보고 싶은 매체만을 선택적으로 신뢰하게 된다. 이른바 ‘거짓말쟁이의 배당(liar’s dividend)’¹⁾ 효과는 진짜 영상마저 ‘딥페이크일 가능성이 있다’는 이유로 부정할 수 있는 환경을 만든다(Schiff et al., 2025).

2024년 우리 사회가 겪은 일은 더 충격적이다. 새로운 디지털 기술을 활용한 딥페이크 범죄라는 점도 그렇지만, 가해자와 피해자가 모두 청소년이었다는 점에서 더 그렇다. 특히 소셜미디어를 활용해 상상 이상의 빠른 속도로 불법 영상이 퍼졌다는 점은 우리에게 시사하는 바가 크다. 정부는 ‘딥페이크 성범죄 종합대책’을 발표했고 형법 개정 논의까지 이어졌다. 우리는 처벌만으로는 이러한 일을 막을 수 없다는 사실에 모두 동의했다. 법과 교육은 기술 보급 속도를 따라갈 수 없다. 기술 갱신 속도가 너무 압도적이다. 합성 미디어는 어른들의 정치 캠페인 도구이자 동시에 10대들의 사이버 폭력 도구가 되었다. 

진위 판별 교육은 효과적일까?

학계는 미디어 리터러시 교육이 딥페이크, 합성 미디어에 대한 인식 향상에 어느 정도 효과가 있다는 점을 거듭 보고해왔다. 미디어 리터러시 교육을 받은 집단과 그렇지 않은 집단을 두고 딥페이크 영상을 노출하면 교육받은 집단이 잘못된 정보를 덜 신뢰하는 경향을 보인다는 실험이 있었다(Hwang, Ryu & Jeong, 2021). 또 단순히 경고성 메시지를 노출하는 것보다 딥페이크 영상을 어떻게 식별할 수 있는지 구체적인 기술적 방법을 제공하는 것이 효과가 더 좋다는 연구도 있다(Huang & Hu, 2025). 

그러나 한계는 분명하다. 첫째, 기술 발전 속도를 교육 내용이 따라갈 수 없다. 기술 발전 속도가 더 빠르고 교육은 항상 문제가 생긴 후에 갱신 가능하다. 현재 통하는 교육 기술적 방법은 몇 년 안에 무력해질 것이다. 둘째, 미디어 리터러시 교육은 학교, 도서관 혹은 일부 시민단체에서 단발적 프로그램으로 이루어지는 경우가 많다. 즉, 사회 전반으로 도달하지 못한다. 셋째, 딥페이크는 사람들에게 ‘속이는’ 효과보다 ‘불확실하게 만드는’ 효과가 더 크게 작동하기 때문에, 단순한 진위 판별 훈련만으로는 무력감과 냉소를 막아내기 어렵다(Vaccari & Chadwick, 2020).

책만 빌려주는 곳? 이젠 ‘정보 안전지대’

이 지점에서 다시 도서관의 잠재력을 생각해보자. 도서관은 학교가 아니다. 그러나 학교만큼 신뢰받는 공공기관이며, 평생 누구에게나 열려 있다. 디지털 격차의 영향을 가장 크게 받는 노년층, 청소년, 이주민, 저소득층이 가장 자주 찾는 무료 공공시설이기도 하다. 미디어 리터러시가 ‘일회성 강의’가 아니라 ‘일상적 인프라’로 작동하려면 학교와 가정 사이에 놓인 제3의 공간이 필요하다. 도서관이 그 자리를 채울 수 있다.

국제도서관연맹(IFLA) 은 「2024 IFLA Trend Report」에서 생성형 AI와 딥페이크 시대에 도서관이 ‘정보 신뢰의 재구축자’ 역할을 맡아야 한다고 명시했다. 미국도서관협회는 디지털 리터러시를 기술 습득이 아니라 문제해결을 위한 정보탐색, 평가, 비판적 능력으로 보고 이를 공공도서관의 핵심 서비스로 강조했다. 영국은 좀 더 적극적인데, 시민은 물론 정치인들이 딥페이크, 합성 미디어, 인공지능 생성 텍스트를 식별하는 방법을 교육하고 팩트 체크 도구를 만들어 전파하고 있다. 영국과 미국은 일반 공공도서관에서의 해당 교육 수행이 늘고 있다. 

인상적인 사례로, 미국 노스캐롤라이나의 카운티 도서관은 노인을 위한 ‘AI와 허위 정보’ 강좌를 운영하면서 딥페이크 음성으로 가족을 사칭한 ‘조부모 사기’ 사례를 직접 다룬다. 해당 프로그램에서는 가족만 아는 암호 설정법, AI 목소리 식별법 등 실생활에서 노인들에게 필요한 실용적인 교육을 수행하고 있다. 이러한 흐름은 도서관이 단순한 자료 제공 기관에서 ‘디지털 시민교육의 거점’으로 이동하고 있음을 보여준다.

다시 생각해보자. 부정한 기술 사용을 기술로 막을 수 있을까? 

8개국 시민을 대상으로 진행한 연구가 있다. 이 연구는 전 세계 8개국 소셜미디어 이용자를 대상으로 딥페이크 허위 정보 확산이 이용자의 고립 공포감(FOMO)과 자기조절 결핍이라는 심리적 기제에 의해 촉발됨을 규명하였다. 연구 결과에 따르면, 최신 정보나 사회적 흐름에서 소외되는 것에 대한 불안감인 FOMO는 이용자의 인지적 통제력을 약화시켜 정보의 진위를 비판적으로 검토하지 못한 채 충동적으로 공유하게 만드는 자기조절 결핍을 야기하는 것으로 나타났다(Ahmed et al., 2023). 이는 딥페이크 확산이 단순히 기술적 식별 능력의 문제가 아니라 소셜미디어 플랫폼 내에서의 심리적 불안과 행동 조절 실패가 결합한 보편적 현상임을 시사하며, 향후 대응책 마련에 있어 이용자의 심리적 측면을 고려한 다각적인 리터러시 교육이 병행되어야 함을 시사한다. 도서관만큼 그 일에 적합한 공공기관은 흔치 않다.

‘진짜’를 구별하려는 기술적 대응의 가능성과 한계

합성 미디어에 대한 기술적 대응은 크게 두 가지로 볼 수 있다. 첫째는 식별 기술을 활용하는 것이다. 합성 영상의 픽셀, 음성의 주파수 패턴, 메타데이터의 흔적을 분석해 진위를 판별하는 방식이다. 그러나 이런 접근은 새로운 매체나 기술이 등장할 때마다 갱신해야 하고, 일반 시민이 일상에서 활용하기에 진입 장벽이 높다. 둘째는 출처 인증이다. 최근 결성된 콘텐츠 출처·진본성 연합(C2PA: Coalition for Content Provenance and Authenticity)이 주도하는 ‘콘텐츠 자격 증명(Content Credentials)’이 대표적이다. C2PA는 생성형 인공지능(AI) 기술의 확산으로 인한 디지털 콘텐츠의 위변조 문제에 대응하기 위해 설립한 표준 기구이다. 어도비(Adobe), 마이크로소프트(Microsoft), 인텔(Intel), X(구 트위터), 니콘(Nikon) 등 주요 기업들이 참여하고 있다. 이 조직은 디지털 콘텐츠의 생성부터 수정, 배포에 이르는 전 과정을 투명하게 기록하는 기술 표준 수립이 목적이다. 쉽게 말해 ‘진짜를 진짜라고 증명하는 길’이 조금씩 열리고 있다.

도서관에 시사하는 바는 분명하다. 첫째, 도서관이 디지털 자원을 수집·보존할 때 출처 메타데이터를 표준 방식으로 기록하는 것이 중요하다. 이는 이미 보존 업무를 중요하게 생각하는 국가도서관에서 이루어지고 있는 일이다. 둘째, 시민에게 ‘딥페이크, 합성 저작물, 인공지능 저작물을 가려내는 법’을 가르치는 것만큼이나 ‘출처가 인증된 콘텐츠를 우선적으로 신뢰하는 습관’을 길러주는 일이 중요하다. 셋째, 도서관이 보존하는 향토 자료, 구술 기록, 사진·영상 자료의 진본성을 위협하는 합성 콘텐츠의 위험에 대비해 디지털 보존 정책을 갱신해야 한다. 한번 의심받기 시작한 자료는 진본이라도 신뢰 회복이 어렵다. 

오래된 사명의 갱신, 이제 무대가 바뀌었을 뿐

딥페이크, 합성 미디어 문제는 개별 영상의 진위가 아니라 사회 전반의 ‘신뢰 자본’의 문제다. 신뢰는 한 사람의 노력으로 회복할 수 없다. 도서관, 학교, 공영방송, 기록관과 같은 제도적 기관의 일관된 노력 속에서만 다시 쌓을 수 있다. 그러므로 도서관이 합성 미디어 문제에 적극적으로 개입하는 일은 ‘새로운 업무’가 아니라 ‘오래된 사명의 갱신’이다. 자료를 모으고, 보존하고, 시민이 자유롭게 접근하도록 돕고, 무엇이 신뢰할 만한 정보인지 판단할 수 있도록 안내하는 일. 우리는 그 일을 100년 넘게 해왔다. 다만 이제 그 무대가 바뀌었을 뿐이다.

바뀐 무대에서 도서관은 무엇을 해야 할까?

도서관이 단순한 ‘AI 활용처’가 아니라 ‘AI 비판자’로서의 역할도 맡아야 한다. 합성 미디어의 위험을 시민에게 알리고, 식별 도구를 제공하며, 정책 변화에 목소리를 내는 일은 도서관의 전통적 사명인 정보 접근권 보장과 표현의 자유 보호와 자연스럽게 연결된다.

실천 과제는 적어도 세 가지 정도 생각해볼 수 있다. 첫째, 시민 미디어 리터러시 프로그램의 정례화다. 즉, 정기 프로그램으로 편성할 필요가 있다. 둘째, 사서를 위한 합성 미디어 대응 교육의 강화다. 딥페이크 식별 도구의 한계와 가능성, 신고 절차, 피해자 지원 자원에 대한 안내 능력은 이제 참고 서비스의 기본 소양이라 할 수 있다. 셋째, 메타데이터와 출처 표기의 강화다. 도서관이 다루는 모든 디지털 자원에 대해 출처와 제작 맥락을 명확히 보존하고 제공하는 일은, 합성 콘텐츠가 범람하는 시대에 진짜를 증명하는 가장 기본적인 작업이다. 

이 세 가지 과제를 풀어 가는 길에서 잊지 말아야 할 원칙이 있다. ‘피해자를 가장 먼저 본다’는 원칙이다. 딥페이크, 합성 미디어의 가장 심각한 점은 범죄와 연결된다는 점이다. 교육에 참여하는 시민 가운데 일부는 피해자일 수 있다. 가해자의 기술을 비판하는 강의가 의도와 달리 피해자의 트라우마를 자극할 수 있다. 도서관이 교육을 설계할 때 안전 공간(safe space)의 원칙, 피해자 지원 기관과의 연계, 신고 자원의 명시적 안내가 함께 들어가야 하는 이유다. 기술을 다루는 일도 결국 사람을 다루는 일이라는 사실을 잊지 말아야 한다.

 ¹⁾ 기술 조작 가능성이 보편화되면서 실제 발생한 사실조차 '조작된 것'이라고 주장함으로써 책임을 회피할 수 있게 되는 현상.