졸업앨범 줄줄이 폐지
딥페이크 피해 급증
정치권도 피해 우려

경기도 여주의 A초등학교는 내년 2월 졸업을 앞둔 6학년 학생 100여 명에게 졸업앨범을 제작하지 않기로 결정했다. 1960년대 개교 이후 처음 있는 일이다. 학교운영위원회의 결정에 따라, 졸업앨범 제작을 위한 사진 촬영이 아예 진행되지 않았다. 학교 관계자는 “교사, 학부모는 물론 학생들도 디지털 범죄와 개인정보 유출 우려로 촬영을 원치 않았다”며 “이러한 결정이 내려진 것”이라고 설명했다.
과거에는 4월이면 학교마다 졸업앨범 촬영으로 분주했지만, 최근에는 앨범 제작을 포기하거나 축소하는 학교들이 늘고 있다. 디지털 기술을 활용한 사진 합성, 편집 등으로 인해 학생이나 교직원의 얼굴 사진이 악용될 수 있다는 우려가 확산하면서다. 서울시교육청 관계자는 “졸업앨범 제작 자체를 하지 않기로 하는 학교가 늘고 있는 추세”라고 전했다.

일선 학교는 졸업앨범 제작 여부를 두고 학생과 학부모의 의견을 수렴하고 있다. 대전의 한 초등학교는 올해 졸업앨범 수요조사에 ‘딥페이크 범죄 발생 시 학교에 법적 책임을 묻지 않겠다’는 내용의 동의 항목을 추가했다. 서울의 한 중학교 교사는 “졸업앨범은 학생의 70~80% 이상이 동의해야 제작되는데, 최근에는 절반도 채 되지 않아 조사 기간을 연장한 경우도 있다”고 말했다.
딥페이크 피해가 현실화한 것도 학교의 판단에 영향을 주고 있다. 여성가족부에 따르면, 2023년 딥페이크 피해 건수는 423건이었으나, 2024년에는 1,384건으로 3.3배 증가했다. 이 중 10대 피해자가 46.3%에 달했다. 중앙디지털성범죄피해자지원센터 관계자는 “초등학생 대상 합성 피해도 다수 접수된다”고 전했다.

교사들의 불안감도 높아지고 있다. 지난해 10월 한국교원총연합회가 진행한 설문조사에 따르면 응답한 교사의 93.1%가 졸업앨범 사진이 딥페이크에 악용될 수 있다고 우려했고, 67.2%는 졸업앨범 제작을 중단해야 한다고 답했다.
이 같은 상황에서 졸업앨범을 제작하지 않기로 한 학교들은 학급 단위의 디지털 앨범이나 개인 기념사진을 대안으로 제시하고 있다. 경기도의 한 초등학교 교감은 “요즘 학생들은 졸업앨범 대신 스스로 새로운 방식으로 학창 시절을 기록하고 싶어 한다”며 “추억이 사라지는 것이 아니라 다른 형태로 공유되는 것”이라고 설명했다.

딥페이크 기술이 학교를 넘어 정치권에도 영향을 미치고 있다. 오는 6월 3일 제21대 대통령선거를 앞두고, 주요 정치인을 겨냥한 딥페이크 영상이 소셜미디어를 통해 확산하고 있다. 공직선거법은 선거운동 목적의 딥페이크 영상 제작과 유포를 금지하고 있지만, 실제 단속은 어려운 상황이다.
13일 현재 SNS에서 ‘정치인 딥페이크’를 검색하면 주요 대선 주자들을 대상으로 한 영상들이 다수 노출된다. 윤석열 전 대통령이 한동훈 전 국민의힘 대표의 가발을 벗기는 영상은 조회 수 139만 회를 기록했으며, 이재명 전 더불어민주당 대표가 유치장에 갇힌 모습의 영상도 올라왔다. 또 다른 영상은 ‘차기 대통령 후보 최강 라인업’이라는 제목으로 다수 정치인을 희화화했다.

딥페이크 영상이 급증하는 이유는 제작이 매우 간단하기 때문이다. 생성형 AI 프로그램을 이용해 주요 정치인이 춤추고 노래하는 선거운동 영상을 만드는 데 2분도 채 걸리지 않았다. 정치권은 이러한 딥페이크 영상에 촉각을 곤두세우고 있다. 더불어민주당 이재명 예비후보 캠프는 김혜경 여사에게 욕설을 하는 딥페이크 영상이 유포될 가능성이 있다는 제보를 받고, 유포 중지 가처분 및 법적 대응을 예고했다.
딥페이크 기술이 대중화되며 선거에도 영향을 미칠 수 있다는 우려가 제기된다. 실제로 중앙선거관리위원회는 지난해 총선 기간 중 딥페이크 선거운동 게시물 388건을 적발했다. 이 가운데에는 윤 전 대통령이 이 전 대표를 비난하는 영상도 포함돼 있었다.
현재 AI 생성물의 워터마크 표시를 의무화한 ‘AI 기본법’은 내년 1월부터 시행 예정이어서 이번 대선에는 적용되지 않는다. 하지만 공직선거법은 이미 개정돼, 선거일 90일 전부터 딥페이크를 활용한 선거운동을 금지하고 있다. 이를 위반하면 7년 이하 징역 또는 1,000만 원 이상 5,000만 원 이하 벌금에 처할 수 있다. 경찰은 정보통신망법상 명예훼손이나 모욕죄로도 처벌이 가능하다고 보고, 전국 경찰서에 선거사범 수사 상황실을 설치해 관련 범죄를 단속할 계획이다.
댓글0