주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

딥페이크 동영상 취약국 1위한 한국, ‘네카오’ 칼 뽑았다

문동수 기자 조회수  

딥페이크 피해 1위 한국인
네이버·카카오 대응 나서
구글, 워터마크 삽입해

딥페이크 동영상 취약국 1위한 한국, '네카오' 칼 뽑았다
출처: 뉴스1

최근 10대 청소년을 중심으로 인공지능(AI) 기술을 활용하여 제작한 딥페이크 음란물 성범죄가 기승을 부리며 이를 차단하기 위해 국내 기업 네이버와 카카오가 대응책에 칼을 빼 들었다. 더하여 딥페이크 음란물 성범죄 피해자 가운데 전 세계의 절반 이상이 한국인으로 집계되면서 이목이 쏠리는 상황이다.

29일 관련 업계에 따르면 국내 포털사이트 점유율 1위 네이버는 지난 28일부터 딥페이크 음란물 성범죄 유포를 방지하기 위해 ‘딥페이크 기술을 이용한 이미지, 영상 등 신고 채널’ 운영에 나섰다. 특히 네이버는 검색어에 ‘딥페이크 제작’을 검색할 경우 유의 문구를 띄우는 등의 대응에 나섰다.

딥페이크 동영상 취약국 1위한 한국, '네카오' 칼 뽑았다
출처: 뉴스1

네이버에 따르면 ‘딥페이크 제작’을 검색할 경우 “딥페이크 기술 접근 및 활용하는 데 성폭력처벌법, 공직선거법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의하라”라는 문구가 뜨면서 주의 안내문을 제공한다고 한다. 더하여 네이버는 딥페이크에 관한 검색 결과와 관련 AI 자동 필터링을 거쳐 불법 콘텐츠에 노출 및 사용되지 않도록 하고 있다.

또한 국내 거대 포털사이트 다음(Daum) 운영사인 카카오 역시 딥페이크 음란물 성범죄 확산을 막기 위해 사전 조치에 나서고 있다. 특히 카카오는 올해 1월부터 한국인터넷자율정책기구(KISO)와 협의하여 청소년 보호 검색어로 딥페이크와 관련한 검색어를 지정하면서 규제하고 있다.

딥페이크 동영상 취약국 1위한 한국, '네카오' 칼 뽑았다
출처: 뉴스1

카카오와 다음에 따르면 해당 조치는 당시 4월 국회의원 선거를 앞두고 정치와 관련한 딥페이크 영상물 유통을 막기 위한 조치로 알려졌다.

더하여 카카오의 대표 메신저 플랫폼인 카카오톡 역시 딥페이크 음란물 유통을 최소화하기 위해 제재 정책 시행 및 모니터링을 강화하고 있다. 이에 대해 카카오는 오픈 채팅을 비롯해 다음, 카카오 내 공개 게시판 서비스에 딥페이크 음란물 유통을 감시하는 모니터링을 실시했으며, 딥페이크 제공 및 배포 행위에 대해 영구적으로 카카오톡 전체 서비스 이용에 제한하는 강력한 정책을 시행한다.

또한 이달 카카오톡은 신규 기능인 ‘페이크 시그널’을 도입했다. 이는 온라인상에서 사칭을 통한 사기 등에 선제 대응하도록 경고 메시지를 전달하는 기능이다.

딥페이크 동영상 취약국 1위한 한국, '네카오' 칼 뽑았다
출처: 뉴스1

또한 전 세계 포털사이트를 장악한 구글의 경우 인공지능을 통해 제작한 결과물이 더욱 정교해지면서, 콘텐츠 악용 가능성의 우려가 커지고 있어 지난해(2023년)부터 인공지능으로 생성한 이미지를 비롯해 오디오까지 비가시성 워터마크를 삽입했다. 구글에 따르면 보이지 않는 워터마크 기술인 ‘신스ID(SynthID)’을 도입한 이후 지난 5월 텍스트와 동영상에도 이를 확대 적용한 것으로 전해진다.

이에 대해 구글 측은 ‘책임감 있는 생성형 AI툴킷(Responsible Generative AI Toolkit)’을 통하여 신스ID’ 텍스트 워터마킹 기술을 오픈소스로 공개할 방침을 밝혔다. 이와 관련해 앞서 카카오 역시 이미지 생성 애플리케이션(칼로, 비 디스커버)에 비가시성 워터마크, 가시성 워터마크를 도입한 바 있다. 하지만 기존 서비스를 재정비하는 과정에서 지난달 중단했다.

딥페이크 동영상 취약국 1위한 한국, '네카오' 칼 뽑았다
출처: 뉴스1

한편, 미국의 한 사이버 보안 업체가 최근 발표한 보고서에 따르면 지난해(2023년) 기준 약 9만 5,800건의 딥페이크 영상을 분석한 후 전 세계에 유포된 ‘딥페이크 음란물’ 피해자 가운데 절반을 넘긴 53%가 한국인으로 집계됐다. 이에 대해 미국 월스트리트저널은 해당 조사 결과를 인용하여 “딥페이크 음란물에 한국이 가장 취약한 국가”라고 보도했다.

해당 보고서에 따르면 한국인 딥페이크 음란물 피해자는 대부분 연예인으로 나타났고, 최다 표적이 된 개인 10명 가운데 8명이 ‘한국인 가수’로 나타났다. 심각한 사태에 방송통신심의위원회는 텔레그램의 CEO인 파벨 두로프를 수사 중인 프랑스 당국에 딥페이크 성범죄 대응을 위한 긴급 공조 요청을 보낸 것으로 전해진다. 

관련기사

author-img
문동수 기자
content@mobilitytv.co.kr

댓글0

300

댓글0

[사건사고] 랭킹 뉴스

  • ”첫째아들 야산에 암매장했다”...민주당이 고발한 전광훈 목사 발언 재조명
  • "내 대출은 거절됐는데…" 은행이 몰래 돈 빌려준 사람은 따로 있었다
  • “내게 사과하지 않으면...” 구준엽과 결혼 반대했던 서희원 어머니 재조명
  • 전한길에 이어... 尹 지지자들에 "빨갱이" 발언한 배구선수 누구냐면
  • "피의자 입건" 전광훈 내란 선동 혐의 부인, 처벌은?
  • 노인들 ‘오픈런’ 하게 만드는 ‘이 정책’, 대체 뭐길래…
    노인들 ‘오픈런’ 하게 만드는 ‘이 정책’, 대체 뭐길래…

추천 뉴스

  • 1
    “싹 다 잡아들여라” 홍장원 입에서 나온 충격 발언에 尹 반응, 심상치 않다

    국제 

  • 2
    “방송국 꼴랑 220 줘” 오요안나 사건에 재조명된 공중파 기상캐스터 급여

    뉴스 

  • 3
    시가총액 56조 줄어든 대표 ‘국민주’...현재 상황 봤더니 “깜짝”

    기획특집 

  • 4
    "미국이 장악할 것" 취임 후 폭탄 발언 이어가는 트럼프, 이번에는?

    오피니언 

  • 5
    "비보 전해진 구준엽 아내 유산 1,100억... 전남편 차지 될 수 있다고요?"

    국제 

지금 뜨는 뉴스

  • 1
    "무안공항보다 입지 위험한데"...참사에도 그대로 추진되고 있는 신공항들

    기획특집 

  • 2
    “위법 수사와 불법 체포로 인해...” 구속취소 청구한 윤석열 답변 ‘깜짝’

    뉴스 

  • 3
    "짐 싸서 나가"...트럼프식 공무원 구조조정 뒤에 숨은 배후, 이 사람이었다

    국제 

  • 4
    "쩨쩨하게 굴지마라?" 헌재 공격에 정청래가 날린 일침 한마디

    국제 

  • 5
    절대 찍고 싶지 않은 후보 1위 이재명...대선 선호 주자 1위는? '반전'

    오피니언 

공유하기

0

뷰어스 입점 신청

adsupport@fastviewkorea.com