[이코노믹데일리] 최근 딥페이크 성범죄가 급증하면서 사회적 경각심이 높아지고 있다. 딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체를 다른 영상이나 이미지에 합성하는 것을 말한다. 이 기술은 주로 음란물 제작이나 허위 정보 유포에 악용되며, 심각한 사회적 문제로 떠오르고 있다. 특히 익명 메신저인 텔레그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 피해가 빠르게 확산되고 있다.
미국 사이버 보안 업체 홈시큐리티히어로즈의 '2023 딥페이크 현황' 보고서에 따르면, 온라인상의 딥페이크 동영상 중 98%가 음란물이었고, 이 중 99%가 여성을 대상으로 한 것으로 나타났다. 더욱 충격적인 것은 딥페이크 음란물의 주인공 중 53%가 한국 배우와 가수였다는 점이다. 이는 K-pop과 한류 콘텐츠의 인기가 높아지면서 한국 연예인들이 주요 타깃이 되고 있음을 시사한다.
◆ K-pop 스타들, 딥페이크 범죄의 주요 표적
월스트리트저널(WSJ)은 "딥페이크 음란물 최대 피해자 10명 중 8명이 K-pop 가수"라고 보도하며 한국이 딥페이크 음란물 제작의 주요 타깃 국가가 되고 있음을 지적했다. 이에 대응해 국내 연예기획사들도 적극적인 대응에 나서고 있다.
JYP엔터테인먼트는 소속 그룹 트와이스를 대상으로 한 딥페이크 영상물에 대해 "전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중"이라고 밝혔다. 가수 권은비의 소속사 울림엔터테인먼트도 권은비를 대상으로 한 합성 음란 사진 유포자들을 형사 고소했다고 전했다.
각 기획사는 자체 모니터링을 강화하고 팬들의 제보를 독려하고 있다. 울림엔터테인먼트는 "앞으로 악성 게시물에 대한 증거자료 수집과 자체 모니터링을 적극적으로 해 아티스트 보호에 최선을 다할 예정"이라며 팬들의 협조를 요청했다.
◆ 딥페이크 범죄의 온상 '익명 메신저' 텔레그램...범죄 확산에 기여
딥페이크 범죄가 급증하는 배경에는 텔레그램이란 익명 메신저의 존재가 있다. 텔레그램은 보안이 강하고 가입과 메시지 삭제가 간편하다는 장점으로 이용자가 많지만, 이러한 특성이 범죄에 악용되고 있다. 특히 텔레그램 내 '봇' 프로그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 피해가 확산되고 있다.
최근 프랑스에서는 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 온라인 성범죄 등 각종 범죄를 공모한 혐의로 예비기소됐다. 프랑스 검찰은 두로프가 미성년자 성 착취물을 조직적으로 유포하거나 마약을 밀매하는 범죄 등을 공모한 혐의로 이러한 처분을 내렸다.
국내에서도 경찰이 딥페이크 음란물을 자동 생성하는 텔레그램 프로그램(봇) 8개를 조사 중이다. 이 프로그램은 텔레그램 '겹지인방' 등에서 가족·지인 등의 얼굴사진과 음란물 합성물을 만드는 데 이용됐다. 그러나 해외 메신저인 텔레그램은 국내 법적 통제가 어려워 수사 및 범죄 영상 삭제에 걸림돌로 작용하고 있다.
◆ 정부의 대응, 법적 제재 강화와 기술적 대책 마련
정부는 딥페이크 범죄에 대응하기 위해 강력한 법적 제재를 추진하고 있다. 국무조정실은 '딥페이크 성범죄 대응 범정부 대책 회의'를 열고 딥페이크 등 허위 영상물의 소지·구입·시청 행위를 처벌하는 규정을 신설하기로 했다. 또한 성폭력처벌법 개정을 통해 '허위 영상물 소지죄' 조항을 만들고, 딥페이크 음란물의 유포자에 대한 법정형을 강화하기로 했다. 현행법에서는 딥페이크 음란물을 수익 목적으로 유포한 경우에만 7년 이하 징역형이 적용되지만, 개정안에서는 이를 확대할 예정이다.
이와 함께 경찰관이 딥페이크 음란물 제작자를 잡아내기 위해 신분을 위장하고 수사하는 방안도 허용할 방침이다. 경찰은 올해 8월 시작된 딥페이크 성범죄에 대한 특별 집중 단속을 내년 3월까지 7개월 동안 실시할 예정이다.
과학기술정보통신부와 방송통신위원회는 온라인상에서 딥페이크 영상물이 쉽게 제작·유통·확산되는 것을 막고 불법 영상물이 신속히 삭제될 수 있도록 딥페이크 탐지 기술을 빠른 시일 내 추가 상용화하기로 했다. 이는 기술적 측면에서 딥페이크 범죄에 대응하기 위한 중요한 조치로 평가된다.
딥페이크 성범죄가 10대 청소년들 사이에서 빠르게 확산하고 있는 만큼, 교육부는 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다. 한 초등학교 성교육 담당 교사는 "피해를 걱정하는 학생들이 밤새 사회관계망서비스(SNS)에 올린 사진을 삭제하거나 내리고 있다"며 "교사들도 텔레그램 애플리케이션을 깔고 자신도 피해자인지 확인하고 있다"고 전했다.
시민사회에서도 딥페이크 범죄에 대한 강력한 수사와 처벌을 요구하는 목소리가 커지고 있다. 서울 도심에서는 시민들이 딥페이크 불법 합성물에 대한 신속한 수사를 촉구하는 집회를 열었다. 진보당 딥페이크 성범죄 대응 태스크포스(TF)의 홍희진 공동단장은 "피해 학교로 언급되는 곳만 500곳이 넘는다"며 "신속한 수사와 엄중한 처벌은 끝 모르고 번져가는 범죄를 끊어낼 최소한의 조치"라고 밝혔다.
딥페이크 범죄는 단순히 법적, 기술적 대응만으로는 해결하기 어려운 복합적인 문제다. 전문가들은 빠르게 진화하고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 강조한다.
미국의 사이버 보안 회사 '홈 시큐리티 히어로즈(Home Security Heroes)'의 설문 조사 결과, 미국 남성의 74%가 "딥페이크 음란물을 보는 것에 대해 죄책감을 느끼지 않는다"고 답했다는 점은 디지털 윤리 교육의 필요성을 잘 보여준다. "그 사람을 모르기 때문", "내 개인적인 호기심을 채우기 위한 것인 이상 누구도 상처 준다고 생각하지 않기 때문" 등의 응답은 디지털 시대의 윤리 의식 부재를 드러내고 있다.
◆ 딥페이크 규제의 필요성과 앞으로의 과제
정부와 국회는 AI 기반 합성물에 'AI가 만든 영상입니다'와 같은 워터마크나 제작자를 파악할 수 있는 메타데이터를 의무 삽입하는 방안을 검토 중이다. 그러나 이러한 규제에는 여러 가지 현실적 문제가 존재한다.
딥페이크 콘텐츠 제작에 참여한 한 개발자는 "워터마크는 말 그대로 표식일 뿐이며, 이를 악용하려는 사람들은 신경 쓰지 않을 것"이라며 실효성에 의문을 제기했다. 또한 워터마크 기술의 개발이 쉽지 않아 스타트업이나 중소기업이 피해를 입을 수 있다는 우려도 제기됐다.
딥페이크 음란물 유통 책임을 플랫폼 기업에 지우는 규제도 논란이 되고 있다. 특히 텔레그램과 같은 해외 기반 메신저 서비스에 대한 규제는 실효성이 낮을 수 있다는 지적이 있다. 어떠한 규제도 개인이 딥페이크 프로그램을 악용하는 것을 완벽히 막기 어렵다는 한계가 있기 때문이다.
전문가들은 빠르게 진화하고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 강조한다.
딥페이크 범죄는 이처럼 법적 제재와 기술적 차단만으로는 완전히 막기 어려운 복합적 문제로 자리 잡고 있다.
이러한 문제를 해결하기 위해서는 정부, 기업, 시민사회 모두가 함께 문제를 인식하고 적극적으로 대처해야 한다. 이를 위해 국제적 공조와 협력이 필수적이다. AI 기술의 발전과 함께 새로운 윤리적 기준과 법적 체계를 마련하고, 지속적으로 이에 대한 교육과 인식을 강화하는 것이 앞으로의 중요한 과제로 남아 있다.
댓글 더보기