딥페이크 성범죄, 국가적 대응 본격화…네이버·카카오 등 주요포털에 신고 채널 마련

[이코노믹데일리] 인공지능(AI) 기술을 악용한 딥페이크 성범죄가 심각한 사회적 문제로 떠오르면서, 네이버와 카카오가 피해 신고 채널을 마련해 적극적인 대응에 나섰다. 이에 방송통신위원회(이하 방통위)는 AI 이용자 보호를 위한 법안 제정과 예산 편성에 속도를 내고 있다.

네이버는 "이용자의 안전과 개인정보 보호를 최우선으로 생각한다"며 딥페이크 기술을 악용한 이미지나 영상을 발견할 경우 신고할 수 있는 전용 채널을 운영한다고 밝혔다. 이용자들은 네이버 고객센터를 통해 이러한 신고를 접수할 수 있다.

카카오도 유사한 대응을 준비했다. 카카오는 “딥페이크 기술을 악용한 범죄는 심각한 피해를 초래할 수 있다”며, 자사 서비스 내에서 관련 범죄 사례를 발견할 경우 즉시 신고해달라고 안내했다. 카카오톡, 다음 카페, 브런치 등 다양한 플랫폼에서 불법 촬영물이나 이미지를 발견하면 ‘불법 촬영물 등 유통 신고·삭제 요청’ 홈페이지를 통해 신고할 수 있다. 또한, 허위 영상물 배포가 확인되면 서비스 이용에 대해 영구적인 제한 조치를 취할 예정이다.

방통위는 내년도 AI 관련 예산으로 2.98억 원을 새롭게 편성해 국회에 제출했다. 방통위는 딥페이크 성범죄 확산에 대응하기 위해 'AI 생성 표시제' 도입과 ‘AI 이용자 보호에 관한 법률’ 제정을 추진 중이다. 김태규 방통위 직무대행은 "피해자 신상정보를 긴급 심의 대상에 포함시키는 방안, AI 생성물 표시제 도입, 이용자 보호 법규 마련, 자율규제 강화 등을 고려하고 있다"고 말했다.

방통위는 또한 디지털 취약계층을 보호하기 위한 맞춤형 교육과 지원을 강화할 계획이다. 방통위는 전 국민이 미디어 교육을 받을 수 있도록 시청자미디어센터를 운영하고, 소외계층 지역민을 위한 미디어나눔 버스를 추가로 구축할 예정이다. 아울러, 시각·청각장애인의 방송 시청 편의성을 높이기 위한 맞춤형 TV 보급 및 장애인 방송 프로그램 제작 지원에도 예산을 증액했다.

정치권에서도 강력한 대응을 요구하고 있다. 박지원 더불어민주당 의원은 “딥페이크 성범죄는 공동체를 파괴하는 사회적, 국가적 재난”이라며 강력한 대책을 촉구했다. 윤석열 대통령은 국무회의에서 “철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아야 한다”고 강조하며, 정부와 관계기관에 신속한 조치를 지시했다.

한편, 방송통신심의위원회는 긴급 회의를 통해 주요 플랫폼 기업에 전용 신고 배너 팝업을 설치하도록 요청하고, 방송사에는 딥페이크 범죄 근절 캠페인 영상을 제작·송출할 것을 당부했다. 방통위는 신속한 영상 차단 및 삭제 조치를 위해 규제 협의체를 구성할 예정이다.

이번 방통위의 예산안은 국회의 심의를 거쳐 최종 확정될 예정이다. 딥페이크 성범죄에 대한 강력한 법적 대응과 함께, 안전한 디지털 환경 조성을 위한 정부와 기업의 협력이 그 어느 때보다 중요해지고 있다.