이윤과 공익 사이...AI업계, n번방법에 절반의 기대

n번방 방지법이 인공지능(AI) 기업에게 이윤 창출과 공익 기여 기회를 동시에 안겼다. 업계에선 데이터3법을 계기로 넓어진 시장에서 불법 촬영물 방지 기술이 일부 마중물 역할을 할 것으로 내다본다.

20대 국회는 20일 마지막 본회의를 열고 전기통신사업법 개정안 13개를 통과시켰다. 이 가운데 ‘n번방 방지법’으로 불린 조항에는 ‘대통령령으로 정하는 부가통신사업자’가 불법 촬영물 유통을 막기 위해 ‘대통령령으로 정하는 기술적·관리적 조치’를 해야 한다는 내용이 담겼다. 이를 두고 랜덤 채팅 앱을 포함한 부가통신사업자의 AI 활용 필요성이 논의되고 있다.

◆업계 “AI 만족할 성과” “정부와 협의 기대”

업계에 따르면 정부 관계자는 22일 국내 AI 기업과 회의를 가졌다. n번방 방지법 내 대통령령 기준을 세우기 위해 업계와 논의하기 위해서다. 해당 법은 대통령령이 말하는 기술적·관리적 조치가 불명확해 사적 대화 검열 논란을 불러왔다. 이에 방송통신위원회는 일반에 노출된 불법 촬영물이 대상이라고 해명했다. 불법 촬영물은 최단시간에 삭제해야 하므로 대통령령에는 AI를 활용한 기술적 조치가 포함될 전망이다. 이날 회의도 AI 의무 활용 가능성에 무게를 더한다.

시장에는 불법 촬영물 대응 기술이 나와 있다. 알엔딥은 n번방 같은 성착취 영상물 유통을 막기 위한 각종 AI 기술을 지난달 공개했다. 알엔딥 레드 AI 모자이크 기술은 성인물을 인지하고 모자이크를 씌울 수 있다. 문제될 수 있는 부분이 포함된 경우 화면 전체 또는 특정 부위를 흐릿하게 만들 수도 있다. 아동 포르노 검출 기술도 개발됐다. 특정인 얼굴을 포르노와 합성한 ‘딥페이크’ 영상 판별 정확도를 높이는 작업도 진행중이다. 해당 기술을 활용하면 불법 영상물을 온라인에 전송하거나 내려받는 일을 차단하는 데 쓰일 수 있다.

알엔딥은 불법 촬영물 검사 기능을 당장 활용할 수 있다고 본다. 회사는 기계학습의 일종인 딥러닝으로 AI를 훈련시켰다. 딥러닝은 데이터 특징을 파악하고 그 의미를 인식하는 ‘특징표현학습’을 가능케 한다. 사람은 눈으로 본 외부 정보를 받아들여 각자의 행동에 반영한다. 사물에 의미를 부여하기 때문이다. 이런 과정을 컴퓨터도 할 수 있도록 특징 표현학습을 시키는 방법이 딥러닝이다.

최근까지 알엔딥 AI는 성인물 사진 30만장을 학습했다. 보통 동영상은 1초당 사진 30장으로 구성되는 점에 착안했다. 김수훈 알엔딥 사장(CTO)은 “꽤 만족할 만한 수준의 결과가 나와 당장 사용 가능하다”며 “딥페이크 판별의 경우 높아지는 합성 기술에 발맞춰 고도화 될 것”이라고 말했다. 아동 포르노는 신체 노출 여부를 넘어 얼굴 학습도 해야 한다. 회사는 점차 세분화되는 불법 콘텐츠에 대응해 사진과 스케치 영상, 만화 속 노출 부분도 심층 분석해 딥러닝하고 있다.
  관건은 실시간으로 만들어지는 착취물이다. 이 경우 사기업이 개인 기기를 들여다 볼 수 없다. 알엔딥이 제시한 해결책은 두 가지다. 서버 안에 해당 기술을 심거나 기업에게 API를 제공하는 방법이다. API는 ‘어플리케이션 프로그래밍 인터페이스(Application Programming Interface)’의 줄임말로 소프트웨어와 서비스를 구성하는 기본 요소다.

서버에 해당 AI를 설치하면 가해자가 폐쇄형 대화방에 영상을 게시할 때 서버에서 내용을 검사하고 다른 참여자에게 재전송되는 일을 막을 수 있다는 설명이다.

다만 AI는 연인 간 은밀한 대화와 영상 전송 여부를 판별하지 못한다. 노출과 외설은 사회적으로 합의될 수 있지만 AI에게는 어려운 문제다. 이를 막기 위한 방법으로는 약관을 통한 ‘음란 부호 서비스 불가’ 선언이 거론된다. 성인 간 대화방에서도 관련 영상이나 사진은 유통할 수 없다고 못박는 방법이다.

저작권 위반 온라인 게시판 감시 서비스를 불법 성인 동영상에 적용할 수도 있다. AI 기업 아이와즈는 저작권 보호 기능을 갖춘 ‘콘텐츠 모니터링 시스템’을 서비스한다. 영상 분석 시스템과 연동해 저작권 침해에 대응한다. 한류 콘텐츠 가운데 저작권 위반 영상물을 수집·감시하며 사업자에게 삭제를 요청하는 플랫폼이다. 해당 AI 기술은 불법 촬영 동영상과 아동 청소년 성 착취물 감시도 감안해 개발됐다.

콘텐츠 모니터링 시스템을 활용하면 개인 대화방 내 불법 영상물 주소 공유 문제를 간접 해결할 수 있다. 불법 동영상은 종종 대화방에 오가는 인터넷 주소로 공유된다. 해당 주소는 한순간 사라지는 게시판 사이트나 게시물로 이어진다. 이런 게시물은 대화방 바깥에 있는 인터넷 주소이므로 일반에 공개된 촬영물로 볼 수 있다. 따라서 AI 업체가 상시 감시할 수 있다. 필요한 경우 업체가 회원으로 가입해 내부에 오가는 불법 게시물을 파악할 수도 있다. 이 역시 일반에 공개된 영상물로 볼 수 있어서다. 양중식 아이와즈 대표는 “서비스가 다루는 불법 한류 콘텐츠를 불법 동영상으로 바꾸면 똑같이 감시 기능을 할 수 있다”며 “통과된 개정안이 모니터링 관련 사업과 밀접하니 향후 정부와 활발한 논의가 있을 것 같다”고 말했다.
  ◆시장 활성 절반의 기대... ‘무료 개방’ 검토도

다만 업계에서는 불법 촬영물 차단이 전체 AI시장의 일부에 그칠 것이라는 예측이 지배적이다. 당장 대통령령이 정해지지 않은 상황에서 기술적·관리적 조치를 위한 AI시장이 어떻게 재편될 지 누구도 예상할 수 없어서다. 업계 관계자는 “데이터3법으로 규제가 완화돼 다양한 AI 서비스를 시도할 기회는 있지만 시장이 어떻게 열릴 지는 미지수”라며 “보통 이런 상황에서는 장·차관 중심으로 기업 탐방하고 실무진 회의를 거쳐 정부안이 나오는데 지금 통과된 법만으로 쉽게 예측하기는 어렵다”고 말했다.

관련 기술이 건전한 콘텐츠 시장 활성화에 필수재로 자리잡겠지만 기능 자체가 시장을 폭발적으로 키울 가능성은 적다는 의견도 있다. 양중식 대표는 “데이터3법으로 개인정보 보호 문제에 대한 지침이 만들어져 나중에 임팩트가 클 것”이라면서도 “민식이법이 초등학교 주변 운전을 조심하게 했듯이 이번 법도 ‘앞으로 내가 이런 영상을 봐서는 안 된다’고 느끼게 하는 계기가 될 뿐 시장의 폭발적인 성장에 영향을 줄 것 같지는 않다”고 말했다. 일각에선 카카오와 네이버 등 거대 플랫폼 업체는 자체적으로 AI를 연구하고 있어 큰 회사를 상대로 한 기술 서비스 가능성이 높지 않다는 관측도 있다.

상황을 반대로 해석하면 시장 전반이 업계의 자정 노력을 요구하고 있으니 AI의 콘텐츠 검열 수요는 꾸준히 늘어날 것이라는 관측도 나온다. 이두식 아임클라우드 대표는 “점진적으로는 관련 AI 기술이 활성화될 것 같다”며 “데이터3법에 따른 개인정보 비식별화 외에 AI의 ‘이상 징후 자동 검출’도 필요하기 때문”이라고 내다봤다.

기업의 사회적 책임을 위해 기술 공유를 염두에 둔 곳도 있다. 김수훈 알엔딥 사장은 “과거 기업은 재미와 기술적 감동으로 사용자를 확보해왔다”며 “이제는 다음 세대에 얼마나 깨끗하고 안전한 플랫폼을 제공할 지가 중요하다”고 강조했다.

알엔딥은 AI 사업 영역을 크게 블루와 레드로 나눈다. 블루는 자율주행과 카메라, 번역 연구 등 이용자 편의에 초점을 둔 수익 사업이다. 반면 레드는 욕설과 불법 성인물, 딥페이크 영상 등 사회 문제 해결이 목적인 연구 사업이다. 레드 AI는 n번방 사건 이전부터 연구돼 왔다.

회사는 출시를 앞둔 한류 팬덤 전문 플랫폼 ‘FNS’를 건전하게 운영하기 위해서라도 불법 영상물 유통을 막을 기술을 적극 연구한다는 방침이다. FNS는 1억명에 달하는 전 세계 한류 팬을 대상으로 개발중이다. AI로 21개국 언어를 실시간 연결한다.

김 사장은 “주된 수익 사업인 블루 부문과 달리 레드는 비즈니스나 수익 창출 목적은 아니다”라며 “정부 기관에는 무료 개방 의사가 있고 중소기업에는 무료 개방을 검토할 수 있다”고 말했다.