2024.11.22 금요일
검색
'워터마크' 검색결과
기간검색
-
~
검색영역
검색어
-
AI가 바꾸는 콘텐츠 산업의 패러다임의 변화...한계비용 제로 시대의 도래 [이코노믹데일리] 인공지능(AI) 기술이 엔터테인먼트, 게임, 영화, 미디어 등 콘텐츠 산업 전반에 혁명적 변화를 일으키고 있다. 이러한 변화의 중심에는 한국의 AI 오디오 기술 선도 기업인 수퍼톤(Supertone)의 이교구 대표가 있다. 이 대표는 미국 시사주간지 타임이 선정한 'AI 분야에서 가장 영향력 있는 100인(TIME100 AI)' 리스트에 유일한 한국인으로 이름을 올리며 한국 AI 업계의 위상을 높였다. 타임은 이교구 대표를 선정하며 "K팝 산업이 미국보다 발 빠르게 AI 기술을 실험하고 있으며, 이 대표가 그 중심에 있다"고 평가했다. 실제로 수퍼톤은 AI 음성 기술을 활용해 고(故) 김광석의 목소리를 재현하고, 가수 미드낫(MIDNATT)이 6개 언어로 신곡을 발표할 수 있도록 지원하는 등 기술과 콘텐츠의 경계를 확장하고 있다. ◆ AI 기술이 콘텐츠 제작의 패러다임...‘대작’에서 ‘다작’으로 기존 콘텐츠 제작 시스템은 많은 인적, 물적 자원을 요구하는 수작업에 가까운 방식이었다. K팝 아이돌을 예로 들면, 한 팀을 양성하는 데만 5년 이상의 시간이 소요되며, 영화나 드라마, 게임 제작도 수개월에서 수 년의 시간이 필요했다. 그러나 AI 기술의 등장으로 콘텐츠 제작의 장벽이 크게 낮아지고 있다. 이교구 대표가 이끄는 수퍼톤은 AI 음성 변환 서비스 '시프트(Shift)'를 통해 이러한 변화를 선도하고 있다. 시프트는 사용자가 캐릭터 음성을 선택해 자신의 목소리를 즉시 변환할 수 있는 서비스로, 버튜버(가상 유튜버), 라이브 스트리머, 팟캐스터 등 새로운 콘텐츠 창작자들에게 혁신적인 기회를 제공하고 있다. 이 대표는 "유튜버나 스트리머들도 이제는 아티스트 수준의 팬덤을 형성하고 있다"며, AI 기술이 이들 창작자의 표현 방식에 큰 변화를 가져올 것이라고 설명했다. AI 기술의 발전은 '대작(大作)' 중심의 콘텐츠 제작에서 '다작(多作)' 중심의 패러다임으로의 전환을 가져왔다. 이는 특히 K팝 산업에서 두드러지게 나타나고 있다. 하이브(HYBE)는 아이돌 그룹 제작 방식을 장기 육성형에서 단기 양산형으로 전환했으며, 2019년 이후 9개의 아이돌 그룹을 출시했다. 이는 AI 기술이 콘텐츠 생산의 한계비용을 제로에 가깝게 만들었기 때문에 가능한 변화다. 이교구 대표는 "기술을 통해 아이디어만 있으면 누구나 콘텐츠를 제작할 수 있는 시대가 열리고 있다"고 강조했다. 그러나 그는 현재의 오버프로덕션(overproduction) 현상을 지적하며, 궁극적으로는 소비자가 콘텐츠의 성패를 결정할 것이라고 전망했다. 이는 AI 기술로 인해 양적으로 폭발적으로 증가하는 콘텐츠 속에서 질적 선택이 중요한 역할을 하게 됨을 의미한다. AI 기술이 콘텐츠 산업에 가져오는 혁신은 많은 기회를 제공하지만, 동시에 새로운 과제들도 떠오르고 있다. AI가 성우, 작곡가, 작가 등 창작자들의 일자리를 대체할 수 있다는 우려가 대표적이다. 이에 대해 이교구 대표는 '음성권' 개념을 제시하며 성우와 수익을 공유하는 방안을 구상하고 있다. 그는 "AI 기술을 통해 목소리를 제공한 성우들에게 일정 수익을 배분함으로써 창작자의 권리를 보호할 것"이라고 밝혔다. 또한 AI 기반 콘텐츠 제작 도구는 저작권 문제도 수반한다. 수퍼톤은 AI 기술로 제작한 콘텐츠의 지식재산권(IP)은 창작자에게 귀속된다는 원칙을 세우고, 기술 남용에 대한 예방책으로 워터마크 기술을 연구하고 있다. 이를 통해 AI 기술이 가져올 수 있는 악용 가능성을 차단하며, 창작자들이 자유롭고 안전하게 기술을 활용할 수 있는 환경을 마련하고자 한다. ◆ 한국 AI 시대의 콘텐츠 산업, 글로벌 시장에서 경쟁력을 강화하다 이교구 대표는 AI 기술을 바탕으로 콘텐츠 제작의 한계비용이 제로에 가까워질 것이라고 전망했다. 이러한 변화는 콘텐츠 대량 생산 체제를 가능하게 하며, 물리적 제약 없이 크리에이터들이 자유롭게 창작할 수 있는 환경을 조성한다. 특히 AI가 크리에이터와 팬의 관계를 더 밀착시키고, 새로운 형태의 콘텐츠를 창출할 수 있는 기반을 제공한다고 강조했다. 수퍼톤은 이러한 비전을 실현하기 위해 오디오 콘텐츠 외주 제작, 시프트와 같은 AI 응용 프로그램 개발, 그리고 기업을 위한 응용프로그래밍인터페이스(API) 제공 등의 다양한 사업을 전개하고 있다. 이 대표는 "수퍼톤의 기술이 크리에이터들이 더욱 자유롭게 콘텐츠를 창작하는 데 기여할 것"이라며, 앞으로도 AI 기술의 가능성을 확장하는 데 집중할 것임을 밝혔다. 한편, 이교구 대표가 타임이 선정한 'AI 100인'에 오른 것은 한국의 AI 기술이 글로벌 시장에서도 인정받고 있음을 상징한다. 수퍼톤은 AI 기술을 통해 K팝뿐만 아니라 글로벌 콘텐츠 산업에서 혁신적인 변화를 이끌고 있다. 특히 AI 기술이 콘텐츠 제작 방식을 혁신함으로써, 한국이 AI 기술을 선도하는 국가로 자리잡는 데 중요한 역할을 할 것으로 기대된다. 이 대표는 "AI 기술이 크리에이터와 팬을 더욱 가깝게 만들고, 새로운 콘텐츠 시장을 창출할 것"이라며, "한국이 AI 기술을 통해 글로벌 콘텐츠 시장에서 선도적인 위치를 차지할 것"이라고 전망했다.2024-09-10 06:00:00
-
디지털 어두운 그림자의 위협, 급증하는 딥페이크 성범죄의 실태와 사회적 대응책 [이코노믹데일리] 최근 딥페이크 성범죄가 급증하면서 사회적 경각심이 높아지고 있다. 딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체를 다른 영상이나 이미지에 합성하는 것을 말한다. 이 기술은 주로 음란물 제작이나 허위 정보 유포에 악용되며, 심각한 사회적 문제로 떠오르고 있다. 특히 익명 메신저인 텔레그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 피해가 빠르게 확산되고 있다. 미국 사이버 보안 업체 홈시큐리티히어로즈의 '2023 딥페이크 현황' 보고서에 따르면, 온라인상의 딥페이크 동영상 중 98%가 음란물이었고, 이 중 99%가 여성을 대상으로 한 것으로 나타났다. 더욱 충격적인 것은 딥페이크 음란물의 주인공 중 53%가 한국 배우와 가수였다는 점이다. 이는 K-pop과 한류 콘텐츠의 인기가 높아지면서 한국 연예인들이 주요 타깃이 되고 있음을 시사한다. ◆ K-pop 스타들, 딥페이크 범죄의 주요 표적 월스트리트저널(WSJ)은 "딥페이크 음란물 최대 피해자 10명 중 8명이 K-pop 가수"라고 보도하며 한국이 딥페이크 음란물 제작의 주요 타깃 국가가 되고 있음을 지적했다. 이에 대응해 국내 연예기획사들도 적극적인 대응에 나서고 있다. JYP엔터테인먼트는 소속 그룹 트와이스를 대상으로 한 딥페이크 영상물에 대해 "전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중"이라고 밝혔다. 가수 권은비의 소속사 울림엔터테인먼트도 권은비를 대상으로 한 합성 음란 사진 유포자들을 형사 고소했다고 전했다. 각 기획사는 자체 모니터링을 강화하고 팬들의 제보를 독려하고 있다. 울림엔터테인먼트는 "앞으로 악성 게시물에 대한 증거자료 수집과 자체 모니터링을 적극적으로 해 아티스트 보호에 최선을 다할 예정"이라며 팬들의 협조를 요청했다. ◆ 딥페이크 범죄의 온상 '익명 메신저' 텔레그램...범죄 확산에 기여 딥페이크 범죄가 급증하는 배경에는 텔레그램이란 익명 메신저의 존재가 있다. 텔레그램은 보안이 강하고 가입과 메시지 삭제가 간편하다는 장점으로 이용자가 많지만, 이러한 특성이 범죄에 악용되고 있다. 특히 텔레그램 내 '봇' 프로그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 피해가 확산되고 있다. 최근 프랑스에서는 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 온라인 성범죄 등 각종 범죄를 공모한 혐의로 예비기소됐다. 프랑스 검찰은 두로프가 미성년자 성 착취물을 조직적으로 유포하거나 마약을 밀매하는 범죄 등을 공모한 혐의로 이러한 처분을 내렸다. 국내에서도 경찰이 딥페이크 음란물을 자동 생성하는 텔레그램 프로그램(봇) 8개를 조사 중이다. 이 프로그램은 텔레그램 '겹지인방' 등에서 가족·지인 등의 얼굴사진과 음란물 합성물을 만드는 데 이용됐다. 그러나 해외 메신저인 텔레그램은 국내 법적 통제가 어려워 수사 및 범죄 영상 삭제에 걸림돌로 작용하고 있다. ◆ 정부의 대응, 법적 제재 강화와 기술적 대책 마련 정부는 딥페이크 범죄에 대응하기 위해 강력한 법적 제재를 추진하고 있다. 국무조정실은 '딥페이크 성범죄 대응 범정부 대책 회의'를 열고 딥페이크 등 허위 영상물의 소지·구입·시청 행위를 처벌하는 규정을 신설하기로 했다. 또한 성폭력처벌법 개정을 통해 '허위 영상물 소지죄' 조항을 만들고, 딥페이크 음란물의 유포자에 대한 법정형을 강화하기로 했다. 현행법에서는 딥페이크 음란물을 수익 목적으로 유포한 경우에만 7년 이하 징역형이 적용되지만, 개정안에서는 이를 확대할 예정이다. 이와 함께 경찰관이 딥페이크 음란물 제작자를 잡아내기 위해 신분을 위장하고 수사하는 방안도 허용할 방침이다. 경찰은 올해 8월 시작된 딥페이크 성범죄에 대한 특별 집중 단속을 내년 3월까지 7개월 동안 실시할 예정이다. 과학기술정보통신부와 방송통신위원회는 온라인상에서 딥페이크 영상물이 쉽게 제작·유통·확산되는 것을 막고 불법 영상물이 신속히 삭제될 수 있도록 딥페이크 탐지 기술을 빠른 시일 내 추가 상용화하기로 했다. 이는 기술적 측면에서 딥페이크 범죄에 대응하기 위한 중요한 조치로 평가된다. 딥페이크 성범죄가 10대 청소년들 사이에서 빠르게 확산하고 있는 만큼, 교육부는 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다. 한 초등학교 성교육 담당 교사는 "피해를 걱정하는 학생들이 밤새 사회관계망서비스(SNS)에 올린 사진을 삭제하거나 내리고 있다"며 "교사들도 텔레그램 애플리케이션을 깔고 자신도 피해자인지 확인하고 있다"고 전했다. 시민사회에서도 딥페이크 범죄에 대한 강력한 수사와 처벌을 요구하는 목소리가 커지고 있다. 서울 도심에서는 시민들이 딥페이크 불법 합성물에 대한 신속한 수사를 촉구하는 집회를 열었다. 진보당 딥페이크 성범죄 대응 태스크포스(TF)의 홍희진 공동단장은 "피해 학교로 언급되는 곳만 500곳이 넘는다"며 "신속한 수사와 엄중한 처벌은 끝 모르고 번져가는 범죄를 끊어낼 최소한의 조치"라고 밝혔다. 딥페이크 범죄는 단순히 법적, 기술적 대응만으로는 해결하기 어려운 복합적인 문제다. 전문가들은 빠르게 진화하고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 강조한다. 미국의 사이버 보안 회사 '홈 시큐리티 히어로즈(Home Security Heroes)'의 설문 조사 결과, 미국 남성의 74%가 "딥페이크 음란물을 보는 것에 대해 죄책감을 느끼지 않는다"고 답했다는 점은 디지털 윤리 교육의 필요성을 잘 보여준다. "그 사람을 모르기 때문", "내 개인적인 호기심을 채우기 위한 것인 이상 누구도 상처 준다고 생각하지 않기 때문" 등의 응답은 디지털 시대의 윤리 의식 부재를 드러내고 있다. ◆ 딥페이크 규제의 필요성과 앞으로의 과제 정부와 국회는 AI 기반 합성물에 'AI가 만든 영상입니다'와 같은 워터마크나 제작자를 파악할 수 있는 메타데이터를 의무 삽입하는 방안을 검토 중이다. 그러나 이러한 규제에는 여러 가지 현실적 문제가 존재한다. 딥페이크 콘텐츠 제작에 참여한 한 개발자는 "워터마크는 말 그대로 표식일 뿐이며, 이를 악용하려는 사람들은 신경 쓰지 않을 것"이라며 실효성에 의문을 제기했다. 또한 워터마크 기술의 개발이 쉽지 않아 스타트업이나 중소기업이 피해를 입을 수 있다는 우려도 제기됐다. 딥페이크 음란물 유통 책임을 플랫폼 기업에 지우는 규제도 논란이 되고 있다. 특히 텔레그램과 같은 해외 기반 메신저 서비스에 대한 규제는 실효성이 낮을 수 있다는 지적이 있다. 어떠한 규제도 개인이 딥페이크 프로그램을 악용하는 것을 완벽히 막기 어렵다는 한계가 있기 때문이다. 전문가들은 빠르게 진화하고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 강조한다. 딥페이크 범죄는 이처럼 법적 제재와 기술적 차단만으로는 완전히 막기 어려운 복합적 문제로 자리 잡고 있다. 이러한 문제를 해결하기 위해서는 정부, 기업, 시민사회 모두가 함께 문제를 인식하고 적극적으로 대처해야 한다. 이를 위해 국제적 공조와 협력이 필수적이다. AI 기술의 발전과 함께 새로운 윤리적 기준과 법적 체계를 마련하고, 지속적으로 이에 대한 교육과 인식을 강화하는 것이 앞으로의 중요한 과제로 남아 있다.2024-09-03 05:00:00
-
네이버, AI 워터마크 기술 표준 'C2PA' 국내 최초 가입 [이코노믹데일리] 네이버가 인공지능(AI) 워터마크 기술 표준을 구축한 '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)'에 국내 최초로 가입하며 글로벌 AI 안전 리더십을 강화했다. 15일 정보통신기술(ICT) 업계에 따르면 네이버는 지난 13일 'C2PA'(Coalition for Content Provenance and Authenticity)에 가입했다. 이는 안전한 AI 생태계 구축을 위한 중요한 발걸음이다. C2PA는 2021년 설립된 글로벌 연합체로, 구글, 마이크로소프트(MS), 인텔 등 90여 개 기업이 회원으로 참여하고 있다. C2PA는 AI 생성 이미지와 디지털 콘텐츠 출처 인증에 활용되는 워터마크 기술 등 콘텐츠 출처 기술 표준을 개발하여 글로벌 확산을 이끌고 있다. 오픈 AI는 이미지 생성 AI 도구인 '달리3'(DALL-E 3)에 C2PA 워터마크 기술을 도입하여 신뢰성을 강화했다. 네이버는 AI 생성 콘텐츠의 악용 방지를 위해 C2PA 회원사인 글로벌 기업들과 워터마크 삽입 기술 최적화 등 기술 표준 연구를 공동으로 진행할 계획이다. 또한, C2PA 기술 규약을 네이버 서비스에 적용하기 위한 논의도 이어갈 방침이다. 네이버는 그동안 AI 안전 논의에 힘을 기울여 왔다. 지난해 11월, 영국 정부 주최의 첫 번째 'AI 정상회의'에 참석하여 AI 안전성 연구와 '레드팀' 운영 관련 협력을 논의했다. 올해 5월 열린 'AI 서울 정상회의'에서는 다양한 사회 문화적 맥락을 이해하는 AI 모델들의 공존을 강조했다. 최근 네이버는 구글, 인텔, 메타 등 글로벌 빅테크가 참여하는 개방형 컨소시엄 'ML커먼스(Commons)'에서 AI 안전 벤치마크 구축 작업에 기여했다. 또한, AI가 생성한 코드 데이터에 워터마크를 삽입하면서도 코드의 품질은 보존하는 선택적 워터마킹 기술 'SWEET'을 제안해 글로벌 자연어처리 학회 'ACL 2024'에 채택되었다. 이외에도 네이버는 한국의 문화적 맥락을 반영한 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안한 연구와 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 등을 세계적 권위의 AI 학회에서 발표했다. 네이버 관계자는 "국내 최초로 AI 안전성 실천 체계인 '네이버 ASF(AI Safety Framework)'를 발표한 데 이어 C2PA에 가입하며 안전한 AI를 위한 글로벌 리더로 자리매김했다"고 말했다.2024-07-15 08:11:51
-
2024 위버스콘 페스티벌, 하루 앞으로 다가와...세대∙장르∙지역 초월 '광폭 라인업' 눈길 [이코노믹데일리] '2024 위버스콘 페스티벌'이 하루 앞으로 다가오면서 세대와 장르, 지역을 초월한 다양한 아티스트 라인업이 주목받고 있다. 6월 15일부터 16일까지 인천 인스파이어 엔터테인먼트 리조트에서 열리는 이번 행사는 글로벌 팬 플랫폼 위버스(Weverse)의 입점 아티스트들을 중심으로 진행된다. 하이브는 이번 공연에서 버추얼 아티스트 ‘플레이브(PLAVE)’와 함께 트리뷰트 아티스트인 박진영과 후배 아티스트 간의 컬래버레이션 무대도 준비했다. 김은혜 LP(Lead Professional)는 “올해 위콘페의 기획 테마는 'NEW WAVE NEW CITY'로, 이를 가장 잘 보여주는 무대가 플레이브”라며 버추얼 아티스트의 특성을 반영한 무대 디자인을 강조했다. 위버스콘 페스티벌은 다양한 장르의 24팀의 아티스트가 이틀간 야외 공연인 ‘위버스파크’와 실내 공연인 ‘위버스콘’에서 무대를 선보인다. 일본의 인기 밴드 요아소비(YOASOBI)와 싱어송라이터 imase(이마세)도 각각 15일과 16일 무대에 올라 팬들을 만날 예정이다. 요아소비는 최근 위버스에 입점해 이번 페스티벌에서 국내 팬들과 처음으로 만난다. ‘나이트 댄서’로 유명한 이마세는 위버스파크에서 라이브 밴드와 함께 청량한 음색을 선보일 계획이다. ◆ ‘리빙 레전드’ 박진영, 후배 아티스트와 컬래버레이션 무대 데뷔 30주년을 맞은 박진영의 트리뷰트 스테이지는 이번 공연의 하이라이트로 예상된다. 박진영은 14인조 라이브 밴드를 배경으로 후배 아티스트들과 화려한 컬래버레이션 무대를 펼칠 예정이다. 김은혜 LP는 “박진영 씨가 직접 후배 아티스트를 추천해 무대를 준비하고 있다”며 그의 색다른 무대를 기대해 달라고 전했다. 박진영은 지난 30일 하이브와의 서면 인터뷰에서 자신만의 ‘소울 라이브’를 예고하며 팬들의 기대를 모았다. 또한, 그는 개인 SNS를 통해 가수 백호와 찍은 사진을 공개하며 “일어났어야 할 일이 일어납니다”라는 글로 트리뷰트 무대에 대한 힌트를 남겼다. 백호는 지난해 박진영의 곡 ‘엘리베이터’를 리메이크해 발표한 바 있어 두 사람의 협업이 더욱 주목받고 있다. 위버스콘은 팬 경험을 확대하기 위해 '위버스 렌즈'라는 증강현실(AR) 기술을 활용한다. 위버스 앱에 탑재된 이 기능을 통해 팬들은 현실 공간에 가상의 이미지와 영상을 더해 생동감을 높일 수 있다. 페스티벌 현장에서 AR 포토월 앞에서 사진을 찍고 디지털 워터마크 포토카드를 이미지 파일로 저장할 수 있는 경험도 제공된다. 디지털 워터마크 포토카드는 프랙티컬메쏘드가 공급하는 디지마크사의 원천 기술을 사용해 육안으로 보이지 않는 워터마크를 인쇄한다. ◆ 온·오프라인으로 더욱 풍성해진 팬 경험 하이브는 위콘페 관객 전원에게 손목 착용형 응원밴드를 증정하고, 카카오T 셔틀버스를 운영하여 관객의 편의를 높였다. 또한, 관객들이 소지한 하이브 레이블즈 아티스트의 응원봉과 함께 연출되어 관객들이 손을 흔들기만 해도 공연장의 일부가 되는 경험을 제공한다. 이번 페스티벌에서는 '위버스 줄서기' 기능을 통해 부스 앞 줄서기를 간편하게 신청할 수 있으며, 온라인 라이브 스트리밍을 위버스파크까지 확대해 더 많은 팬들이 참여할 수 있도록 했다. 하이브 관계자는 “올 위버스콘 페스티벌은 풍성한 라인업과 화려한 무대 연출 등 페스티벌의 내적인 완성도를 높였을 뿐 아니라 관객의 편의를 위해 공연 및 숙박 연계 패키지 상품과 카카오T 셔틀버스를 운영하고, 작년 위버스콘에서만 진행했던 온라인 라이브 스트리밍을 위버스파크까지 확대하는 등 외적인 측면에서도 심혈을 기울였다”고 말했다.2024-06-14 11:18:41
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] AI 시대, 개발자의 미래와 생존 전략](https://image.ajunews.com/content/image/2024/10/02/20241002130756978212_518_323.jpg)