검색결과 총 6건
-
최태원 "사회 문제 해결 위해 '일석다조' 必"
[이코노믹데일리] 최태원 대한상공회의소(대한상의) 회장이 12일 "사회적 가치는 '같이' 할수록 영향력이 커진다"며 "다양한 영역의 주체들이 힘을 모으면 이른바 컬렉티브 임팩트(다양한 섹터들의 협력)를 창출할 수 있다"고 강조했다. 최 회장은 이날 오전 서울 강남구 코엑스에서 열린 '제1회 대한민국 사회적 가치 페스타' 개회사를 통해 "우리는 돌 하나로 두 마리가 아닌 10마리의 새를 잡아야 하는 현실에 처했다"며 "많은 사회 문제를 동시에 풀어갈 수 있는 파괴적 혁신이 필요하다"고 전했다. 사회문제 해결을 위해 소통과 협업의 장을 만들어보자는 최 회장 제안으로 마련된 이 행사에는 사회적 가치를 추구하는 기업을 비롯해 정부, 학계, 시민사회 단체 등 각계 기관·단체 200여곳이 참가했다. 이 자리에서 최 회장은 '시너지' 효과를 강조하며 1석2조가 아닌 '1석多조'의 아이디어가 필요하다고 언급했다. 그는 "사회적 가치는 같이 할수록 임팩트가 커진다"며 "정부, 학계, 시민사회 단체 등 다양한 영역의 주체들이 힘을 합치면 '콜렉티브 임팩트'를 창출할 것"이라고 말했다. 얀 페터르 발케넨더 전 네덜란드 총리도 축사를 통해 "이번 행사가 사회적 가치 확산의 이니셔티브로 작용해 혁신, 행동, 적절한 성과측정을 통해 함께 더 나은 미래를 만들어 가기를 기원한다"며 "사회적 가치 실천을 위한 한국의 도전은 다른 국가들에도 영감을 줄 것"이라고 전했다. 발케넨더 전 총리는 기후행동, 책임소비와 생산, 불평등 해소를 위해 2012년 설립된 네덜란드 다국적 기업 최고경영자(CEO) 협의체인 '네덜란드 지속가능한 성장연합'(DSGC)의 의장이다. 한편 이날 행사장에는 SK텔레콤, LG전자, 포스코, 현대해상 등 대기업과 소셜벤처, 정부 부처를 포함해 다양한 주체들이 참여한 130여개 전시 부스도 꾸려졌다. 이와 함께 20여개 기관과 전문가들이 참여하는 사회문제 해결 관련 포럼·세미나 등도 개최됐다.
2024-09-12 15:59:36
-
디지털 어두운 그림자의 위협, 급증하는 딥페이크 성범죄의 실태와 사회적 대응책
[이코노믹데일리] 최근 딥페이크 성범죄가 급증하면서 사회적 경각심이 높아지고 있다. 딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체를 다른 영상이나 이미지에 합성하는 것을 말한다. 이 기술은 주로 음란물 제작이나 허위 정보 유포에 악용되며, 심각한 사회적 문제로 떠오르고 있다. 특히 익명 메신저인 텔레그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 피해가 빠르게 확산되고 있다. 미국 사이버 보안 업체 홈시큐리티히어로즈의 '2023 딥페이크 현황' 보고서에 따르면, 온라인상의 딥페이크 동영상 중 98%가 음란물이었고, 이 중 99%가 여성을 대상으로 한 것으로 나타났다. 더욱 충격적인 것은 딥페이크 음란물의 주인공 중 53%가 한국 배우와 가수였다는 점이다. 이는 K-pop과 한류 콘텐츠의 인기가 높아지면서 한국 연예인들이 주요 타깃이 되고 있음을 시사한다. ◆ K-pop 스타들, 딥페이크 범죄의 주요 표적 월스트리트저널(WSJ)은 "딥페이크 음란물 최대 피해자 10명 중 8명이 K-pop 가수"라고 보도하며 한국이 딥페이크 음란물 제작의 주요 타깃 국가가 되고 있음을 지적했다. 이에 대응해 국내 연예기획사들도 적극적인 대응에 나서고 있다. JYP엔터테인먼트는 소속 그룹 트와이스를 대상으로 한 딥페이크 영상물에 대해 "전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중"이라고 밝혔다. 가수 권은비의 소속사 울림엔터테인먼트도 권은비를 대상으로 한 합성 음란 사진 유포자들을 형사 고소했다고 전했다. 각 기획사는 자체 모니터링을 강화하고 팬들의 제보를 독려하고 있다. 울림엔터테인먼트는 "앞으로 악성 게시물에 대한 증거자료 수집과 자체 모니터링을 적극적으로 해 아티스트 보호에 최선을 다할 예정"이라며 팬들의 협조를 요청했다. ◆ 딥페이크 범죄의 온상 '익명 메신저' 텔레그램...범죄 확산에 기여 딥페이크 범죄가 급증하는 배경에는 텔레그램이란 익명 메신저의 존재가 있다. 텔레그램은 보안이 강하고 가입과 메시지 삭제가 간편하다는 장점으로 이용자가 많지만, 이러한 특성이 범죄에 악용되고 있다. 특히 텔레그램 내 '봇' 프로그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 피해가 확산되고 있다. 최근 프랑스에서는 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 온라인 성범죄 등 각종 범죄를 공모한 혐의로 예비기소됐다. 프랑스 검찰은 두로프가 미성년자 성 착취물을 조직적으로 유포하거나 마약을 밀매하는 범죄 등을 공모한 혐의로 이러한 처분을 내렸다. 국내에서도 경찰이 딥페이크 음란물을 자동 생성하는 텔레그램 프로그램(봇) 8개를 조사 중이다. 이 프로그램은 텔레그램 '겹지인방' 등에서 가족·지인 등의 얼굴사진과 음란물 합성물을 만드는 데 이용됐다. 그러나 해외 메신저인 텔레그램은 국내 법적 통제가 어려워 수사 및 범죄 영상 삭제에 걸림돌로 작용하고 있다. ◆ 정부의 대응, 법적 제재 강화와 기술적 대책 마련 정부는 딥페이크 범죄에 대응하기 위해 강력한 법적 제재를 추진하고 있다. 국무조정실은 '딥페이크 성범죄 대응 범정부 대책 회의'를 열고 딥페이크 등 허위 영상물의 소지·구입·시청 행위를 처벌하는 규정을 신설하기로 했다. 또한 성폭력처벌법 개정을 통해 '허위 영상물 소지죄' 조항을 만들고, 딥페이크 음란물의 유포자에 대한 법정형을 강화하기로 했다. 현행법에서는 딥페이크 음란물을 수익 목적으로 유포한 경우에만 7년 이하 징역형이 적용되지만, 개정안에서는 이를 확대할 예정이다. 이와 함께 경찰관이 딥페이크 음란물 제작자를 잡아내기 위해 신분을 위장하고 수사하는 방안도 허용할 방침이다. 경찰은 올해 8월 시작된 딥페이크 성범죄에 대한 특별 집중 단속을 내년 3월까지 7개월 동안 실시할 예정이다. 과학기술정보통신부와 방송통신위원회는 온라인상에서 딥페이크 영상물이 쉽게 제작·유통·확산되는 것을 막고 불법 영상물이 신속히 삭제될 수 있도록 딥페이크 탐지 기술을 빠른 시일 내 추가 상용화하기로 했다. 이는 기술적 측면에서 딥페이크 범죄에 대응하기 위한 중요한 조치로 평가된다. 딥페이크 성범죄가 10대 청소년들 사이에서 빠르게 확산하고 있는 만큼, 교육부는 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다. 한 초등학교 성교육 담당 교사는 "피해를 걱정하는 학생들이 밤새 사회관계망서비스(SNS)에 올린 사진을 삭제하거나 내리고 있다"며 "교사들도 텔레그램 애플리케이션을 깔고 자신도 피해자인지 확인하고 있다"고 전했다. 시민사회에서도 딥페이크 범죄에 대한 강력한 수사와 처벌을 요구하는 목소리가 커지고 있다. 서울 도심에서는 시민들이 딥페이크 불법 합성물에 대한 신속한 수사를 촉구하는 집회를 열었다. 진보당 딥페이크 성범죄 대응 태스크포스(TF)의 홍희진 공동단장은 "피해 학교로 언급되는 곳만 500곳이 넘는다"며 "신속한 수사와 엄중한 처벌은 끝 모르고 번져가는 범죄를 끊어낼 최소한의 조치"라고 밝혔다. 딥페이크 범죄는 단순히 법적, 기술적 대응만으로는 해결하기 어려운 복합적인 문제다. 전문가들은 빠르게 진화하고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 강조한다. 미국의 사이버 보안 회사 '홈 시큐리티 히어로즈(Home Security Heroes)'의 설문 조사 결과, 미국 남성의 74%가 "딥페이크 음란물을 보는 것에 대해 죄책감을 느끼지 않는다"고 답했다는 점은 디지털 윤리 교육의 필요성을 잘 보여준다. "그 사람을 모르기 때문", "내 개인적인 호기심을 채우기 위한 것인 이상 누구도 상처 준다고 생각하지 않기 때문" 등의 응답은 디지털 시대의 윤리 의식 부재를 드러내고 있다. ◆ 딥페이크 규제의 필요성과 앞으로의 과제 정부와 국회는 AI 기반 합성물에 'AI가 만든 영상입니다'와 같은 워터마크나 제작자를 파악할 수 있는 메타데이터를 의무 삽입하는 방안을 검토 중이다. 그러나 이러한 규제에는 여러 가지 현실적 문제가 존재한다. 딥페이크 콘텐츠 제작에 참여한 한 개발자는 "워터마크는 말 그대로 표식일 뿐이며, 이를 악용하려는 사람들은 신경 쓰지 않을 것"이라며 실효성에 의문을 제기했다. 또한 워터마크 기술의 개발이 쉽지 않아 스타트업이나 중소기업이 피해를 입을 수 있다는 우려도 제기됐다. 딥페이크 음란물 유통 책임을 플랫폼 기업에 지우는 규제도 논란이 되고 있다. 특히 텔레그램과 같은 해외 기반 메신저 서비스에 대한 규제는 실효성이 낮을 수 있다는 지적이 있다. 어떠한 규제도 개인이 딥페이크 프로그램을 악용하는 것을 완벽히 막기 어렵다는 한계가 있기 때문이다. 전문가들은 빠르게 진화하고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 강조한다. 딥페이크 범죄는 이처럼 법적 제재와 기술적 차단만으로는 완전히 막기 어려운 복합적 문제로 자리 잡고 있다. 이러한 문제를 해결하기 위해서는 정부, 기업, 시민사회 모두가 함께 문제를 인식하고 적극적으로 대처해야 한다. 이를 위해 국제적 공조와 협력이 필수적이다. AI 기술의 발전과 함께 새로운 윤리적 기준과 법적 체계를 마련하고, 지속적으로 이에 대한 교육과 인식을 강화하는 것이 앞으로의 중요한 과제로 남아 있다.
2024-09-03 05:00:00
-
손병희 소장 "AI 대전환 속 사회적 문제·데이터 보안 극복 必"
[이코노믹데일리] 인공지능(AI) 대전환 속 다양한 윤리적, 사회적 문제 극복을 위해 정부와 기업이 공동으로 윤리적 가이드라인을 수립하고 데이터 보안을 위한 기술을 적극 도입해야 한다는 지적이 나왔다. 손병희 마음AI 연구소장은 11일 서울 여의도 CCMM빌딩에서 이코노믹데일리 창간 6주년을 기념해 열린 ‘2024코리아이코노믹디자인포럼(KEDF)’에서 이 같이 말했다. 손 소장에 따르면 대한민국은 인구감소와 생선성 위기를 맞고 있다. 생산 인구 감소로 인해 앞으로 10년 뒤 자본과 노동 투입의 경제 성장 기여도가 마이너스로 전환되고 자본 투입의 성장 기여도가 지금보다 3분의1로 전락할 것으로 예측했다. 생산 인구 감소에 따른 공백을 채우기 위해선 저출생·고령화 등 근본적인 문제를 해결해야 하지만 몇십 년간 문제를 해소할 답을 찾지 못했다. 손 소장은 AI가 이미 수많은 직업을 대체해왔으며 전 세계 일자리 27%가 AI에 의해 감소할 것이라고 내다봤다. 손 소장은 “마음AI는 챗봇, 음성봇 등 AI 기술이 중심이 된 콜센터를 운영하며 직원을 대체하고 있다”며 “실시간 STT(Speech-to-Text), TTS(Text-to-Speech), 대화 시나리오와 의도 분류 등의 기술을 통해 단순 상담 업무를 넘어 예약이나 수신동의 등 구체적인 업무 처리가 가능하다”고 설명했다. 이어 “국제 회의나 다국적 비즈니스 미팅 시 필요한 동시통역사도 대체하고 있고 AI 동시통역의 가장 큰 난제로 꼽혔던 지연 문제를 극복했다”며 “초거대언어모델인 LLM 기반으로 잘못된 음성인식과 동어반복 등을 자연스럽게 보완해 마치 사람이 하듯 정확한 통역을 진행한다”고 말했다. 일각에서는 많은 업무를 AI가 대체함에 따라 사람이 일자리를 잃을 수 있다고 우려한다. 마이크로소프트는 전 세계 30여 개국 3만명을 대상으로 한 설문조사에서 절반 가까운 응답자가 ‘AI가 자신의 일자리를 대체할까봐 두렵다’고 답했다고 했다. 그러나 손 소장은 “AI가 직업을 없애기만 하는 게 아니라 데이터 분석가, AI 모델 트레이너, 로봇 윤리학자 등 새로운 직업을 창출할 것”이라며 “결국 일자리 구조 자체를 바꿔내며 개개인의 생산성을 확대하는 경향도 커지고 있다”고 전했다. 사람이 AI에게 잔업무를 시키면 보다 중요한 업무에 집중할 수 있다는 의미다. 또 고객의 거친 항의, 성희롱에 노출되는 업무나 사람이 하기 꺼려하는 업무 등을 AI로 대체하면 감정 노동의 강도를 낮춰 더 나은 업무 환경을 제공한다. 손 소장은 AI의 전환은 피할 수 없는 흐름이라며 AI를 적재적소에 활용한다면 대한민국이 마주한 인구 문제를 해결하고 일의 품격을 높일 것이라고 봤다. 그러나 AI와 함께 일하는 데 따른 다양한 문제도 뒤따르는 만큼 이러한 문제를 해결하는 모습도 중요하다고 제언했다. 그는 “AI 결정이 공정한지에 대한 감시와 평가를 하기 위해 독립적인 감사 기관을 설립할 필요가 있다”며 “AI가 왜 그런 결정을 내렸는지에 대한 설명이 가능한 AI 기술을 개발하고 정부, 기업, 시민사회와 같은 다양한 이해관계자들이 참여하는 것이 필요하다”고 밝혔다. 이어 “AI와 함께 일하는 과정에서 다양한 윤리적, 사회적 문제가 발생할 수 있다”며 “정부와 기업은 공동으로 윤리적 가이드라인을 수립하고 사회적 합의를 도출해 이를 정책에 반영해야 한다”고 지적했다. 그러면서 손 소장은 “AI가 다루는 데이터 보안을 위한 기술을 적극 도입할 필요가 있다”며 “AI 전환이 단순 기술 발전으로 인한 일자리 변화에 그치지 않고 인간과 AI가 공존하며 함께 더 나은 세상을 만들어가는 새로운 장이 되기를 희망한다”고 말했다.
2024-06-11 16:52:55
-
-
-
AI 안전성 확립·지속가능 발전 논의...에너지·환경 등 부작용 대응 방안 모색
[이코노믹데일리] 한국과학기술연구원(KIST)에서 22일 오후 열린 'AI 서울 정상회의' 장관 세션에 21개국 장관급 인사와 국내외 주요 기업 19곳 고위 관계자 등이 대거 참석했다. 이종호 과기정통부 장관과 미셸 도넬란 영국 과학혁신기술부 장관이 공동의장을 맡아 'AI 안전성 확립 역량 강화'와 '지속 가능한 AI 발전 촉진'을 주제로 논의를 이끌었다. 이 장관은 개회사에서 "지난해 영국에서 만난 이후 6개월 만에 생성형 AI는 우리 예상을 뛰어넘는 속도로 발전했고, 일상과 경제, 사회 전반에 새로운 혁신을 일으키고 있다"고 말했다. 이어 "동시에 AI 위험과 부작용에 대한 우려도 커지며 국제사회는 관련 규범 정립을 위한 노력을 본격화하고 있다"며 "전날 정상급 합의문 '서울 선언'에서 제시된 비전을 토대로 이번 세션에서 AI 안전과 지속가능 발전을 논의하겠다"고 덧붙였다. 도넬란 장관은 "AI 발달 속도가 매우 빨라 우리도 더 빨리 행동해 안전성을 담보해야 한다"고 강조했다. 그러면서 "사회 전반이 AI 리스크에 대한 회복탄력성을 갖춰야 한다"며 "과학계 리더들이 구체적 활동계획을 내놓기를 기대한다"고 말했다. 1세션에서는 주요국 AI 안전 연구소 설립 현황을 공유하고 글로벌 공조 방안을 논의했다. 또한 '국제 AI 과학보고서'를 바탕으로 현재와 가까운 미래의 AI 위험요인을 진단하고 안전성 강화 방안을 모색했다. 2세션에서는 AI로 인한 에너지·환경·일자리 등 부작용에 대한 회복탄력성 확보 방안이 논의됐다. 특히 AI 운영 시 막대한 전력 소모에 대응할 필요성이 높아지면서 저전력 반도체 등 한국의 AI 반도체 비전을 중심으로 새 글로벌 의제가 제기됐다. 이날 장관 세션에는 공동의장 외에도 세스 센터 미국 국무부 핵심·신흥기술 부특사, 슈테판 슈노르 독일 연방디지털교통부 장관, 니시다 시오지 일본 총무성 차관 등 20개국 고위인사가 참여했다. 유엔에서는 아만딥 싱 길 사무총장 기술특사가 자리했다. 해외 기업에서는 에이든 고메즈 코히어 대표이사, 앤드루 잭슨 코어42 최고책임자, 크리스티나 몽고메리 IBM 최고신뢰임원, 잭 클라크 앤트로픽 공동설립자, 나타샤 크램튼 마이크로소프트 최고AI책임자, 롭 셔먼 메타 부사장 겸 최고개인정보보호책임자 등이 참석했다. 국내에서는 전경훈 삼성전자 사장, 유영상 SK텔레콤 대표, 배경훈 LG AI연구원장 등 주요 기업 관계자들이 자리를 함께했다. 학계와 시민사회에서도 카네기 국제평화기금 아서 넬슨 부이사관, 휴먼인텔리전스 대표 루먼 차우더리, 카이스트 오혜연 교수, 서울대 이경무 교수 등이 참가했다.
2024-05-22 16:08:56