2026.01.06 화요일
검색
'디지털성범죄' 검색결과
기간검색
-
~
검색영역
검색어
-
머스크 AI '그록', 아동 비키니 이미지 생성 논란... 긴급 수정 착수 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 아동 성적 대상화 이미지를 생성해 파문이 일고 있다. 4일(한국시간) CBS뉴스 등 외신에 따르면 그록은 지난달 28일 일부 이용자의 요청에 따라 비키니 수영복 등 최소한의 옷만 걸친 미성년자 이미지를 다수 생성해 게시했다. 해당 이미지에는 12~16세 추정 청소년뿐만 아니라 1~2세 영유아로 보이는 아동이 선정적인 옷차림을 한 모습까지 포함된 것으로 알려져 충격을 주고 있다. 그록은 당초 아동을 성적으로 대상화하는 이미지 생성을 차단하는 안전장치를 갖추고 있었다. 그러나 일부 이용자들이 프롬프트(명령어)를 조작해 이를 우회하자 무방비로 뚫린 것으로 파악된다. 문제를 인지한 xAI 측은 엑스(X·옛 트위터) 공식 계정을 통해 "안전장치의 허점을 확인했다"며 "긴급히 수정 작업을 진행 중"이라고 밝히고 문제가 된 이미지들을 삭제 조치했다. 이번 사태를 두고 업계에서는 예견된 사고라는 비판이 나온다. 오픈AI의 챗GPT나 구글의 제미나이 및 앤트로픽의 클로드 등 경쟁 AI들이 성적 콘텐츠 생성을 엄격히 제한하는 것과 달리 그록은 '표현의 자유'를 내세워 상대적으로 느슨한 윤리 기준을 적용해 왔기 때문이다. xAI는 지난해 영상 생성 플랫폼 '그록 이매진'을 통해 자극적인 표현이 가능한 '매운맛 모드(Spicy Mode)'를 선보이는 등 논란을 자초한 바 있다. 미국 연방법은 아동 성적 대상화 이미지의 생성과 소지 및 유통을 엄격히 금지하고 있다. 전문가들은 이번 사건이 단순한 기술적 오류를 넘어 AI 기업의 윤리적 책임론과 법적 제재 논의를 가속화할 것으로 전망했다.2026-01-04 14:06:42
-
김종철 방미통위원장, 첫 행보는 '민생'... KISA·365센터 방문 [이코노믹데일리] 김종철 신임 방송미디어통신위원장이 취임 후 첫 현장 방문지로 이용자 보호 관련 기관을 선택하며 '민생 챙기기'에 나섰다. 최근 대규모 해킹 사태와 불법 스팸 급증으로 인한 국민적 불안감을 해소하겠다는 의지로 풀이된다. 29일 방송미디어통신위원회에 따르면 김 위원장은 이날 서울에 위치한 '온라인피해365센터'와 한국인터넷진흥원(KISA) 서울분원을 잇달아 방문해 운영 현황을 점검했다. 지난 19일 취임한 이후 첫 외부 공식 일정이다. 통상 신임 위원장이 방송사나 통신사 등 사업자 현장을 먼저 찾는 관행을 깨고 피해 구제 기관을 가장 먼저 찾은 것은 김 위원장의 정책 최우선 순위가 '이용자 보호'에 있음을 보여준다. 김 위원장은 먼저 온라인피해365센터를 찾아 사이버 금융 범죄와 불법 스팸 및 각종 권리 침해 관련 상담 현황을 살폈다. 2022년 개소한 센터는 지난 4년간 1만여 건 이상의 상담을 지원해왔다. 김 위원장은 상담원들과 만나 현장의 애로사항을 청취하고 "이용자와 가장 가까운 접점에 있는 만큼 사명감을 갖고 업무에 임해달라"고 당부했다. 이어 한국인터넷진흥원(KISA)에서는 최근 급증하는 개인정보 유출 사고와 불법 스팸 대응 체계를 집중 점검했다. 김 위원장은 이동통신 3사와 삼성전자가 제공 중인 'AI 기반 불법 스팸 필터링 서비스' 등을 직접 확인하고 사업자와 KISA 간의 긴밀한 공조 체계를 주문했다. 그는 "정보보호 전문기관으로서 국민들이 불법 스팸 공해에서 벗어나 안심할 수 있도록 기술적 지원에 힘써달라"고 강조했다. 김 위원장은 현장 점검을 마치며 "급변하는 디지털 미디어 환경에서 발생하는 복잡한 사건들에 통합적으로 대응함으로써 국민을 보호해야 한다"며 "특히 최근 잇따른 개인정보 유출 사고에 대해 신속하게 대처하는 것이 무엇보다 중요하다"고 밝혔다. 방미통위는 앞으로 관계 기관 협력을 확대하고 법적 기반을 마련해 신규 유형의 피해 사례 예방과 구제 지원을 강화할 방침이다.2025-12-29 20:20:19
-
하루 75건씩 퍼지는 '가짜 성착취물'…내 딸, 내 친구가 타깃 [이코노믹데일리] 인공지능(AI) 기술이 만든 ‘가짜 성착취물’ 즉 딥페이크 성범죄 영상물이 대한민국을 집어삼키고 있다. 생성형 AI 기술의 발전 속도를 법과 제도가 따라가지 못하는 사이 피해 건수는 기하급수적으로 폭증하고 있으며 특히 10대와 20대 젊은 층이 무방비로 범죄에 노출되고 있다. 8일 국회 과학기술정보방송통신위원회 소속 국민의힘 박충권 의원이 방송통신심의위원회로부터 제출받은 자료는 딥페이크 성범죄의 끔찍한 확산 실태를 그대로 보여준다. 올해 1월부터 7월까지 단 7개월간 방심위가 삭제·접속차단을 요구한 딥페이크 성범죄 영상물은 무려 1만5808건에 달했다. 이는 하루 평균 75건, 한 시간에 3건 이상의 성범죄 영상물이 온라인에 유포되고 있다는 의미다. 이러한 추세라면 올해 전체 시정요구 건수는 2만7000건을 넘어 사상 최다를 기록할 것이 확실시된다. 2020년 관련 법 시행 첫해 473건에 불과했던 시정요구 건수는 2023년 7187건, 2024년 2만3107건으로 매년 폭발적으로 증가해왔다. 불과 5년 만에 50배 이상 급증한 것이다. 더욱 심각한 문제는 피해가 특정 연령층에 집중되고 있다는 점이다. 여성가족부가 박 의원실에 제출한 자료에 따르면 올해 7월까지 디지털성범죄 피해자 지원센터에 접수된 합성·편집 피해자 540명 중 10대 이하가 256명(47.4%), 20대가 240명(44.4%)으로, 20대 이하 피해자가 전체의 84%를 차지했다. 이는 딥페이크 성범죄가 단순한 온라인상의 문제가 아니라 우리 아이들의 교실과 캠퍼스를 직접적으로 위협하는 현실적인 공포가 되었음을 의미한다. 범죄의 온상은 주로 해외에 서버를 둔 불법 음란사이트와 P2P 사이트 그리고 추적이 어려운 텔레그램이다. 텔레그램에 대한 접속차단 요구는 2023년 38건에서 지난해 618건으로 급증했으며 올해는 7월까지만 해도 403건에 달했다. ◆ ‘솜방망이 처벌’과 ‘기술 발전’ 사이...제2의 N번방 막을 수 있나 이처럼 피해가 눈덩이처럼 불어나고 있지만 정부의 대책은 사실상 무력하다는 비판이 나온다. 박충권 의원은 “지난해 서울대 N번방 사건 등 딥페이크 음란물 유포가 사회적 공분을 샀음에도 정부 대책은 사실상 유명무실했다”고 지적했다. 현행법상 딥페이크 성범죄 영상물을 제작·반포할 경우 처벌을 받게 되지만 해외에 서버를 둔 플랫폼에 대한 실질적인 제재가 어렵고 가해자를 특정하기도 쉽지 않다. 방심위의 시정요구는 이미 유포된 영상물을 사후에 차단하는 것에 불과해 피해자의 고통을 근본적으로 막기에는 역부족이다. 전문가들은 지금과 같은 ‘솜방망이 처벌’과 ‘사후약방문식’ 대응으로는 고도화되는 AI 기술을 악용한 범죄를 절대 뿌리 뽑을 수 없다고 경고한다. 생성형 AI 기술의 접근성이 갈수록 낮아지면서 이제 누구나 손쉽게 딥페이크 영상물을 제작할 수 있는 시대가 됐기 때문이다. 결국 이 끔찍한 범죄의 고리를 끊기 위해서는 △AI 기술을 악용한 성범죄에 대한 양형 기준 대폭 강화 △플랫폼 사업자의 불법 영상물 유통 방지 책임 강화 △국제 공조를 통한 해외 서버 단속 및 범죄인 인도 △AI 생성물의 워터마크 의무화 등 기술적 조치 도입 등 입법·사법·행정·기술 전반에 걸친 총체적인 대책 마련이 시급하다. 그렇지 않으면 우리는 언제 터질지 모르는 ‘제2의 N번방’이라는 시한폭탄을 안고 살아갈 수밖에 없을 것이다.2025-09-08 09:41:18
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 외교는 각본이 아니라 순간에서 완성된다](https://image.ajunews.com/content/image/2026/01/06/20260106121156863019_518_323.png)