검색결과 총 47건
-
생성형 AI 성적 이미지 범람에 경고등…개보위, GPA 공동선언 채택
[이코노믹데일리] 최근 그록(Grok) 등 생성형 인공지능(AI) 서비스를 악용한 딥페이크와 미성년자 성적 이미지의 생성·확산이 전 세계적인 문제로 부상하면서 국제사회가 공동 대응에 나섰다. 23일 개인정보보호위원회는 국제 개인정보 감독기구 협의체(GPA) 차원의 '인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문' 채택에 참여했다고 밝혔다. 최근 일부 생성형 AI 플랫폼에서는 텍스트 명령만으로 특정 인물을 지목해 노출·성적 행위를 묘사한 이미지를 생성하거나, 사회관계망서비스(SNS)에 게시된 사진을 학습 데이터로 활용해 유사 이미지를 제작하는 방식이 문제로 지적됐다. 특히 기술 접근 장벽이 낮아지면서 청소년 이용자까지 손쉽게 딥페이크 제작에 가담하는 사례도 보고되고 있다. 국내외 통계 역시 심각성을 뒷받침한다. 글로벌 사이버보안 업계와 아동보호 단체 등에 따르면 최근 2~3년 사이 딥페이크 음란물 유통 건수는 급증세를 보이고 있으며 피해자의 상당수가 10~20대 여성으로 나타났다. 아동·청소년을 대상으로 한 AI 기반 성적 이미지 범죄 역시 꾸준히 증가하는 추세다. 생성형 AI의 고도화로 이미지·영상의 정교함이 높아지면서 피해 확산 속도와 2차 피해 위험도 함께 커지는 것으로 전망된다. 이번 선언은 실제 인물이 당사자의 동의 없이 묘사·확산되는 프라이버시 침해에 대해 국제사회가 신속하고 일관된 대응 의지를 공식 목표로 정했다. 선언문에는 인공지능 시스템 개발·활용 기관이 준수해야 할 4가지 핵심 원칙이 담겼다. 개인정보 오남용 및 동의 없는 성적 콘텐츠 생성을 방지하기 위한 안전조치 이행, 인공지능 시스템의 이용 가능 범위와 한계에 대한 투명성 확보, 신속한 신고·삭제를 위한 효과적인 구제 절차 마련, 연령 적합 정보 제공 등 아동·청소년에 대한 강화된 보호조치 이행 등이다. 각국 감독기구는 '신뢰할 수 있는 인공지능 혁신'이라는 공동 가치를 실현하기 위해 정책·집행·교육 분야의 대응 경험을 적극 공유하고 초국경적 사안에 대한 공조 강화를 제시했다. 특히 플랫폼 사업자의 사전적 위험 평가와 기술적 안전장치 도입, 피해자 중심의 구제 체계 구축이 핵심 과제로 선정됐다. 이번 선언문은 GPA 산하 국제집행협력 작업반 주도로 마련됐으며 사안의 시급성에 공감한 52개국 61개 개인정보 감독기구가 서명에 참여했다. 한국을 비롯해 프랑스, 영국, 싱가포르, 캐나다, EU 회원국 감독기구 등이 동참한 것으로 알려졌다. 각국의 규제 움직임도 빨라지고 있다. 유럽연합은 인공지능 규제 체계 내에서 고위험 AI와 불법 콘텐츠에 대한 책임을 강화하는 방향으로 제도를 정비하고 있으며, 미국과 영국 등도 딥페이크 음란물과 아동 성적 이미지에 대한 처벌 규정을 확대하거나 별도 입법을 추진 중이다. 아시아 주요 국가들 역시 플랫폼 사업자의 삭제 의무와 투명성 보고를 강화하는 방안을 검토하고 있다. 기술 발전 속도에 맞춘 규범 정립과 함께 사업자의 자율 규제와 이용자 교육이 병행돼야 실효성을 확보할 수 있을 것으로 분석된다. 생성형 AI의 혁신성과 사회적 편익을 살리면서도 딥페이크와 아동·청소년 대상 범죄로부터 개인정보와 인격권을 보호하기 위한 국제 공조는 더욱 강화될 전망이다. 송경희 개인정보보호위원회 위원장은 "딥페이크 등 인공지능 콘텐츠 생성 기술의 오남용으로 인한 개인정보 침해 위험에 국제 사회와 공동으로 대응하겠다"며 "앞으로도 국내외의 신뢰 기반 인공지능 활용 환경 조성을 주도해 나가겠다"고 말했다.
2026-02-23 17:41:59
-
구글 제미나이, 음악 생성 기능 추가…'딸깍'으로 30초 음악 만든다
[이코노믹데일리] 구글이 자사의 인공지능(AI) 비서 앱 제미나이에 맞춤형 음악 생성 기능을 추가했다. 18일(현지시간) 구글은 데스크톱 버전 제미나이 앱에 음성 기반 음악 생성 기능을 베타 형태로 도입했다고 밝혔다. 사용자는 텍스트, 이미지, 영상 등을 입력해 약 30초 분량의 음악을 제작할 수 있으며 가사 자동 생성 기능도 함께 제공된다. 이번 기능은 구글의 AI 이미지 생성기 나노 바나나를 통해 커버 아트 제작까지 연계할 수 있다. 음악 제작부터 시각 요소 구성까지 하나의 흐름으로 구현할 수 있도록 설계된 것이 특징이다. 기술적 기반은 구글 딥마인드의 최신 생성형 음악 모델 리리아 3다. 리리아 3는 영어, 독일어, 스페인어, 프랑스어, 힌디어, 일본어, 한국어, 포르투갈어 등 8개 언어를 지원한다. 모바일 앱에도 수일 내 확대 적용될 예정이다. 구글은 리리아를 지난 2023년 처음 선보인 이후 음악 커뮤니티와 협력해 기술을 개발해 왔다고 설명했다. '뮤직 AI 샌드박스' 등 실험 프로그램을 통해 창작자 의견을 반영했으며 리리아 3 학습 과정에서도 저작권과 파트너 계약을 신중히 준수했다고 강조했다. 구글은 "리리아 3를 이용한 음악 생성은 기존 아티스트를 모방하는 것이 아니라 독창적인 표현을 위해 설계됐다"며 "제미나이 앱에서 생성되는 모든 트랙에는 구글 AI 생성 콘텐츠를 식별하기 위한 눈에 띄지 않는 워터마크인 'SynthID'가 포함됐다"고 설명했다. 또한 특정 아티스트가 언급될 경우에도 이를 직접적인 재현이 아닌 폭넓은 창의적 영감으로 해석해 유사한 분위기나 스타일의 트랙을 생성하는 것으로 알려졌다. 기존 콘텐츠와의 유사성을 점검하는 비교 필터도 마련했다. 다만 이러한 장치가 완벽하지 않을 수 있다는 점도 인정했다. 구글은 권리 침해 가능성이 있는 콘텐츠를 발견할 경우 신고해 달라고 안내했으며 서비스 이용자는 타인의 지적 재산권과 개인정보 보호권을 침해하지 않도록 서비스 약관과 생성형 AI 관련 정책을 준수해야 한다고 강조했다. 구글은 "이러한 방식이 완벽하지 않을 수 있음을 인지하고 있다"며 "(이번 업데이트의 목적은) 훌륭한 음악을 만드는 것이 아니라 여러분이 재미있고 독특한 방식으로 자신을 표현할 수 있도록 돕는 것"이라고 말했다.
2026-02-19 08:41:44
-
-
-
-
-
-
-
-
-
-
-
-
-