2025.12.24 수요일
검색
'워터마크' 검색결과
기간검색
-
~
검색영역
검색어
-
과기정통부, 내년 AI 기본법 시행 앞두고 "규제 최소화·1년 유예" 원칙 천명 [이코노믹데일리] 과학기술정보통신부(장관 배경훈)가 내년 1월 22일 시행되는 ‘인공지능(AI) 기본법’을 두고 산업계 우려를 불식시키기 위해 필요 최소한의 규제 원칙과 충분한 계도 기간을 약속했다. 정부는 법 시행 초기에는 규제 범위를 좁게 설정하되 기술 발전 속도와 글로벌 규범 변화에 맞춰 제도를 유연하게 보완해 나갈 방침이다. 과기정통부는 24일 서울 중구 한국지능정보사회진흥원(NIA) 서울사무소에서 ‘AI기본법 시행 대비 설명회’를 열고 이 같은 내용의 시행령 제정안과 가이드라인 운영 방향을 공개했다. 이번 설명회는 현재 입법예고 중인 시행령안에 대한 이해를 돕고 현장의 의견을 수렴하기 위해 마련됐다. 정부는 확인 절차 기한을 명시해 기업의 예측 가능성을 높이는 동시에 AI 생성물 부작용을 막기 위한 최소한의 안전장치는 유지하겠다는 입장을 재확인했다. 쟁점은 크게 AI 사업자 정의와 투명성 의무 및 고영향 AI 기준 등으로 요약된다. 우선 AI 사업자 정의와 관련해 산업계는 유럽연합(EU)의 ‘AI법(AI Act)’처럼 ‘배포자’ 개념을 도입해 책임을 명확히 할 것을 요구했다. 이에 대해 심지섭 인공지능안전신뢰정책과 사무관은 “배포자 개념 도입 취지는 이해하지만 이는 시행령이 아닌 상위 법률 개정이 필요한 사안”이라며 “현 단계에서는 가이드라인을 통해 개발 및 이용 사업자를 명확히 구분하고 구체적 사례를 안내하는 데 주력하겠다”고 설명했다. AI 생성물에 대한 표시 의무인 투명성 규제도 뜨거운 감자다. 산업계는 기계 판독만 가능한 비가시적 표시 등 예외 확대를 요청한 반면 시민사회는 AI 결과물 제공 주체까지 의무를 확대해야 한다고 맞섰다. 정부는 부작용 예방과 활용성 제고라는 두 마리 토끼를 잡기 위해 신중한 접근을 택했으며 필요시 법률 개정까지 포함한 제도 개선을 검토하기로 했다. 안전성 의무 기준을 두고도 시각차가 존재했다. 현행법은 ‘누적 연산량’을 기준으로 삼고 있으나 산업계는 다른 기준 도입을 요구했고 시민사회는 대상 확대를 주장했다. 정부는 국제 규범에서 합리적인 새 기준이 나오면 적극 반영하겠다면서도 당장은 현행 기준을 유지하며 필요 최소한의 규제 원칙을 고수했다. 고영향 AI 지정은 법상 명시된 의료나 대출 심사 등 10개 분야에 대해 엄격히 적용된다. 사업자가 자사 서비스의 고영향 AI 해당 여부를 판단하기 어려울 경우 과기정통부에 확인을 요청할 수 있으며 정부는 30일 이내에 답변해야 한다. 불가피한 사유가 있을 때만 1회에 한해 연장 가능하도록 해 행정 예측 가능성을 높였다. 산업계가 우려했던 ‘설명 방안 수립 의무’에 대해서는 강제적 공개가 아닌 절차적 의무임이 명확해졌다. 사업자가 자율적으로 설명 방식과 수준을 정해 이용자에게 안내하면 된다는 것이다. 다만 정부는 AI 결정으로 영향을 받는 이용자 보호 방안에 대해서는 지속적인 논의를 이어가기로 했다. 과기정통부는 입법예고 기간 수렴된 의견을 반영해 시행령안을 확정하고 법제처 심사와 국무회의를 거쳐 내년 1월 22일 법 시행에 맞춰 공포할 계획이다. 또한 법 시행 후 최소 1년 이상의 규제 유예 기간(Grace Period)을 운영해 기업들이 충분히 대비할 수 있도록 지원한다. 스타트업과 중소기업을 위한 ‘AI 안전·신뢰 지원 데스크’도 운영해 법률 컨설팅과 고영향 AI 판단 지원 및 검인증 부담 완화 등 실질적인 혜택을 제공한다. 이진수 과기정통부 인공지능정책기획관은 “AI 기본법은 규제가 아닌 지원과 진흥이 주목적인 법”이라며 “세계 최초로 규제를 시행하는 나라가 되지 않겠다는 점을 분명히 하고 해외 동향과 기술 발전을 고려해 유연하게 제도를 운용하겠다”고 강조했다.2025-12-24 16:54:07
-
"AI 강국 선언과 엇박자"…창작물 전면 워터마크 규제 논의 '도마 위' [이코노믹데일리] 내달 22일 시행 예정인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'에 AI(인공지능)가 활용된 창작물에 워터마크 표시를 의무화하는 규정이 포함될 것으로 전망돼 새로운 쟁점으로 떠오르고 있다. 정부는 딥페이크 확산과 허위 정보 문제를 막기 위한 최소한의 안전장치라는 입장이지만 창작 현장에서는 과도한 규제가 될 수 있다는 우려가 제기되고 있다. AI 기본법은 AI 기술의 진흥과 신뢰 확보를 동시에 목표로 한 첫 포괄적 법안이다. 다만 하위 시행령과 고시를 통해 AI 창작물에 대한 표시 의무가 어느 수준까지 적용될지가 아직 명확히 정해지지 않아 업계 전반에 불확실성이 커지고 있다. 특히 AI를 활용한 영상·이미지·음원 등 창작물에 '워터마크' 또는 이에 준하는 표시를 의무화하는 방안이 유력하게 거론되면서 논란이 확산되고 있다. 정부는 해당 규제가 딥페이크 범죄와 허위 정보 유통을 차단하기 위한 조치라는 점을 강조하고 있다. AI 기술의 발전으로 실제와 구분하기 어려운 콘텐츠가 급증하는 상황에서 이용자가 AI 창작물임을 인지할 수 있는 장치를 마련할 필요가 있다는 설명이다. 반면 창작 현장의 현실은 다르다는 목소리가 나온다. 글로벌 콘텐츠 기업 아트리스트가 지난달 19일 발표한 '2026 AI 트렌드 보고서'에 따르면 창작 전문가의 87%는 AI 도구를 사용하고 있으며 이 중 66%는 매주 AI 도구를 사용하고 있다. 이는 AI가 단순 보조 수단을 넘어 사실상 필수 도구로 자리 잡은 상황으로 풀이되며 이에 생성물 전반에 표시를 강제하는 규제가 창작 활동 전반에 부담으로 작용할 수 있을 것으로 분석된다. 특히 논란의 중심은 표시 방식과 범위다. 업계에서는 규제가 영상 시작이나 종료 시 AI 창작물임을 알리는 단순 고지 수준에 그치지 않고 콘텐츠 전체 분량에 워터마크 표시를 적용하는 방향으로 구체화될 가능성에 주목하고 있다. 이 경우 쇼츠·릴스 등 짧은 영상 콘텐츠에서는 화면 몰입도를 해치고 광고·브랜드 영상에서는 상업성 표시와 중첩되는 문제도 발생할 수 있다. 해외 주요 국가들의 규제 흐름과 비교해도 온도 차가 있다는 분석이 나온다. 유럽연합(EU)과 미국의 일부 주는 AI 창작물에 대해 이용자가 인지할 수 있도록 고지하는 데 초점을 둔 규제를 추진하고 있다. 딥페이크나 공공적 정보 왜곡 가능성이 큰 경우를 중심으로 표시 의무를 부과하고 예술·창작 영역에서는 표현의 자유와 산업 영향 등을 고려해 적용 범위를 조정하는 방식이다. 반면 국내 논의는 콘텐츠 전반에 일괄 표시를 요구하는 방향으로 흘러가고 있다는 점에서 상대적으로 규제 강도가 높아질 수 있다는 지적이 제기된다. 이 같은 규제는 정부의 AI 육성 기조와도 엇박자를 낸다는 평가가 나온다. 이재명 대통령은 지난달 14일 진행한 2026년도 예산안 연설에서 AI 관련 예산을 기존보다 3배 이상 확대해 약 10조 원 규모로 편성하고 세계 상위 3대 AI 강국으로 도약하겠다는 목표를 제시했다. AI 산업을 국가 성장 동력으로 육성하겠다는 선언과 달리 현장에서는 규제가 강화되는 것이다. 한 AI 업계 관계자는 이번 AI 기본법에 대해 인지하고 있지만 법이 관련된 문제로 입장을 밝히기 어렵다는 입장을 표했다.2025-12-15 17:29:28
-
EU도 주춤한데 韓 나 홀로 AI 규제 강행… 스타트업 "준비 안 됐다" [이코노믹데일리] 유럽연합(EU)이 인공지능(AI) 규제 속도 조절에 나선 가운데, 한국이 내년 1월 세계 최초로 AI 법규를 전면 시행하는 국가가 될 전망이다. 국내 AI 업계, 특히 중소 스타트업들은 준비 부족과 과도한 규제로 인한 산업 위축을 호소하며 정부의 ‘나 홀로 규제’ 행보에 깊은 우려를 표하고 있다. 14일 IT 업계에 따르면 우리나라는 내년 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 시행한다. 이는 AI 관련 법규를 실질적으로 적용하는 세계 첫 사례다. EU 역시 AI 법을 제정했으나 고위험 AI에 대한 규제 등 핵심 조항은 내년 8월부터 단계적으로 적용될 예정이다. 문제는 규제의 강도와 속도다. 최근 EU 집행위원회는 ‘디지털 간소화 방안’을 발표하며 AI 규제 적용 시기를 2027년 말로 늦추는 등 완화 움직임을 보이고 있다. 미국 빅테크의 반발과 AI 경쟁력 저하 우려를 의식한 조치다. 반면 한국은 시행령 입법예고 기간이 촉박해 현장의 목소리가 충분히 반영되지 않았다는 비판이 거세다. 스타트업얼라이언스 조사 결과 국내 AI 스타트업의 98%가 “AI 기본법 시행에 대비한 실질적 대응 체계를 갖추지 못했다”고 답했다. 특히 AI 생성물에 의무적으로 표시를 남겨야 하는 ‘워터마크’ 규제가 쟁점이다. 과학기술정보통신부는 최근 비공개 간담회에서 모든 AI 생성물에 사람이 식별 가능한 표시를 의무화하는 방안을 논의한 것으로 알려졌다. 한 AI 콘텐츠 기업 대표는 “수많은 인력이 투입된 결과물에 단지 AI를 썼다는 이유만으로 ‘AI 생성물’ 딱지를 붙이면 소비자 외면으로 이어질 수 있다”며 “산업 현장을 고려하지 않은 탁상행정”이라고 성토했다. 이에 반해 일본은 과태료나 정부 조사권을 강제하는 대신 업계 자율 규제를 택했다. ‘소프트 거버넌스’를 통해 AI 산업 육성과 안전의 균형을 맞추겠다는 전략이다. 이러한 규제 환경 차이로 인해 올거나이즈, 업스테이지 등 국내 유망 AI 스타트업들이 잇따라 일본 시장으로 눈을 돌리거나 현지 법인을 설립하는 등 ‘탈(脫)한국’ 현상마저 감지되고 있다. 한국인터넷기업협회 관계자는 “규제가 지나치게 강하면 기업들이 해외로 떠날 유인이 커진다”며 “법 시행이 코앞인데 시행령조차 확정되지 않아 기업들의 불확실성만 키우고 있다”고 지적했다. 배경훈 과기정통부 장관은 “입법예고 기간 현장의 의견을 수렴해 산업 발전과 안전이 조화를 이루도록 하겠다”고 밝혔으나, 업계의 불안감은 여전히 해소되지 않고 있다.2025-12-14 14:07:13
-
"포토샵 넘본다"…제미나이3 품은 구글 '나노 바나나 프로', 생성부터 팩트체크까지 [이코노믹데일리] 구글이 최신 AI 모델 '제미나이3 프로'를 탑재해 텍스트 묘사 능력과 사실 검증 기능을 대폭 강화한 이미지 생성 도구 '나노 바나나 프로'를 선보였다. 특히 기존 AI 모델들이 어려워했던 한글 텍스트를 이미지 내에 자연스럽게 구현해 내며 창작 도구로서의 활용성을 극대화했다. 구글은 20일(현지시간) 기존 '나노 바나나'의 성능을 한 단계 업그레이드한 '나노 바나나 프로'를 공식 출시한다고 밝혔다. 이번 모델은 지난 18일 공개된 구글의 최신 대규모언어모델(LLM) '제미나이3 프로'를 기반으로 구축되어 단순한 그림 그리기를 넘어 고도화된 추론 능력과 최신 정보 반영 능력을 갖춘 것이 특징이다. 가장 눈에 띄는 변화는 텍스트 렌더링(묘사) 능력의 비약적인 발전이다. 기존 이미지 생성 AI들은 그림 속에 글자를 넣을 경우 철자가 틀리거나 뭉개지는 현상이 잦았으나 나노 바나나 프로는 이를 획기적으로 개선했다. 특히 제미나이의 다국어 추론 기능을 활용해 영어뿐만 아니라 한국어를 포함한 다양한 언어를 캘리그라피나 디자인 요소로 자연스럽게 녹여낸다. 구글 검색과의 실시간 연동도 강점이다. 예를 들어 "카르다몸 홍차를 만드는 방법을 보여주는 인포그래픽을 그려줘"라고 프롬프트(명령어)를 입력하면 AI가 레시피 정보를 검색해 사실에 기반한 정확한 그림 자료를 생성해 준다. 전문적인 편집 기능도 강화됐다. 사용자는 최대 14개의 이미지를 레퍼런스로 입력해 이를 구성요소로 한 새로운 이미지를 만들 수 있다. 이 과정에서 원본 이미지의 스타일과 일관성을 유지하면서 조명을 낮에서 밤으로 바꾸거나 피사체의 각도와 초점을 정교하게 변경하는 작업이 가능하다. 생성된 이미지는 4K 초고화질 해상도를 지원해 전문가용으로도 손색이 없다. 구글은 AI 기술의 부작용으로 꼽히는 '딥페이크'나 허위 정보 유포를 막기 위한 안전장치도 함께 마련했다. 구글의 챗봇 '제미나이'에 이미지 검증 기능을 탑재해 사용자가 이미지를 업로드하고 "AI로 생성된 것인가요?"라고 묻기만 하면 즉시 판별해 준다. 이는 구글의 디지털 워터마크 기술인 '신스ID(SynthID)'가 적용된 덕분이다. 생성된 모든 이미지에는 사람의 눈에는 보이지 않는 워터마크가 내장되어 있어 AI 생성 여부를 식별할 수 있다. 구글은 무료 및 일반 유료(프로) 이용자가 생성한 이미지에는 가시적인 워터마크도 함께 표시해 투명성을 높였으며 전문가용 '울트라' 요금제 사용자에게만 워터마크 없는 이미지 생성을 허용한다. '나노 바나나 프로'는 오늘부터 구글 제미나이 앱의 '추론' 모델이나 업무 보조 도구 '노트북LM'을 통해 사용할 수 있다. 개발자와 기업 고객은 워크스페이스나 API 등을 통해 해당 기능을 자사 서비스에 접목할 수 있다. 구글의 이번 출시는 어도비의 '포토샵'이나 '미드저니' 등 경쟁자들을 따돌리고 생성형 AI 시장에서의 주도권을 굳히기 위한 전략으로 풀이된다.2025-11-21 09:46:09
-
하루 75건씩 퍼지는 '가짜 성착취물'…내 딸, 내 친구가 타깃 [이코노믹데일리] 인공지능(AI) 기술이 만든 ‘가짜 성착취물’ 즉 딥페이크 성범죄 영상물이 대한민국을 집어삼키고 있다. 생성형 AI 기술의 발전 속도를 법과 제도가 따라가지 못하는 사이 피해 건수는 기하급수적으로 폭증하고 있으며 특히 10대와 20대 젊은 층이 무방비로 범죄에 노출되고 있다. 8일 국회 과학기술정보방송통신위원회 소속 국민의힘 박충권 의원이 방송통신심의위원회로부터 제출받은 자료는 딥페이크 성범죄의 끔찍한 확산 실태를 그대로 보여준다. 올해 1월부터 7월까지 단 7개월간 방심위가 삭제·접속차단을 요구한 딥페이크 성범죄 영상물은 무려 1만5808건에 달했다. 이는 하루 평균 75건, 한 시간에 3건 이상의 성범죄 영상물이 온라인에 유포되고 있다는 의미다. 이러한 추세라면 올해 전체 시정요구 건수는 2만7000건을 넘어 사상 최다를 기록할 것이 확실시된다. 2020년 관련 법 시행 첫해 473건에 불과했던 시정요구 건수는 2023년 7187건, 2024년 2만3107건으로 매년 폭발적으로 증가해왔다. 불과 5년 만에 50배 이상 급증한 것이다. 더욱 심각한 문제는 피해가 특정 연령층에 집중되고 있다는 점이다. 여성가족부가 박 의원실에 제출한 자료에 따르면 올해 7월까지 디지털성범죄 피해자 지원센터에 접수된 합성·편집 피해자 540명 중 10대 이하가 256명(47.4%), 20대가 240명(44.4%)으로, 20대 이하 피해자가 전체의 84%를 차지했다. 이는 딥페이크 성범죄가 단순한 온라인상의 문제가 아니라 우리 아이들의 교실과 캠퍼스를 직접적으로 위협하는 현실적인 공포가 되었음을 의미한다. 범죄의 온상은 주로 해외에 서버를 둔 불법 음란사이트와 P2P 사이트 그리고 추적이 어려운 텔레그램이다. 텔레그램에 대한 접속차단 요구는 2023년 38건에서 지난해 618건으로 급증했으며 올해는 7월까지만 해도 403건에 달했다. ◆ ‘솜방망이 처벌’과 ‘기술 발전’ 사이...제2의 N번방 막을 수 있나 이처럼 피해가 눈덩이처럼 불어나고 있지만 정부의 대책은 사실상 무력하다는 비판이 나온다. 박충권 의원은 “지난해 서울대 N번방 사건 등 딥페이크 음란물 유포가 사회적 공분을 샀음에도 정부 대책은 사실상 유명무실했다”고 지적했다. 현행법상 딥페이크 성범죄 영상물을 제작·반포할 경우 처벌을 받게 되지만 해외에 서버를 둔 플랫폼에 대한 실질적인 제재가 어렵고 가해자를 특정하기도 쉽지 않다. 방심위의 시정요구는 이미 유포된 영상물을 사후에 차단하는 것에 불과해 피해자의 고통을 근본적으로 막기에는 역부족이다. 전문가들은 지금과 같은 ‘솜방망이 처벌’과 ‘사후약방문식’ 대응으로는 고도화되는 AI 기술을 악용한 범죄를 절대 뿌리 뽑을 수 없다고 경고한다. 생성형 AI 기술의 접근성이 갈수록 낮아지면서 이제 누구나 손쉽게 딥페이크 영상물을 제작할 수 있는 시대가 됐기 때문이다. 결국 이 끔찍한 범죄의 고리를 끊기 위해서는 △AI 기술을 악용한 성범죄에 대한 양형 기준 대폭 강화 △플랫폼 사업자의 불법 영상물 유통 방지 책임 강화 △국제 공조를 통한 해외 서버 단속 및 범죄인 인도 △AI 생성물의 워터마크 의무화 등 기술적 조치 도입 등 입법·사법·행정·기술 전반에 걸친 총체적인 대책 마련이 시급하다. 그렇지 않으면 우리는 언제 터질지 모르는 ‘제2의 N번방’이라는 시한폭탄을 안고 살아갈 수밖에 없을 것이다.2025-09-08 09:41:18
-
AI기본법 시행령 공개 '돌연 연기'…막판 진통, 업계 '속탄다' [이코노믹데일리] 내년 1월 시행을 앞둔 '인공지능 기본법'의 핵심 시행령 공개가 돌연 연기됐다. 법 적용의 구체적인 내용을 담은 하위법령 마련이 당초 목표보다 한 달 이상 늦어지면서 산업계의 불확실성이 커지고 있다. 과학기술정보통신부와 한국지능정보사회진흥원(NIA)은 1일 AI 관련 기업들을 대상으로 AI기본법 하위법령 의견수렴 회의를 열 계획이었으나 행사 직전 내부 조율 미비를 이유로 일정을 연기했다. 과기정통부는 당초 지난달까지 시행령과 각종 고시·가이드라인 초안을 마련하겠다고 보고했으나 지켜지지 않은 셈이다. 업계는 이번 회의를 통해 베일에 싸여있던 규제의 윤곽을 확인할 수 있을 것으로 기대했다. 특히 법 제정 당시부터 논란이 됐던 정부의 사업장 조사 권한이나 과태료 부과 조항의 구체적인 내용이 초미의 관심사였다. 갑작스러운 일정 연기에 업계에서는 허탈하다는 반응과 함께 법 적용의 예측 가능성이 떨어진다는 우려가 나온다. 다만 일부 독소조항이 완화될 것이라는 기대감도 감지된다. 배경훈 과기정통부 장관이 청문회에서 과태료 부과 유예 필요성을 언급한 만큼 시행 초기에는 부담이 줄어들 가능성이 있다. 다른 법령과 충돌 소지가 있는 사업장 조사 권한 역시 남용 방지 장치를 두는 방식으로 최소화될 것이라는 관측이 나온다. AI 생성물에 식별 표시(워터마크)를 의무화하는 투명성 조항도 완화될지 주목된다. 정부는 지난 25일 영화·게임·웹툰 등 콘텐츠 업계와 이 문제를 논의하려다 회의를 연기한 바 있다. 이를 두고 창작적 목적의 AI 활용에 대해서는 표시 의무가 다소 완화되는 것 아니냐는 해석이 제기됐다. 과기정통부 관계자는 "AI 기본법 하위 법령이 현재 완성됐다기보다 신중한 검토가 이뤄지는 중"이라며 "시간이 약간 소요되고 있는데 업계 의견 수렴 일정을 곧 다시 잡을 계획"이라고 말했다. 정부의 '신중 검토'가 길어지면서 법 시행까지 남은 두 달여간 업계의 혼란은 불가피할 전망이다.2025-08-01 10:02:08
많이 본 뉴스
영상
Youtube 바로가기
![[e경제일보 사설] 국적을 갈아입는 사람들, 합법과 염치 사이](https://image.ajunews.com/content/image/2025/12/24/20251224135900652828_518_323.jpg)