2026.01.27 화요일
검색
'유해 콘텐츠 차단' 검색결과
기간검색
-
~
검색영역
검색어
-
전 세계로 번진 xAI '그록' 딥페이크 논란…美 캘리포니아 조사 착수 [이코노믹데일리] 일론 머스크가 이끄는 xAI의 인공지능 모델 '그록'을 둘러싼 논란이 전 세계로 확산되고 있다. 단순한 기술 경쟁을 넘어 발언 수위와 안전성, 데이터 활용 방식, 법적 책임 문제까지 겹치며 각국 정부와 사법 당국이 동시에 대응에 나서는 양상이다. 14일(현지시간) 롭 본타 캘리포니아주 법무장관은 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"며 그록의 성적 이미지 생성 논란에 대한 조사에 나섰다. 이어 그는 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 강조했다. 그록은 X와 연동된 대화형 AI로, 실시간성에 가까운 데이터 접근과 직설적인 응답 스타일을 강점으로 내세웠다. 그러나 이 같은 특징은 곧바로 논란으로 이어졌다. 일부 국가와 지역에서 정치적 민감 사안, 폭력적 표현, 허위 정보에 가까운 답변이 노출되며 AI 안전성 논쟁의 중심에 섰다. 한국 정부도 이번 문제에 민감한 반응을 보였다. 방송미디어통신위원회는 14일 소셜 플랫폼 X에 공문을 보내며 안전장치 마련, 청소년 접근 제한, 관리 조치 등을 요청하며 경고에 나섰다. 또한 정부는 학습 데이터의 출처, 유해 콘텐츠 차단 기준, 국내 이용자 대상 서비스 제공 시 책임 구조 등에 대한 설명과 개선을 요청한 것으로 알려졌다. 김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 말했다. 동남아시아에서도 파장이 컸다. 인도네시아에서는 그록이 종교·사회적으로 민감한 주제에 대해 부적절하거나 편향된 답변을 내놓았다는 지적이 제기되며, 정부 차원의 검토가 이뤄졌다. 인도네시아 당국은 해외 AI 모델이 자국 내 사회적 갈등을 증폭시킬 가능성을 우려하며 콘텐츠 관리 체계와 현지 법규 준수 여부를 점검한 것으로 알려졌다. 일부에서는 서비스 제한이나 규제 가능성까지 거론된다. 기술적 논란도 여전히 현재진행형이다. 일부 전문가들은 그록의 응답 패턴과 결과물이 기존 대형언어모델과 유사하다는 점을 들어 학습 과정의 투명성을 요구하고 있다. 이에 대해 xAI는 독자적인 모델 설계와 학습 방식을 강조하고 있지만 외부 검증 요구는 쉽게 가라앉지 않는 분위기다. 업계에서는 그록 논란을 특정 모델의 일탈이 아니라 차세대 AI 경쟁이 맞닥뜨린 구조적 문제로 해석하는 시각이 많다. 실시간 데이터와 결합된 AI가 확산될수록, 성능보다 안전성과 규제 대응 능력이 핵심 경쟁력이 되고 있기 때문이다. 국가와 지역별로 다른 법·문화적 기준을 어떻게 반영할지도 주요 과제로 떠오르고 있다. 이번 논란에 대해 일론 머스크 X 대표는 자신의 X 계정 게시물에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 '제로'"라고 강조했다. 이어 "분명히 그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 설명했다.2026-01-15 07:53:55
-
LG유플러스, AI 유해 콘텐츠 차단 탑재한 '무너 키즈폰2' 출시 [이코노믹데일리] LG유플러스(대표 홍범식)는 자사의 자체 캐릭터인 '무너'를 활용한 'U+키즈폰 무너 에디션2'를 출시했다고 5일 밝혔다. 지난 2일 출시된 이번 키즈폰은 LG유플러스가 미취학 아동 및 초등학생을 위해 선보이는 9번째 키즈 전용 스마트폰으로 색상은 블루와 그레이 두 가지이며 출고가는 36만9500원이다. 삼성전자의 '갤럭시 A17 LTE' 모델을 기반으로 제작됐으며 LG유플러스의 대표 캐릭터 '무너'를 바탕화면과 테마에 적용했다. 이번 키즈폰은 키즈 골전도 에어 이어폰, 무너 파우치, 폰 케이스, 넥스트랩, 무너 스티커, 액정보호필름 등으로 구성된 패키지로 제공된다. 이번 키즈폰의 가장 큰 특징은 유해 이미지와 문자를 AI가 감지해 알림을 제공하는 'AI 유해 콘텐츠 차단 기능'의 탑재다. 자녀가 유해 이미지를 촬영하거나 캡처·다운로드할 경우 AI가 즉시 경고 알림을 보내 이미지 삭제를 안내한다. 비속어 등 유해 키워드가 포함된 SMS 문자를 수신했을 때도 보호자에게 알림을 제공해 신속한 대응을 돕는다. LG유플러스는 해당 기능을 통해 자녀 보호는 물론 올바른 스마트폰 사용 습관 형성에 도움이 될 것으로 전망한다. 기존 키즈폰의 핵심 보호 기능도 그대로 제공한다. LG유플러스는 '키위플레이+' 앱을 통해 자녀 위치 조회, 앱 사용 제어 기능 등을 지원하고 있으며 보호자는 이를 통해 자녀의 실시간 위치와 스마트폰 이용 현황을 확인할 수 있다. LG유플러스는 오는 9일부터 신제품 구매 고객을 위한 다양한 혜택도 마련했다. 이번 키즈폰을 개통한 만 0세부터 15세 고객에게 교보라이프플래닛의 '키즈케어 보험'을 무료로 제공한다. 해당 보험은 가입 시점 기준 1년간 깁스 치료 및 재해 골절에 대해 회당 3만원을 보장한다. 또한 구매 고객 중 선착순 1만명에게는 '유독픽 AI 교육팩'을 3개월간 무료로 제공한다. '유독픽 AI'는 LG유플러스의 AI 구독 서비스로 교육팩은 '과학동아AiR'와 '수학대왕', '플랭', '러니' 등으로 구성돼 국어·영어·수학·과학 전 과목의 AI 자기주도 학습을 지원한다. 고객은 유독 서비스 가입을 통해 해당 교육팩을 이용할 수 있다. 이 밖에도 만 18세 이하 개통 고객 중 하나은행 용돈관리 앱 '아이부자' 이용 고객에게는 최초 가입 시 2000원, 첫 결제 시 5000원 등 총 7000원의 용돈 혜택을 제공한다. 이번 키즈폰 개통 후 키즈 메타버스 플랫폼 '키즈토피아'에 신규 가입한 고객 전원에게는 3만원 상당의 무너 아이템도 증정한다. U+ 온라인 공식 스토어에서 지난 2일부터 무너폰2를 개통하고 이벤트에 응모한 고객은 디엘티테크코리아 라벨 프린터기, 엑스트라볼트 10000mAh 보조배터리, 아남(ANAM) 무선 이어폰 중 1종을 선택해 받을 수 있다. 이현승 LG유플러스 디바이스·Seg담당은 "무너폰2는 자녀가 처음 사용하는 스마트폰인 만큼 디자인뿐 아니라 안전과 사용 관리 측면을 가장 우선에 두고 기획했다"며 "AI 기반 보호 기능과 생활 밀착형 혜택을 제공해 부모가 안심하고 선택할 수 있는 키즈폰으로 자리매김해 나가겠다"고 말했다.2026-01-05 09:01:16
-
SKT, 포켓몬 굿즈 풀세트 준다… 'ZEM폰 포켓피스'로 동심 공략 [이코노믹데일리] SK텔레콤(CEO 정재헌)이 인기 캐릭터 포켓몬을 테마로 한 키즈용 LTE 스마트폰 ‘ZEM폰 포켓피스’의 사전예약을 9일부터 시작한다고 밝혔다. 이번 신제품은 삼성전자 갤럭시 A17 모델을 기반으로 어린이 안전을 위한 안심 액세서리와 전용 학습 앱을 대거 탑재해 상품성을 높였다. ‘ZEM폰 포켓피스’는 SK텔레콤이 선보이는 네 번째 포켓몬 에디션으로 포켓몬과 인간이 평화롭게 공존하는 세상을 그린 ‘포켓피스’ 세계관을 반영했다. 출고가는 34만9800원이며 12일 온오프라인 채널을 통해 정식 출시된다. 제품 구성은 어린이 고객의 취향과 안전을 최우선으로 고려했다. 구매 고객에게는 포켓피스 캐릭터가 그려진 크로스백과 파우치 키링 및 폰 케이스 등 5종의 액세서리가 기본 제공된다. 모든 액세서리는 KC 인증을 획득해 유해 물질 걱정 없이 사용할 수 있도록 제작됐다. 단말 내부에는 포켓몬 IP를 활용한 전용 테마가 적용되어 잠금화면과 홈 화면에서 포켓몬 캐릭터를 만날 수 있다. 학부모가 가장 중요하게 여기는 안심 케어와 교육 기능도 대폭 강화됐다. 스마트폰 관리 앱 ‘ZEM’을 통해 자녀의 실시간 위치를 조회하고 유해 콘텐츠 차단 및 사용 시간 관리가 가능하다. 학습 콘텐츠로는 초등 영어 교육 앱 ‘오래영어’와 AI 기반 시사 뉴스 앱 ‘키즈다(KidsDa)’가 기본 탑재된다. 구매 고객은 두 앱을 6개월간 무료로 이용할 수 있으며 시사 원정대 등 어린이 전문 잡지 구독 할인 혜택도 주어진다. SK텔레콤은 오는 11일까지 T다이렉트샵에서 사전예약을 진행한다. 예약 기간 내 구매하고 29일까지 개통을 완료한 선착순 500명에게는 10만 원 상당의 T다이렉트샵 이용권을 증정한다. 또한 구매 고객 전원에게 필립스 키즈 무선 헤드폰이나 미니 레트로 카메라 등 T기프트 혜택을 제공한다. 윤명원 SKT Channel&Device 담당은 “아이들이 안전하고 즐겁게 스마트폰을 사용할 수 있는 환경을 제공하기 위해 기획했다”며 “앞으로도 부모와 아이가 모두 만족할 수 있는 맞춤형 키즈폰과 콘텐츠를 지속적으로 선보이겠다”고 말했다.2025-12-09 09:06:54
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 군을 정리하는 권력, 권력을 준비하는 군](https://image.ajunews.com/content/image/2026/01/26/20260126143853422700_518_323.png)