2025.10.26 일요일
검색
'청소년 보호' 검색결과
기간검색
-
~
검색영역
검색어
-
오픈AI, 美 FTC 조사·소송 압박에…'10대 전용 챗GPT' 이달 말 출시 [이코노믹데일리] 챗GPT 개발사 오픈AI가 청소년 보호를 위한 칼을 빼 들었다. 18세 미만 사용자를 위한 전용 챗GPT를 이달 말 출시하고 부모가 자녀의 챗봇 사용을 직접 관리할 수 있는 강력한 보호 기능을 도입한다. 이번 조치는 최근 미국 규제 당국의 조사와 이용자 소송 등 AI가 청소년에게 미치는 유해성에 대한 사회적 압박이 거세지는 가운데 나온 선제적 대응으로 AI 시대의 ‘책임’에 대한 중대한 이정표가 될 전망이다. 오픈AI는 16일(현지시간), 미성년자로 확인된 사용자를 자동으로 연령에 맞는 챗GPT 환경으로 안내하는 새로운 시스템을 도입한다고 밝혔다. 이 보호 모드에서는 선정적이거나 폭력적인 콘텐츠가 원천 차단되며 사용자가 심각한 위기 상황에 처한 것으로 판단될 경우 법 집행 기관이 개입할 수 있는 안전장치까지 마련된다. 이번 업데이트의 핵심은 부모의 직접적인 개입과 통제가 가능해졌다는 점이다. 부모는 자신의 챗GPT 계정을 자녀의 계정과 연결해 △자녀가 챗봇을 사용할 수 없는 시간(취침 시간 등)을 설정하고 △챗봇이 너무 단정적이거나 인간적인 감정을 표현하지 않도록 응답 방식을 유도할 수 있다. 특히 자녀가 심각한 정신적 고통을 겪고 있다고 AI가 판단할 경우 부모에게 즉시 알림을 보내는 기능까지 포함돼 AI를 통한 자녀의 심리 상태 모니터링이라는 새로운 차원의 보호 기능을 제공한다. 오픈AI의 이번 조치는 최근 거세진 외부 압박과 무관하지 않다. 미국 연방거래위원회(FTC)는 지난 8월 오픈AI를 포함한 주요 기술 기업들을 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 대대적인 조사를 시작했다. FTC는 이들 기업이 “챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다”며 자료 제출을 요구한 바 있다. 여기에 지난달에는 챗GPT와 수개월간 상호작용한 아들의 사망에 오픈AI가 책임이 있다며 한 학부모가 제기한 소송에 피고가 되는 등 AI의 유해성에 대한 법적 책임 문제까지 불거진 상황이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그를 통해 이번 결정이 쉽지 않았음을 인정하며 회사의 입장을 투명하게 밝혔다. 그는 “우리는 10대들의 사생활이나 자유보다 안전을 우선시한다”며 “이것은 새롭고 강력한 기술이며 미성년자에게는 상당한 보호가 필요하다고 믿는다”고 적었다. 이어 “(18세 미만 전용 챗GPT는) 어려운 결정이지만 전문가들과 논의한 결과 이것이 최선이라고 생각하며 우리의 의도를 투명하게 밝히고 싶다”고 덧붙였다. 결국 오픈AI는 ‘혁신의 자유’보다 ‘사용자 보호’라는 사회적 책임을 선택한 셈이다. AI 기술의 선두 주자인 오픈AI가 내놓은 이번 청소년 보호 대책은 향후 구글, 메타 등 다른 AI 개발사들의 정책에도 상당한 영향을 미칠 것으로 보인다.2025-09-17 08:00:11
-
"카톡으로 '온라인 그루밍'하면 영구정지"…카카오, 청소년 보호 칼 뺐다 [이코노믹데일리] 카카오가 아동 및 청소년 보호를 강화하기 위해 ‘카카오톡 운영정책’을 개정한다고 19일 밝혔다. 개정된 정책은 지난 16일 공지됐으며 오는 6월 16일부터 적용될 예정이다. 이번 정책 개정은 아동 및 청소년 보호를 최우선으로 두고 불법 정보 유통 방지 등 부적절한 활동에 대한 대응과 제재 기준을 강화하는 데 중점을 뒀다. 주요 개정 내용은 △아동 및 청소년 대상 성착취 목적의 대화(일명 ‘온라인 그루밍’) 관련 세부 금지 행위 명시 및 제재 대상 확대 △성매매 및 성착취 목적의 대화 등에 대한 금지 행위 추가 △테러 예비, 음모 선동, 선전 행위 및 폭력적 극단주의 정보 공유 금지 △불법 채권 추심 행위 금지 등이다. 특히 카카오는 ‘아동 및 청소년 대상 성착취 목적의 대화’ 관련 정책 적용 대상을 아동 및 청소년 간의 대화에도 확대 적용한다. 또한 성적 암시, 과도한 친밀감 표현, 개인정보 요청, 다른 채팅 플랫폼으로의 이동 제안 등을 구체적인 금지 행위로 명시했다. 이 밖에도 아동 및 청소년이 스스로 성범죄 위험에 노출되는 상황을 방지하기 위해 다른 이용자에게 금품이나 재산상의 이익, 편의 제공 등을 요청하거나 대가성 성적 만남을 제안하는 행위도 금지 항목에 포함했다. 카카오는 아동 및 청소년 성범죄에 대해 무관용 원칙을 적용하고 있으며 이용자 또는 기관 등의 신고를 통해 위반 행위가 확인되면 해당 이용자는 즉시 카카오톡 전체 서비스 이용이 영구적으로 제한될 수 있다. 또한 아동 및 청소년 대상 성범죄 관련 정책을 위반한 이력이 확인된 이용자는 카카오톡 재가입 이후에도 오픈채팅 서비스 이용이 영구적으로 제한될 수 있다고 강조했다. 한편 카카오는 지난 4월 아동 및 청소년 보호 강화를 위해 미성년자 보호 조치 간소화 프로세스를 도입한 바 있다. 이를 통해 법정대리인의 신청만으로 아동 및 청소년의 오픈채팅 이용을 제한할 수 있게 됐으며 보호 조치 적용 기간도 기존 180일에서 1년으로 연장했다. ‘카카오 고객센터’에는 별도 카테고리를 신설하고 신청 절차 및 제출 서류도 대폭 간소화했다. 손성희 카카오 청소년보호책임자는 “이용자들이 보다 안전하고 신뢰할 수 있는 환경에서 카카오톡을 이용할 수 있도록 서비스와 운영정책을 지속적으로 점검하고 개선하고 있다”며 “앞으로도 이용자 프라이버시 및 안전 간 균형을 고려해 최적의 이용 환경을 제공할 수 있도록 노력할 것”이라고 밝혔다.2025-05-19 18:21:56
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 신약 개발, 멈출 수 없는 실패의 여정](https://image.ajunews.com/content/image/2025/10/23/20251023161025833900_518_323.jpg)