2025.11.17 월요일
검색
'유해성' 검색결과
기간검색
-
~
검색영역
검색어
-
오픈AI, 美 FTC 조사·소송 압박에…'10대 전용 챗GPT' 이달 말 출시 [이코노믹데일리] 챗GPT 개발사 오픈AI가 청소년 보호를 위한 칼을 빼 들었다. 18세 미만 사용자를 위한 전용 챗GPT를 이달 말 출시하고 부모가 자녀의 챗봇 사용을 직접 관리할 수 있는 강력한 보호 기능을 도입한다. 이번 조치는 최근 미국 규제 당국의 조사와 이용자 소송 등 AI가 청소년에게 미치는 유해성에 대한 사회적 압박이 거세지는 가운데 나온 선제적 대응으로 AI 시대의 ‘책임’에 대한 중대한 이정표가 될 전망이다. 오픈AI는 16일(현지시간), 미성년자로 확인된 사용자를 자동으로 연령에 맞는 챗GPT 환경으로 안내하는 새로운 시스템을 도입한다고 밝혔다. 이 보호 모드에서는 선정적이거나 폭력적인 콘텐츠가 원천 차단되며 사용자가 심각한 위기 상황에 처한 것으로 판단될 경우 법 집행 기관이 개입할 수 있는 안전장치까지 마련된다. 이번 업데이트의 핵심은 부모의 직접적인 개입과 통제가 가능해졌다는 점이다. 부모는 자신의 챗GPT 계정을 자녀의 계정과 연결해 △자녀가 챗봇을 사용할 수 없는 시간(취침 시간 등)을 설정하고 △챗봇이 너무 단정적이거나 인간적인 감정을 표현하지 않도록 응답 방식을 유도할 수 있다. 특히 자녀가 심각한 정신적 고통을 겪고 있다고 AI가 판단할 경우 부모에게 즉시 알림을 보내는 기능까지 포함돼 AI를 통한 자녀의 심리 상태 모니터링이라는 새로운 차원의 보호 기능을 제공한다. 오픈AI의 이번 조치는 최근 거세진 외부 압박과 무관하지 않다. 미국 연방거래위원회(FTC)는 지난 8월 오픈AI를 포함한 주요 기술 기업들을 대상으로 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 대대적인 조사를 시작했다. FTC는 이들 기업이 “챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다”며 자료 제출을 요구한 바 있다. 여기에 지난달에는 챗GPT와 수개월간 상호작용한 아들의 사망에 오픈AI가 책임이 있다며 한 학부모가 제기한 소송에 피고가 되는 등 AI의 유해성에 대한 법적 책임 문제까지 불거진 상황이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그를 통해 이번 결정이 쉽지 않았음을 인정하며 회사의 입장을 투명하게 밝혔다. 그는 “우리는 10대들의 사생활이나 자유보다 안전을 우선시한다”며 “이것은 새롭고 강력한 기술이며 미성년자에게는 상당한 보호가 필요하다고 믿는다”고 적었다. 이어 “(18세 미만 전용 챗GPT는) 어려운 결정이지만 전문가들과 논의한 결과 이것이 최선이라고 생각하며 우리의 의도를 투명하게 밝히고 싶다”고 덧붙였다. 결국 오픈AI는 ‘혁신의 자유’보다 ‘사용자 보호’라는 사회적 책임을 선택한 셈이다. AI 기술의 선두 주자인 오픈AI가 내놓은 이번 청소년 보호 대책은 향후 구글, 메타 등 다른 AI 개발사들의 정책에도 상당한 영향을 미칠 것으로 보인다.2025-09-17 08:00:11
-
'정품인 줄 알았는데'…짝퉁 화장품 기승에 칼 빼든 동국제약…유통망 단속 강화 [이코노믹데일리] 최근 짝퉁(위조) 화장품 유통이 기승을 부리자 동국제약이 강력한 법적 대응에 나섰다. 자사 화장품 브랜드를 도용한 불법 유통 행위에 대해 유통망 단속과 함께 수사기관에 고발을 진행하며 브랜드 보호에 칼을 빼든 것이다. 9일 업계에 따르면 동국제약은 최근 자사 대표 화장품 브랜드 ‘센텔리안24’의 짝퉁 제품이 온라인 오픈마켓과 SNS 등 비공식 채널을 통해 유통되고 있다는 사실을 포착하고 정식 수사 요청과 유통망 모니터링 강화에 나섰다. 센텔리안24 관계자는 “비정상 유통경로에서 판매되는 제품은 품질을 담보할 수 없고 소비자의 피부에 직접 닿는 제품인 만큼 피해가 심각할 수 있다”며 “정식 유통처 이외에서 구매한 제품에 대해서는 교환이나 환불 등 A/S도 어렵다”고 설명했다. 또한 동국제약은 위조 의심 제품을 구매한 소비자 제보를 접수해 정품 여부를 확인하는 소비자 지원 창구도 마련했다. 이러한 문제는 이번이 처음이 아니다. 과거에도 고가의 화장품 브랜드를 중심으로 위조품 유통이 사회적 문제로 떠오른 바 있으며 최근에는 SNS를 통해 인기 브랜드의 가짜 마스크팩과 크림을 대량 유통한 사례가 경찰에 의해 적발되기도 했다. 이들 위조 제품은 유통기한이나 성분 표기가 누락되거나 조작돼 있어 피부 트러블·알레르기 등 실질적인 소비자 피해로 이어지는 경우가 많았다. 특히 소셜미디어와 커뮤니티 등 비공식 경로에서 저렴한 가격으로 구매하는 소비자들이 주로 피해를 입었다. 업계 관계자들은 “브랜드 신뢰와 제품 품질에 대한 소비자 기대가 높은 만큼 위조품 유통은 단순한 유통 문제가 아니라 기업 명성과 직결된 리스크”라고 지적한다. 동국제약 역시 이번 사태를 계기로 위조품 유통에 대한 무관용 원칙을 천명하고 향후 정기적인 모니터링 및 법적 조치 강화를 예고했으며 “브랜드 도용과 위조품 유통에 대해 무관용 원칙으로 대응할 방침이며 소비자의 안전과 신뢰를 지키기 위해 정품 식별 강화, 모니터링 확대, 유통처 정비 등 다각적인 보호조치를 지속하겠다”고 강조했다. 식품의약품안전처 역시 정기 단속과 온라인 유통 조사를 강화하고 있다. 식품의약품안전처는 올해부터 화장품법 개정을 통해 기존에 식품에만 적용되던 유해 제품의 국내 반입 차단 근거를 화장품에도 확대 적용해 유해성이 확인된 화장품의 수입을 원천 차단하고 있다.2025-06-09 18:18:04
-
"AI 유해성 막는다" 카카오, 안전 검증 모델 '카나나 세이프가드' 공개 [이코노믹데일리] 카카오가 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발하고 국내 기업 최초로 모델 3종을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스 출시로 유해 콘텐츠 위험성에 대한 사회적 우려가 커짐에 따라 기술적·제도적 장치를 마련한 것이다. 주요 빅테크 기업들도 생성형 AI로 발생 가능한 위험 요소를 감지하는 특화 모델을 운영 중이다. ‘카나나 세이프가드’는 카카오가 자체 개발한 언어모델 ‘카나나’를 기반 기술로 활용했으며 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 통해 한국어에 특화된 성능을 갖췄다. 카카오는 AI 모델의 정밀도와 재현율을 평가하는 F1 스코어를 기준으로 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다고 설명했다. 이번에 오픈소스로 공개된 모델은 리스크 유형에 따라 유해성과 위험성을 효과적으로 탐지할 수 있는 3종이다. △사용자의 발화 또는 AI 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 ‘카나나 세이프가드’ △개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드 사이렌’ △AI 서비스를 악용하려는 사용자 공격을 탐지하는 ‘카나나 세이프가드 프롬프트’이며 모두 허깅페이스를 통해 다운로드 가능하다. 카카오는 안전한 AI 생태계 구축에 기여하고자 해당 모델에 상업적 이용과 수정·재배포 등이 자유로운 아파치 2.0 라이선스를 적용했다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정이다. 김경훈 카카오 AI 세이프티 리더는 "생성형 AI의 등장 이래 기술 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획"이라고 말했다.2025-05-27 10:21:53
-
엔이알, 산불피해지역 대피시설에 창문형 공기청정기 '유후' 기증 [이코노믹데일리] 지난 3월 영남지역을 공포로 떨게했던 초대형 산불로 인한 연기와 초미세먼지가 피해지역 주민 건강을 심각하게 위협하는 '침묵의 살인자'가 될 수 있다는 우려가 커지고 있다. 전문가들은 산불 피해가 단순한 재산 손실을 넘어, 장기적으로 주민들의 건강에 치명적인 영향을 미칠 수 있음을 경고하며 지속적인 관심과 대책 마련을 촉구하고 있다. 산불 발생 시 배출되는 연기와 초미세먼지 등 각종 유해물질은 호흡기 질환을 유발할 뿐 아니라, 치매 발병률을 높이고 심지어 태아에게까지 악영향을 미칠 수 있다는 과학적 연구 결과가 속속 발표되고 있다. 실제로 2023년 미국 하와이 라하이나 산불 피해 주민을 대상으로 한 하와이대 연구진의 조사에 따르면, 산불을 경험한 주민들은 그렇지 않은 주민들보다 우울증과 불안증 수치가 높았으며 폐 기능 또한 저하된 것으로 나타났다. 국제 학술지 '사이언스 어드밴시드'는 2008년부터 2018년까지 미국 캘리포니아주 산불로 인한 초미세먼지가 약 5만2000명에서 5만5000명에 이르는 조기 사망자를 발생시켰을 것으로 추정하기도 했다. 국내에서도 산불 피해 지역 주민들이 지속적으로 매캐한 냄새와 초미세먼지에 노출되면서 건강 악화에 대한 불안감이 확산되고 있는 가운데 기업의 사회적 책임 활동도 이어지고 있다. 창문형 청정환기시스템 전문기업 ㈜엔이알은 지난 14일, 경북 영양군 석보면 화매2리 마을회관(이재민 대피시설)에 자사의 창문형 외기유입청정기 '유후' 제품을 기증했다. 해당 지역은 최근 산불로 큰 인명 피해를 입은 곳이다. 엔이알 김수경 대표는 "지난 4월 초 한양대 94 동기회와 구호물품 전달 및 의료봉사차 마을을 방문했다 산불 잔해로 인한 미세먼지와 공기오염의 심각성을 접하고 이재민들의 장기적인 건강을 염려해 제품 기증을 결정했다"고 밝혔다. 엔이알의 제품은 외부 공기의 각종 냄새와 초미세먼지를 필터링해 실내로 유입시키고, 내부의 오염된 공기는 외부로 배출하는 자동 환기 시스템이다. 김 대표는 "이 제품이 이재민들의 건강 회복에 도움이 되기를 바란다"고 전했다. 엔이알과 한양대 94 동기회는 이번 기증을 일회성 지원에 그치지 않고, 추가적인 의료 봉사 및 물품 지원 등 지속적인 후원을 위해 마을 이장과 계속 소통해 나갈 예정이라고 밝혔다. 전문가들은 "산불 피해는 단순한 복구를 넘어 주민들의 건강 회복과 삶의 질 개선을 위한 장기적인 관심과 지원 체계 구축이 필수적"이라며 "특히 산불 연기와 초미세먼지의 유해성에 대한 인식을 높이고, 이에 대한 예방 및 관리 대책 마련이 시급하다"고 지적했다.2025-05-20 16:29:34
많이 본 뉴스
영상
Youtube 바로가기
![[금융경제 레드플래그] 포용금융 역설...고신용자가 외면받는 금융시장](https://image.ajunews.com/content/image/2025/11/17/20251117134108293777_518_323.png)