2025.04.03 목요일
검색
'악성 댓글' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, 대형 참사·인명사고 기사 악플과의 전쟁 선포... 탐지 기술 고도화 및 예방 총력 [이코노믹데일리] 네이버가 대형 참사를 포함한 인명사고 기사에 대한 악성 댓글(악플) 근절을 위해 팔을 걷어붙였다. 악플 탐지 기술을 고도화하고 언론과의 협력을 통해 예방 조치를 강화하는 등 전방위적인 대응에 나선다. 네이버는 24일 악플 증가 기사를 감지하는 '클린봇 옵저버' 베타 서비스에 대형 참사 및 인명사고 보도에 대한 악플 감지 및 알림 기능을 1분기 내에 강화하겠다고 밝혔다. 이는 지난해 연말 발생한 제주 항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 사용하는 등, 인명사고 기사에 대한 악플 문제가 지속적으로 제기된 데 따른 조치다. 네이버는 인명사고와 관련한 2차 피해를 방지하기 위해 인명사고 기사 탐지 기술을 고도화하여 '클린봇 옵저버'의 기능을 개선할 계획이다. 2019년 업계 최초로 도입된 AI 기반 악성 댓글 탐지 기술 '클린봇'은 문장의 맥락을 파악하여 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 차별적 표현까지 자동으로 탐지하고 차단하는 역할을 해왔다. 2023년 7월부터는 댓글 작성 시도 수와 악플 비율을 계산하여 악플 위험도가 높은 기사를 선별하고 언론사에 알리는 '클린봇 옵저버' 베타 서비스를 운영 중이다. 나아가 네이버는 언론 협회 및 단체와의 협의를 통해 인명사고 보도 시 악플 예방 문구를 삽입하는 방안을 추진한다. 현재 자살 관련 기사에 삽입되는 자살 예방 정보 문구와 유사한 형태로 인명사고 기사에도 악플 방지를 위한 안내 문구를 추가할 예정이다. 네이버는 2023년 9월부터 '자살 예방 보도 준칙'에 따라 자살 관련 기사에 자살 예방 배너를 삽입하고 댓글 및 추천 스티커 기능을 제한해 왔다. 또한 첨예한 사회적 갈등이나 의견 대립이 감지되는 기사에 대한 대응도 강화한다. 일정 기준 이상 공감 및 비공감이 빠르게 증가하는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 변경하도록 유도할 계획이다. 더불어 악플 예방 문구가 삽입된 기사를 자동으로 대형 참사 또는 인명사고 기사로 인식하여 해당 기사의 댓글을 자동적으로 닫는 방안도 검토 중인 것으로 알려졌다. 네이버 관계자는 "네이버는 사회적 이슈가 되는 자살 보도에 대해 생명 존중 문화 조성과 자살 예방을 위해 노력해왔다"며 "앞으로도 대형 참사를 포함한 인명 사고 기사에 악플이 근절될 수 있도록 클린봇 고도화는 물론 정책적, 기술적 노력을 지속적으로 기울일 것"이라고 강조했다.2025-01-24 16:31:49
-
네이버 자율규제위원회, '그린인터넷' 고도화 논의…투명성 및 신뢰도 제고 강조 [이코노믹데일리] 네이버가 이용자 보호 서비스 ‘그린인터넷’의 발전 방향을 논의하기 위해 ‘네이버 이용자보호 및 자율규제위원회(이하 네이버 자율규제위원회)’의 10차 정기회의를 최근 개최했다고 26일 밝혔다. 이번 회의에는 권헌영 고려대학교 정보보호대학원 교수(네이버 자율규제위원회 위원장)를 비롯한 위원 전원과 임남정 네이버 그린UGC 리더 등이 참석하여 ‘그린인터넷’ 캠페인의 운영 현황과 제도 전반에 대한 심도 있는 논의를 진행했다. 2007년부터 시작된 ‘그린인터넷’ 캠페인은 네이버의 다양한 운영 정책과 이용자 보호 활동을 포괄하는 핵심 서비스로 자리매김했다. AI 기술을 활용한 음란물 등 유해 콘텐츠 차단, 악성 댓글 탐지, 저작물 보호 등이 주요 활동이며 이용자들의 올바른 인터넷 사용 문화 조성을 위한 다양한 캠페인도 함께 전개하고 있다. 네이버 자율규제위원회는 이번 회의에서 ‘그린인터넷’ 서비스의 투명성 강화와 객관적인 신뢰도 제고를 강조했다. 구체적으로는 콘텐츠나 댓글 등에 대한 이용자 제한 조치가 내려질 경우 그 배경 근거와 사유를 이용자에게 보다 명확하게 안내할 것을 권고했다. 또한 이러한 보호 활동의 정확한 지표 관리 체계를 구축하고 이를 공개함으로써 네이버의 노력과 정책에 대한 신뢰도를 높일 필요가 있다고 제언했다. 이에 대해 네이버는 KISO(한국인터넷자율정책기구)와의 협력 하에 진행되는 자율규제와 법적 근거에 기반한 제한 조치를 명확히 구분하여 안내하고 세부 분류 체계를 확립하여 데이터의 정확성을 높이는 등 건전한 인터넷 문화 조성에 더욱 적극적으로 기여할 것을 약속했다. 권헌영 위원장은 “최근 ESG 경영과 기업의 사회적 책임에 대한 관심이 높아지는 상황에서 네이버의 이러한 활동은 매우 의미 있는 노력으로 평가된다”며 “이용자들의 인터넷 사용 환경이 지속적으로 활발해지고 있는 만큼 이용자 보호를 위한 네이버의 직간접적인 노력들을 더욱 정확하고 객관적인 측면에서 알려야 한다”고 강조했다. 한편 네이버 자율규제위원회는 매월 정기회의를 통해 서비스 전반의 사용자 보호 현황을 점검하고 개선 방향을 권고하고 있다. 지난 9월과 10월 회의에서는 소상공인 교육 프로그램 ‘비즈니스 스쿨’과 다크패턴 방지 노력의 성과를 논의했으며 비즈니스 스쿨의 경우 공공기관과의 협력 확대 및 교육을 넘어 상생 생태계 구축까지 나아갈 것을 주문한 바 있다.2024-12-26 10:31:03
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 손바닥으로 하늘 가리는 GM](https://image.ajunews.com/content/image/2025/03/20/20250320182759531950_518_323.jpg)