2025.07.04 금요일
검색
'악성 댓글' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, 뉴스 댓글 반응 급증 감지 기능 도입 [이코노믹데일리] 네이버가 뉴스 댓글 공간에서 특정 이용자 반응이 비정상적으로 급증하는 현상을 언론사가 실시간으로 파악하고 대응할 수 있도록 지원하는 새로운 기능을 선보인다. 네이버는 오는 29일부터 ‘댓글 반응 급증 감지 기사’ 기능을 스마트콘텐츠스튜디오에 도입한다고 28일 밝혔다. 이 기능은 특정 기사의 댓글 중 일정 기준 이상으로 공감 또는 비공감이 집중되는 경우를 자동으로 탐지하여 언론사에 알리는 시스템이다. 이를 통해 언론사는 댓글 여론의 이상 흐름을 신속하게 인지하고 필요한 경우 댓글 운영 방식을 조정할 수 있게 된다. 이 기능이 작동하면 댓글 반응 급증이 감지된 기사의 댓글 영역 상단에는 ‘이용자 반응이 급증한 댓글이 있습니다’라는 안내 문구가 노출되어 일반 이용자들도 해당 상황을 인지할 수 있다. 관련 정보는 언론사 담당자가 스마트콘텐츠스튜디오 내 ‘댓글운영 > 이용자 반응 감지’ 메뉴에서 확인할 수 있으며 최근 24시간 내 감지된 기사 중 최대 5개까지 최신순으로 표시된다. 언론사는 이 정보를 바탕으로 개별 기사의 댓글 정렬 방식을 기존의 공감순 외에 최신순, 과거순 등으로 직접 변경할 수 있다. 변경 설정은 해당 기사에만 적용되며, 설정을 해제하면 원래 섹션 기준의 정렬 방식으로 복원된다. 또한 감지된 기사 목록은 알림 메일로도 제공받을 수 있으며 각 언론사는 필요에 따라 메일 수신 여부와 주기(실시간, 일간)를 설정할 수 있어 보다 효율적인 대응이 가능해질 전망이다. 이번 조치는 지난 18일 국회 과학기술방송통신위원회 전체회의에서 최수연 네이버 대표가 언급했던 내용의 후속 조치다. 당시 최 대표는 "정상적인 뉴스 공감 행위가 아닌 비정상적으로 트래픽이 급증할 때는 해당 댓글창 자체를 운영하는 언론사에 즉시 그 내용을 알려주고 이용자들이 알 수 있도록 알리는 방식을 운영할 예정"이라고 밝힌 바 있다. 네이버 측은 “이번 기능은 베타 버전으로 출시되며 앞으로 다양한 이용자와 언론사의 의견을 경청하면서 감지 기준을 고도화하고 기능을 지속적으로 확장·발전시켜 나갈 계획”이라고 설명했다. 이어 “건강한 소통의 장을 구축하기 위해 노력하겠다”고 덧붙였다. 네이버는 댓글 공간의 순기능 확대를 위해 인공지능 기반 악성 댓글 탐지 시스템 ‘클린봇’ 운영, 댓글 공감 클릭 시 시간 및 횟수 제한 도입, 매크로 방지를 위한 캡챠(CAPTCHA) 적용 등 다양한 기술적·제도적 노력을 기울여왔다고 강조했다.2025-04-28 17:40:20
-
네이버, 대형 참사·인명사고 기사 악플과의 전쟁 선포... 탐지 기술 고도화 및 예방 총력 [이코노믹데일리] 네이버가 대형 참사를 포함한 인명사고 기사에 대한 악성 댓글(악플) 근절을 위해 팔을 걷어붙였다. 악플 탐지 기술을 고도화하고 언론과의 협력을 통해 예방 조치를 강화하는 등 전방위적인 대응에 나선다. 네이버는 24일 악플 증가 기사를 감지하는 '클린봇 옵저버' 베타 서비스에 대형 참사 및 인명사고 보도에 대한 악플 감지 및 알림 기능을 1분기 내에 강화하겠다고 밝혔다. 이는 지난해 연말 발생한 제주 항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 사용하는 등, 인명사고 기사에 대한 악플 문제가 지속적으로 제기된 데 따른 조치다. 네이버는 인명사고와 관련한 2차 피해를 방지하기 위해 인명사고 기사 탐지 기술을 고도화하여 '클린봇 옵저버'의 기능을 개선할 계획이다. 2019년 업계 최초로 도입된 AI 기반 악성 댓글 탐지 기술 '클린봇'은 문장의 맥락을 파악하여 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 차별적 표현까지 자동으로 탐지하고 차단하는 역할을 해왔다. 2023년 7월부터는 댓글 작성 시도 수와 악플 비율을 계산하여 악플 위험도가 높은 기사를 선별하고 언론사에 알리는 '클린봇 옵저버' 베타 서비스를 운영 중이다. 나아가 네이버는 언론 협회 및 단체와의 협의를 통해 인명사고 보도 시 악플 예방 문구를 삽입하는 방안을 추진한다. 현재 자살 관련 기사에 삽입되는 자살 예방 정보 문구와 유사한 형태로 인명사고 기사에도 악플 방지를 위한 안내 문구를 추가할 예정이다. 네이버는 2023년 9월부터 '자살 예방 보도 준칙'에 따라 자살 관련 기사에 자살 예방 배너를 삽입하고 댓글 및 추천 스티커 기능을 제한해 왔다. 또한 첨예한 사회적 갈등이나 의견 대립이 감지되는 기사에 대한 대응도 강화한다. 일정 기준 이상 공감 및 비공감이 빠르게 증가하는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 변경하도록 유도할 계획이다. 더불어 악플 예방 문구가 삽입된 기사를 자동으로 대형 참사 또는 인명사고 기사로 인식하여 해당 기사의 댓글을 자동적으로 닫는 방안도 검토 중인 것으로 알려졌다. 네이버 관계자는 "네이버는 사회적 이슈가 되는 자살 보도에 대해 생명 존중 문화 조성과 자살 예방을 위해 노력해왔다"며 "앞으로도 대형 참사를 포함한 인명 사고 기사에 악플이 근절될 수 있도록 클린봇 고도화는 물론 정책적, 기술적 노력을 지속적으로 기울일 것"이라고 강조했다.2025-01-24 16:31:49
많이 본 뉴스
영상
Youtube 바로가기
![[기자수첩] 당국, MG손보 노조 갈등에 내몰린 계약자들...이들의 계약 유지권은 어디에](https://image.ajunews.com/content/image/2025/06/13/20250613110259382074_518_323.png)