[한국미래일보] 네이버 'SCS 클린봇옵저버', 나날이 증가하는 사회 문제 해결사가 될 수 있을까?

안녕하세요, 한국미래일보 기자단 7기 김동건입니다.
이번 콘텐츠로는 악성 댓글, 여론 조작 등을 해결하고자 도입된

네이버 'SCS 클린봇옵저버'에 대해 여러분께 알려드리고자 합니다.

https://www.etnews.com/20250124000049

네이버, '클린봇 옵저버' 고도화…대형참사 인명사고 악플 대응

악성 댓글과 여론 조작을 통해

다양한 사회 문제를 발생하고 있습니다.

 

그렇기 때문에

오늘  네이버에서 고도화한 '클린봇옵저버'를

알려드리려고 합니다!

 

1. 'SCS 클린봇옵저버'란?

악플 작성 시도 비율을 계산해 감지대상 기사를 자동으로 선별하고,

해당 기사를 언론사에 알려주는 서비스

언론사들은 이전보다 빠르게

댓글제공 중단 필요성 확인 및 즉각 중단을 결정할 수 있습니다.

---

 

2. 네이버는 왜?

 

추가적인 대응 필요성에 따라 인명사고 탐지 AI 기술을 클린봇 옵저버에 적용할 것. 대형 참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화하는 등 고도화할 예정이다.

라고 네이버에서는 밝혔습니다.

이와 함께 네이버는 언론단체와 함께 상반기 중으로

참사 보도 권고 기준 및 악플 예방 문구를 마련해,

해당 보도 시 문구를 삽입하도록 협의할 방침이라는 입장입니다.

---

3. 어떤 방식으로?

https://news.bizwatch.co.kr/article/mobile/2025/01/24/0006

네이버, AI로 '참사 악플' 차단한다

네이버 뉴스는 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토 중이다. 댓글 내 공감, 비공감이 모두 일정 기준 이상 빠르게 올라가는 경우, 언론사에 알림을 주어 댓글 정렬 방식을 최신순, 답글순, 과거순 등으로 전환하도록 유도하는 방식이 될 것이다.

네이버 관계자는 이런 방식을 통해

당면한 사회 문제 해결하겠다는 입장을 드러냅니다. 

 

ex) 언론사가 '자살 예방 문구'처럼 특정 악플 예방 문구를 기사 내에 삽입하면 대형참사, 인명사고 기사로 탐지해

해당 기사 댓글이 자동으로 닫히는 방식을 함께 논의한다는 것.

---

4. 댓글로 말미암은 피해 사례들

1) 악성 댓글

https://imnews.imbc.com/replay/2022/nwtoday/article/6339502_35752.html

악성 댓글 시달린 유튜버·배구선수‥잇따라 극단 선택

악성 댓글에 시달려

연예인, 스포츠 선수, 인플루언서, 사고 피해자 등이

극단적인 선택에 이르는 모습들이 확인되고 있습니다. 

 

현재, 모욕죄를 통해 악성 댓글에 대해

처벌하고 있습니다.

 

온라인에 악플을 게시하는 경우, 아래 규정에 의하여 형사처벌을 받을 수 있습니다.

[형법]
제311조 (모욕)
공연히 사람을 모욕한 자는 1년 이하의 징역이나 금고 또는 200만원 이하의 벌금에 처한다.

[정보통신망 이용촉진 및 정보보호 등에 관한 법률]

제70조 (벌칙)

①사람을 비방할 목적으로 정보통신망을 통하여 공공연하게 사실을 드러내어 다른 사람의 명예를 훼손한 자는 3년 이하의 징역 또는 3천만원 이하의 벌금에 처한다.

②사람을 비방할 목적으로 정보통신망을 통하여 공공연하게 거짓의 사실을 드러내어 다른 사람의 명예를 훼손한 자는 7년 이하의 징역, 10년 이하의 자격정지 또는 5천만원 이하의 벌금에 처한다.

 

이로 인해, 악성 댓글을 받은 당사자들은

법을 통해 악성 댓글 근절에 힘쓰고 있습니다.

 

2) 여론 조작

https://www.yna.co.kr/view/AKR20210721083400004

반전 거듭한 '드루킹 댓글조작' 사건…4년여만에 마무리 | 연합뉴스

여론 조작을 통해 여론 선동

덜미가 잡힌 드루킹 사건 역시

온라인을 통한 여론 조작이 얼마나 쉬운지

보여주는 사례였습니다.

 

한 네티즌이 평창 동계올림픽 남북 단일팀 관련 기사에 달린 정부 비판 댓글의 공감수가 비정상적으로 빠르게 올라가는 모습을 촬영해 유튜브에 올리면서 댓글 조작 의혹이 제기됐다. 이를 본 여당은 매크로(자동입력반복) 프로그램을 통한 조작이 의심된다며 수사를 의뢰했다.

경찰이 수사를 통해 댓글을 조작한 일당 3명을 붙잡고 보니 뜻밖에도 이들 중 2명이 더불어민주당 당원이었다. 특히 이 중 1명에게서는 문 대통령의 '복심'으로 불리던 김 지사와 연락을 주고받은 내역이 나왔다. '드루킹'이라는 필명으로 네이버에 시사 블로그를 운영하던 김동원 씨였다.

김씨는 19대 대선에서 더불어민주당 후보를 당선시킬 목적으로 2016년 말부터 매크로 프로그램인 '킹크랩'을 이용해 댓글 조작을 벌인 것으로 드러났다. 그는 이를 대가로 김 지사에게 자신이 이끈 '경제적공진화모임'(경공모)의 회원을 일본 대사 등으로 추천했지만 무산되자 이른바 '역작업'을 하다 덜미가 잡힌 것이다.

 

또한, 현재 윤석열 대통령 탄핵과 관련해

탄핵 찬성파, 탄핵 반대파가 여론 선점을 위해

뜻과 맞지 않는 댓글들에 비공감을

뜻에 맞는 댓글들에 공감을 누르며

여론 조작에 가담하고 있는 모습들이 속속 확인되고 있습니다.

---

더 자세하게 알고 싶다면?!

https://blog.naver.com/naver_diary/223736180939

네이버, ‘클린봇 옵저버’ 고도화해 대형참사 인명사고 악플에 대응합니다.

네이버 공식 블로그 '네이버 다이어리'에서

확인 가능합니다!

---

 

관련 기사를 보길 원하신다면?

http://www.koreafuture.co.kr/news/view.php?idx=17723

네이버 1분기 도입 ‘SCS 클린봇옵저버’, 사회 문제 해결 가능할까?