네이버, 악성 댓글 걸러내는 'AI 클린봇' 기술 공개한다

다른 사이트에도 제공…욕설 사이 오타 넣어도 95% 이상 잡아내

개발팀, DEVIEW에서 성희롱·음란·혐오 댓글 잡는 신기술 발표

네이버 'AI 클린봇' [네이버 제공. 재판매 및 DB 금지]

네이버가 악성 댓글(악플)을 필터링하는 '클린봇' 기술을 다른 사이트나 앱에서도 활용할 수 있도록 공개한다.

26일 IT업계에 따르면 최경호 네이버 미디어인텔리전스 소속 개발자는 전날 개막한 네이버 개발자 콘퍼런스 '데뷰(DEVIEW) 2020'에서 이런 내용을 발표했다.

그에 따르면 네이버는 AI 클린봇의 API(응용프로그램 인터페이스)를 조만간 오픈 API로 공개하기로 했다.

API란 어떤 기술의 프로그래밍 규격으로, API를 오픈하면 다른 사이트에서 해당 기술을 '호출'해 쓸 수 있다. 쇼핑몰 앱에서 네이버로 가입·로그인하거나, 기업이 회사 위치를 구글 맵으로 알리는 것 등이 대표적인 오픈 API 사례다.

네이버는 '네이버 개발자 센터'(NAVER Developers)에서 일부 네이버 기술의 오픈 API를 제공하고 있다.

클린봇은 악성 댓글을 자동으로 가리는 네이버의 AI 기술이다. 지난해 4월부터 웹툰·스포츠·연예·뉴스 등의 댓글에 차례로 도입됐다.

올해는 단순히 욕설·비속어가 포함된 댓글뿐 아니라 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되면 댓글을 가리는 수준으로 클린봇이 고도화됐다.

올해 상반기 기준으로 욕설 사이에 일부러 이모티콘이나 오타를 넣은 사례까지 모두 거르는 클린봇 2.0의 정확도는 95%에 달했다. 클린봇 도입 이전 대비 악플 탐지 건수는 2배가량 늘었고, 악성 댓글 신고 건수는 19% 줄었다.

네이버가 클린봇 API를 공개하면 다른 사이트나 앱 개발자도 클린봇 기술을 가져다 쓸 수 있게 된다. 제휴·심사 등을 거치면 무료로 쓸 수 있다.

최경호 개발자는 데뷰 발표에서 성희롱·음란성 댓글을 잡아내는 별도의 기술인 '클린봇 레드·오렌지 버전'을 개발하고 있다고도 발표했다.

네이버는 성희롱 댓글의 경우 일반적인 악플보다 더 섬세한 접근이 필요하다고 판단해 별도 모델을 개발했다.

'레드 모델'은 텍스트만으로 명백한 성희롱이거나 음란성 의도가 보이는 댓글을 걸러내는 기술이다.

'오렌지 모델'은 댓글 텍스트 자체에는 성적인 표현이 없지만 기사나 게시글 본문과 이어지는 맥락이 있거나 성 인지 감수성 관점에서 봤을 때 부적절한 댓글을 걸러낸다.

발표 자료의 예시로 보면 오렌지 모델은 '세계에서 가장 섹시한 골퍼', '오늘은 이거다' 같은 댓글도 성희롱으로 인지하는 모습을 보였다.

최경호 개발자는 "혐오·비하 표현이나 공격성을 띠는 댓글을 잡아내는 모델도 개발하고 있다"며 "스포츠 커뮤니티에서는 적절한 싸움을 허용하는 식으로, 각자 서비스에 맞게 악플 기준을 달리하는 모델도 개발 중"이라고 덧붙였다.

데뷰는 네이버가 2008년부터 개최해온 국내 최대 규모 소프트웨어·인공지능(AI) 분야 개발자 콘퍼런스다. 27일까지 열리며, 간단한 등록 절차를 거치면 네이버TV 온라인 생중계로 시청할 수 있다.

[출처] 연합신문(https://www.yna.co.kr/view/AKR20201125169200017?input=1195m)