성인 인증·로그인 없이 시청 가능
네이버 AI 필터링 ‘한계’ 드러나
“실시간 모니터링 등 관리 강화를”

‘게임 리뷰’라고 적힌 한 채널에 접속하니 스트리머가 가슴 부위를 노출한 채 게임 관련 이야기를 이어갔다. 영상 하단에는 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)이 버젓이 전송되고 있었다. 별도의 성인 인증 없이도 접속할 수 있었다. ‘생활 습관을 개선하는 방법’이라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청이 가능했고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만, 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다.

일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하지 않고 있는 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다.

서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다.

업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 걸 이해하기 어렵다고 지적한다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해놨다면 많은 건이 적발됐을 것”이라고 말했다.

이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등 유해 콘텐츠가 몇 건이 적발됐는지는 공개는 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다.

게다가 네이버는 벗방 등 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고, 전체 서비스에서 검토가 필요한 콘텐츠를 모니터링한다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 충분한 모니터링 인력을 바탕으로 하는 시스템이 있어야 한다”고 말했다.