AI 도입 후 45만건 모니터링… 검출 시간 97% 단축
아동·청소년 피해 영상물 지원 프로그램도 개발 예정

서울시는 디지털 성범죄 인공지능(AI) 삭제 지원 프로그램이 행정안전부가 개최한 ‘2023 정부 혁신 우수 사례 경진 대회’에서 대통령상 대상을 받았다고 28일 밝혔다.

디지털 성범죄 AI 삭제 지원 프로그램은 AI 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출해 삭제하고 재유포를 막는 시스템이다. 서울시와 서울연구원은 지난해 7월 프로그램 개발에 착수해 올해 3월 프로그램 개발을 마쳤다.

AI 기술을 활용해 빠르고 정확하게 영상물을 찾아내 삭제를 지원하고, 이를 통해 피해자의 고통을 줄이고 일상 회복을 지원한다는 점에서 높은 평가를 받았다.

실제 AI 기술 도입 이후 7개월간 총 45만 건의 영상물을 모니터링했으며 AI 기술 도입 전 사람(삭제 지원관)이 직접 모니터링했을 때와 비교하면 1265% 증가했다.

사람이 키워드 입력부터 영상물 검출까지 하는데 평균 2시간 걸린 것에 비해 AI 기술은 3분이 소요돼 검출 시간이 97.5% 단축됐다. 피해 영상물 삭제 지원 건수도 2배로 늘었다.

시는 앞으로 아동·청소년 피해 예방에 주력할 계획이다. 본인이 삭제를 요청해야 지원할 수 있는 성인과 달리 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모의 신고 없이 즉시 삭제가 가능한 만큼 AI 기술을 바탕으로 디지털 성범죄 피해 예방에 선제적으로 나설 방침이다.

이를 위해 시는 내년 상반기 안으로 서울연구원과 ‘AI 기반 아동·청소년 피해 영상물 삭제 지원 프로그램’도 개발할 예정이다.

해당 프로그램에는 아동·청소년 연관 게시글을 종합 분석해 성별과 나이 등을 예측하는 모델이 적용돼 아동·청소년 피해 영상물을 삭제하는 데 도움을 줄 것으로 기대된다.