서울시, AI로 불법 촬영물 자동 신고·삭제…전국 최초 시스템 도입

서울시가 인공지능(AI)을 활용해 온라인상에서 디지털 성범죄 영상을 자동으로 탐지하고 삭제까지 요청하는 ‘AI 자동 삭제 신고 시스템’을 전국 최초로 도입했다. 시는 21일 해당 시스템의 본격적인 가동에 들어갔다고 밝혔다.

서울시는 이미 2023년부터 피해자가 제공한 사진이나 ‘교복’, ‘청소년’ 등 특정 키워드를 기반으로 AI가 불법 촬영물을 탐지하는 기술을 도입한 바 있다. 당시 AI는 2시간 걸리던 영상 탐색 작업을 약 3분으로 단축시키며 효율성을 입증했다.

하지만 기존 시스템은 영상 탐지 후에도 피해자가 직접 수사 의뢰용 자료를 정리해 삭제 요청을 보내야 하는 번거로움이 있었다. 이 때문에 실제 삭제까지 최대 3시간이 걸렸다는 지적이 있었다.

이번에 도입된 시스템은 탐지된 영상의 사이트 주소, 게시글 내용 등 수사 의뢰에 필요한 정보를 자동으로 문서화하고, 삭제 요청 이메일까지 자동으로 작성·전송한다. 영어, 중국어, 일본어, 러시아어 등 7개 언어도 지원돼 해외 사이트 대응도 가능하다.

서울시는 이 시스템을 통해 삭제 요청까지 걸리는 시간이 기존 최대 3시간에서 평균 6분으로 단축될 것으로 기대하고 있다. 서울시 관계자는 “삭제 속도가 빨라지면 불법 영상의 확산 위험도 그만큼 줄어든다”고 설명했다.

한편 서울시의 AI 모니터링 기술 도입 이후 디지털 성범죄 영상 삭제 지원 건수는 2022년 2509건에서 2023년 1만4256건으로 5배 이상 증가했다. 시는 특히 아동·청소년 피해자가 2년 새 13배 이상 늘어난 점을 지적하며, 누구든지 서울 디지털 성범죄 안심 지원센터에 연락해 지원을 받을 수 있다고 강조했다.