- AI가 24시간 모니터링부터 삭제신고 이메일 생성까지 전 과정 자동화…처리속도 30배 빨라져
- 피해자 지원 3년간 3,650명, 아동·청소년 피해 13배 증가…서울시, 원스톱 지원 시스템 확대
서울시가 디지털 성범죄 영상물에 대한 대응 속도를 획기적으로 끌어올렸다. 온라인에 유포된 불법 영상물을 인공지능(AI)이 찾아내고, 자동으로 삭제 신고까지 진행하는 ‘AI 자동 삭제신고 시스템’을 전국 최초로 개발해 본격 도입한다고 21일 밝혔다. 영상물 탐지부터 신고서 작성, 이메일 생성까지 기존 3시간 가까이 걸리던 절차가 이제 단 6분이면 완료된다.
서울시는 지난해 3월, 서울연구원과 협력해 ‘디지털 성범죄 AI 삭제지원 기술’을 개발하고, 산하 서울디지털성범죄안심지원센터(서울여성가족재단 운영)를 통해 24시간 불법 영상물 모니터링 및 삭제를 지원해왔다. 여기에 이번에는 영상물이 검출되면 AI가 곧바로 자동 채증 및 삭제 신고까지 수행하는 시스템을 세계 최초 수준으로 구축했다.
‘AI 자동 삭제신고 시스템’은 멀티모달 대형언어모델(MLLM)과 셀레니움(Selenium) 기반 웹 자동화 기술을 결합해 운영된다. AI가 불법 영상물을 감지하면 즉시 이미지, 텍스트, URL 등의 핵심 정보를 추출해 채증 보고서를 자동 생성하고, 삭제 요청 이메일을 자동으로 작성한다. 삭제지원관은 이 이메일을 최종 검토한 후 전송하면 된다.
이 시스템의 도입으로 디지털 성범죄 대응 속도는 획기적으로 개선됐다. 기존에는 신고 담당자가 영상 하나하나를 수작업으로 확인하고 채증했지만, 이제 AI가 24시간 자동으로 탐지하고 증거 문서를 작성하는 등 전 과정을 대신 수행한다. 처리시간은 평균 2시간 반에서 단 6분으로 줄었고, 속도는 약 30배 향상됐다.
서울시에 따르면 AI 기술 도입 이후 성과는 수치로도 뚜렷하게 드러난다. 2022년 2,509건이었던 삭제지원 건수는 2023년에는 14,256건으로 무려 468% 증가했다. 영상물 검출 속도는 97.5% 단축되었고, 탐지 정확도는 2배 이상 향상되었다. 특히 AI는 새벽 시간대 등 사람이 대응하기 어려운 시간에도 자동으로 영상을 탐지할 수 있다는 점에서 실효성이 크다. 삭제지원관이 영상물을 직접 보며 겪는 트라우마도 줄일 수 있는 장점이 있다.
피해 영상물의 해외 유포 사례가 증가하는 상황에서, 서울시는 AI가 자동으로 다국어 삭제신고서를 작성할 수 있도록 기능도 고도화했다. AI는 영어, 중국어, 일본어, 러시아어 등 7개 언어로 삭제 요청 이메일을 생성할 수 있어 미국뿐 아니라 중국, 러시아, 베트남 등으로 확산되는 디지털 성범죄에 효과적으로 대응하고 있다.
서울디지털성범죄안심지원센터는 2022년 개관 이후 3년간 총 3,650명의 피해자를 지원해왔으며, 이 가운데 아동·청소년 피해자는 무려 13배 이상 증가한 것으로 나타났다. 2022년 50명에 불과했던 아동·청소년 피해자는 2024년에는 624명으로 급증했고, 온라인 그루밍 피해 건수도 같은 기간 19건에서 370건으로 20배 이상 늘었다.
센터는 피해자에게 삭제 지원뿐 아니라 수사, 법률, 심리치료, 의료지원 등 전 과정을 원스톱으로 제공한다. 특히 아동·청소년이 부모에게도 말 못하는 피해를 익명으로 상담할 수 있도록 카카오톡 오픈채팅 ‘디지털성범죄 SOS 상담’ 채널도 운영 중이며, 학부모 대상 심리치료도 무료로 지원하고 있다.
서울시 여성가족실 김선순 실장은 “n번방 사건, 딥페이크 성범죄 등 갈수록 고도화되는 디지털 성범죄에 대응하기 위해 전국 최초로 AI 모니터링 기술을 도입했고, 이제는 AI가 삭제신고까지 수행하게 됐다”며 “앞으로도 아동·청소년이 안전한 서울을 만들기 위해 디지털 성범죄 대응 체계를 더욱 정교하게 발전시켜 나가겠다”고 밝혔다.
