서울시, AI로 디지털 성범죄 잡는다-자동 삭제 신고 시스템의 혁신

 

디지털 시대의 명암은 분명하다. 기술이 발전할수록 인간의 삶은 편리해지지만, 동시에 그 그늘 또한 짙어지고 있다.

 특히 디지털 성범죄는 빠른 전파력과 삭제의 어려움으로 인해 피해자에게 심각한 2차 피해를 안겨주는 문제로 대두되고 있다. 

이러한 사회적 문제에 대응하기 위해 서울시는 인공지능(AI) 기술을 활용한 ‘AI 자동 삭제 신고 시스템’을 전국 최초로 개발하고 본격적으로 운영에 들어갔다. 

해당 시스템은 온라인상에서 디지털 성범죄 영상물을 24시간 모니터링하고, 불법 영상을 자동으로 탐지·채증한 뒤, 삭제 요청까지 자동으로 진행하는 통합 플랫폼이다. 

이는 기존 수작업 방식의 한계를 극복하고, 피해자의 고통을 최소화하며, 사회 전반의 안전망을 한층 더 강화하는 기술적 진보라 할 수 있다. 

이 시스템의 주요 기능과 장점, 그리고 실제 사례를 통해 우리가 체감할 수 있는 변화가 무엇인지 구체적으로 살펴보고자 한다.



AI 자동 삭제 신고 시스템이란?
이 시스템은 AI가 온라인상에서 디지털 성범죄 영상을 24시간 모니터링하여 자동으로 탐지하고, 채증 및 삭제 요청까지 수행하는 통합 솔루션이다. 기존에는 불법 영상물을 삭제하는 데 2시간 30분에서 3시간이 소요되었으나, AI 시스템 도입으로 평균 6분으로 단축되었다 .

시스템의 주요 기능은
24시간 AI 모니터링: AI가 온라인상에서 디지털 성범죄 영상을 실시간으로 탐지한다.

자동 채증 및 보고서 생성: 탐지된 영상물은 자동으로 채증되며, 텍스트, 이미지, URL 등의 핵심 정보를 포함한 보고서가 생성된다.

삭제 요청 이메일 자동 생성: 해당 사이트에 삭제 요청하는 이메일이 자동으로 생성되며, 삭제지원관의 최종 확인 후 발송된다.

다국어 지원: 해외에 서버를 둔 사이트에 대응하기 위해 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성한다 .



AI 자동 삭제 신고 시스템의 장점
1. 처리 속도의 획기적 단축
기존에는 불법 영상물의 탐지부터 삭제 요청까지 평균 2시간 30분에서 3시간이 소요되었으나, AI 시스템 도입으로 이 시간이 평균 6분으로 단축되었다. 이는 처리 속도가 약 30배 향상된 것이다 .

2. 피해자 지원의 강화
서울 디지털 성범죄 안심 지원센터는 삭제 지원 외에도 수사·법률 지원, 심리치료·의료 지원을 원스톱으로 제공한다. 특히, 피해 아동·청소년은 카카오톡 오픈채팅방 '디지털 성범죄 SOS 상담'을 통해 익명으로 상담을 받을 수 있으며, 부모를 위한 심리치료도 무료로 지원된다 .

3. 다국어 대응으로 해외 사이트까지 커버
AI 시스템은 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하여 해외에 서버를 둔 사이트에도 신속하게 대응할 수 있다 .

 

 

 

예시: AI 시스템의 실제 적용
예를 들어, SNS에 유포된 불법 영상물이 AI에 의해 탐지되면, 시스템은 해당 영상을 자동으로 채증하고, 관련 정보를 포함한 보고서를 생성한다. 

이후, 해당 사이트에 삭제 요청하는 이메일이 자동으로 작성되며, 삭제지원관의 확인 후 발송된다. 이 모든 과정이 평균 6분 내에 완료되어, 피해자의 2차 피해를 최소화할 수 있다.
서울 미디어 허브


서울시의 'AI 자동 삭제 신고 시스템'은 디지털 성범죄에 대한 신속하고 효율적인 대응을 가능하게 하여, 피해자의 2차 피해를 최소화하고, 안전한 온라인 환경을 조성하는 데 기여하고 있다. 

이러한 기술의 도입은 디지털 성범죄 예방과 피해자 지원에 있어 중요한 전환점이 될 것이다.


서울시가 도입한 AI 자동 삭제 신고 시스템은 단순한 기술적 혁신을 넘어, 디지털 성범죄 피해자 보호라는 인권의 문제에 대한 적극적인 해결책이다. 

24시간 자동 모니터링, 빠른 삭제 요청, 다국어 대응까지 가능한 이 시스템은 그동안 삭제 지연으로 인한 2차 피해를 최소화하고, 사회 전체가 안전하게 디지털 공간을 이용할 수 있도록 하는 데 큰 역할을 한다. 

특히 어린이와 청소년 같은 취약계층이 피해자가 되는 경우가 많은 디지털 성범죄 특성상, 이런 기술적 대응은 단순한 효율성을 넘어선 공공의 책임이라 할 수 있다. 

더 나아가 서울시가 보여준 이 선도적 모델은 전국적인 확산뿐만 아니라, 민간 기업과 플랫폼에도 경각심과 행동의 기준을 제시하는 사례가 될 것이다. 

기술은 결국 사람을 위한 것이며, AI가 사회적 약자를 보듬고 지켜내는 방식으로 발전하는 방향은 분명 바람직하다. 앞으로도 이러한 기술이 더 정교하고 인간 중심적으로 발전해, 모두가 안심하고 디지털 공간을 이용할 수 있는 사회가 되길 기대한다.