성평등가족부가 인공지능(AI)과 빅데이터 기술을 전면 접목한 아동·청소년 온라인 성착취물 24시간 탐지 및 신고 시스템을 성공적으로 안착시킨 가운데, 대대적인 삭제 지원 실적 향상 성과를 공식 발표했다.
그간 일선 실무자들의 수작업 위주 모니터링 방식에서 탈피하여 24시간 상시 가동되는 지능형 자동화 체계를 구축한 결과, 디지털 성범죄 피해물에 대한 대응 역량이 국가적 차원에서 비약적으로 도약했다는 평가가 지배적이다.
성평등가족부와 한국여성인권진흥원이 공개한 운영 성과 자료에 따르면, 지난 4월부터 본격 가동에 들어간 AI 기반 탐지 시스템은 최근 6개월 동안 총 9만 6천여 건에 달하는 아동·청소년 성착취물 삭제를 지원했다. 이는 전년도 1년 동안 종사자들의 육안 및 수작업 모니터링을 통해 처리했던 총 4만 5천여 건의 실적과 비교할 때, 불과 반년 만에 두 배를 훌쩍 뛰어넘는 막대한 물량을 소화해 낸 것이다.
특히 주목할 대목은 종사자 1인당 하루 평균 처리 건수로, 과거 20.8건에서 202.1건으로 무려 9.7배 폭증했다. 구글, 트위터(X), 블루스카이, 텔레그램 및 각종 채팅앱 등 14개 주요 온라인 채널에서 수십만 건에 이르는 텍스트, 이미지, 영상 데이터를 AI가 일괄 수집하고 1차 선별 과정을 도맡으면서 실무진의 업무 효율성이 극대화된 결과물이다.
이번 AI 시스템 도입은 단순히 업무 처리 속도의 가속화를 넘어 실무자들의 심리적 안전망 구축 측면에서도 커다란 의의를 지닌다. 과거에는 담당 실무자들이 불법 영상물과 성착취물을 직접 육안으로 무수히 확인하는 과정에서 심각한 정신적 스트레스와 트라우마에 시달리는 부작용이 끊이지 않았다. 그러나 인공지능이 유해 게시물과 성착취 여부를 1차적으로 탐지하여 선별 제공함에 따라, 실무진이 자극적인 콘텐츠에 직접 노출되는 빈도가 대폭 감소했다. 이로 인해 종사자들의 고질적인 심리적 부담이 완화되었으며, 더욱 본질적이고 세심한 피해자 상담 및 맞춤형 지원 업무에 역량을 집중할 수 있는 안정적인 근로 환경이 조성됐다.
아울러 해외 서버를 기반으로 은닉·유포되는 불법 사이트에 대한 국제 공조 및 대응력도 한층 고도화되었다. 중앙디지털성범죄피해자지원센터는 미국 국립실종학대아동방지센터(NCMEC)의 사이버팁라인 및 글로벌 CDN 사업자인 클라우드플레어(Cloudflare)와의 긴밀한 API 연계를 구축하여 삭제 요청 업무를 완전 자동화했다. 이를 통해 약 2만 개에 달하는 웹사이트의 불법촬영물 및 성착취물 삭제 요청과 이력 관리가 시스템을 통해 유기적으로 이루어지며, 건당 처리 소요 시간 역시 1분 이내로 단축되는 기염을 토했다.
실제로 미국 서버를 기반으로 두고 삭제 요청에 불응하던 해외 사이트에서 95건, 클라우드플레어를 통한 대규모 자동 삭제로 2만 5천여 건의 성착취물이 신속하게 제거되는 등 실효성 있는 국경 초월 대응 체계가 자리 잡았다.
정부는 이러한 가시적 성과에 만족하지 않고, 다해인 2027년까지 대대적인 AI 시스템 고도화 사업을 지속 추진할 계획이다. 과학기술정보통신부와의 협업을 통해 현재 14개인 탐지 대상 플랫폼을 2027년까지 139개로 대폭 확장하는 한편, 정해진 단순 키워드나 사진 위주의 판별에서 벗어나 대화의 흐름과 문맥, 신종 및 우회 표현까지 스스로 이해하고 분석하는 차세대 AI 모델을 도입할 방침이다. 또한 중앙센터가 보유한 10만 건 이상의 축적된 사례 데이터를 자가 학습 알고리즘에 지속 반영하여 탐지 및 판별 정확도를 극대화할 예정이다.
아울러 피해 청소년에게 즉각적인 지원 정보를 연계할 수 있는 AI 챗봇을 도입하고, 중앙센터의 핵심 기능과 DNA 기반 동일·유사 영상 자동 탐지 기능을 탑재한 '설치형 삭제 지원 소프트웨어(SW)'를 개발하여 전국 지역디지털성범죄피해자지원센터에 보급함으로써 지역 현장의 대응 역량도 상향 평준화할 방침이다.
원민경 성평등가족부 장관은 급변하는 디지털 기술 환경 속에서 나날이 교묘해지고 지능화되는 디지털 성범죄에 강력하고 실효성 있게 대응하기 위해서는 정부 차원의 선제적인 기술적 인프라 투자가 필수적이라고 역설했다. 이어 앞으로도 인공지능과 빅데이터 등 최신 ICT 기술을 현장에 적극적으로 융합하여 대응 속도와 정확도를 최고 수준으로 끌어올리고, 더욱 촘촘하고 입체적인 지원 체계를 구축하여 피해자들이 온전하고 신속하게 일상으로 복귀할 수 있도록 모든 역량을 다하겠다고 강조했다.
한편, 성폭력이나 디지털성범죄, 가정폭력 등으로 인해 전문가의 긴급한 도움이 필요한 피해자는 365일 24시간 연중무휴로 운영되는 여성긴급전화 1366을 통해 즉각적인 상담 및 보호 조치를 받을 수 있으며, 경찰 신고 이전 단계부터 제공되는 무료 법률 지원과 수사·소송 연계 서비스도 폭넓게 지원받을 수 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
