성평등가족부가 디지털 성범죄 피해자를 보호하기 위해 인공지능(AI) 기반의 3대 핵심 기술 시스템을 본격 도입한다고 밝혔다. 이로써 기존의 수동적이고 사후적인 대응 방식의 한계를 보완하고, 피해자 중심의 신속하고 선제적인 대응 체계가 구축될 전망이다.

새롭게 도입된 시스템의 가장 큰 특징은 피해 영상물 삭제 요청의 '자동화'다. 성평등부는 약 2만 개 사이트에 대한 삭제 요청부터 처리 이력 관리까지 전 과정을 자동화하여, 건당 처리 시간을 기존보다 크게 단축된 1분 이내로 줄였다. 특히 중앙디지털성범죄피해자지원센터의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자인 클라우드플레어(Cloudflare)와 API로 연계해, 우회 접속 URL도 대량으로 자동 삭제 요청할 수 있게 되었다. 아울러 실무 종사자들의 정신적 소진 예방을 위해 미국 NCMEC의 선진 사례를 참고하여 영상물을 회색조로 흐리게 처리하는 '촬영물 필터' 기능도 추가되었다.

또한, 아동·청소년을 노린 온라인 성착취에 대한 선제적 대응 시스템도 가동된다. AI 기술이 소셜네트워크서비스(SNS)와 랜덤채팅앱 등에서 성착취물 및 유인 정보를 24시간 자동으로 수집하고 분석해 신고와 삭제 요청까지 진행한다. 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술이 탑재되었으며, 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단 등을 다단계로 분석한다. 시스템 구축 이후 25일 동안의 시범운영 결과, 종사자 1인당 일평균 성착취물 수집 건수는 2.7배 이상, 유인 정보 수집 건수는 80배 이상으로 대폭 증가한 것으로 확인되었다. 향후 성착취물은 신속하게 선제적 삭제지원을 하고, 유인정보는 전문 상담원이 개입하는 '온라인 아웃리치'를 병행할 예정이다.

갈수록 교묘해지는 딥페이크 범죄에 대응하기 위한 'AI 기반 딥페이크 탐지 솔루션'도 주목할 만하다. 담당자의 육안에 의존하던 기존 방식에서 벗어나, AI 솔루션을 통해 사진과 동영상의 딥페이크 여부를 즉시 판별해 낸다. 실제 수사기관을 통해 접수된 사례 중, 센터가 모니터링을 통해 추가로 발견한 사진들이 육안으로는 구별이 불가능했으나 AI 솔루션으로 딥페이크 합성물임을 신속하게 확인하여 즉시 유포 차단 조치를 진행한 바 있다.

원민경 성평등가족부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며, "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 강조했다. 

[Factos Focus: 알기 쉬운 용어 해설 코너]

API (Application Programming Interface) 

서로 다른 시스템이나 프로그램이 실시간으로 데이터를 주고받을 수 있게 해주는 '연결 통로'입니다. 이번 조치로 국내 센터와 해외 기관이 번거로운 절차 없이 시스템 대 시스템으로 즉각적인 삭제 요청을 주고받을 수 있게 되었습니다.

CDN (Content Delivery Network) 

전 세계 사용자에게 웹 콘텐츠를 빠르고 안전하게 전송하기 위해 구축된 서버 네트워크입니다. 불법 사이트들이 사이트 차단을 피하기 위해 클라우드플레어(Cloudflare) 같은 글로벌 CDN의 우회망을 악용하는 경우가 많아, 이들과의 직접적인 협조 체계가 필수적입니다.

NCMEC (미국 국립실종학대아동방지센터) 

전 세계적인 아동 성착취물 근절을 위해 핵심적인 역할을 수행하는 미국의 공신력 있는 비영리 기관입니다.

해외 우회 서버 차단의 핵심 

웹 검색을 통한 추가 조사 결과, 디지털 성범죄 사이트의 대다수는 수사망을 피하고자 수시로 URL을 바꾸고 글로벌 CDN 서비스를 방패막이로 사용합니다. NCMEC 및 클라우드플레어와의 API 직접 연동은, 이들이 생성하는 새로운 우회 접속 주소를 사후가 아닌 실시간 단위로 대량 무력화할 수 있는 매우 강력한 기술적·행정적 수단으로 평가받고 있습니다.