아동·청소년 성착취물 AI가 90초면 찾아내 삭제

​서울시, 전국 최초 개발...24시간 AI 감시
AI 안면인식으로 성별·나이 예측

한국헬스경제신문 한기봉 기자 |
 

“야한 사진 보내줘. 얼굴 안 나와도 돼. 보내주면 5만 원도 줄 수 있어.”

 

지난해 9월 중학생 A양(16)은 SNS에서 대화하면 1건당 70원을 준다는 광고를 접했다. 그렇게 접근한 가해자는 처음엔 일상적 대화를 이어갔지만 점차 노출 사진을 요구했다. A양이 거절하자 가해자는 “이런 아르바이트하는 걸 부모에게 말하겠다”며 협박했고, A 양이 보낸 ‘야한’ 사진을 온라인에 유포했다.

 

이 사례는 아동·청소년을 대상으로 한 대표적인 디지털 성범죄 유형이다. 미성년 피해자를 유인하고 길들이는 ‘온라인 그루밍’을 비롯해 불법 사진 합성, 동영상 유포, ‘몸캠’ 협박 등이 있다.

 

서울시가 아동·청소년 성착취물을 찾아낼 수 있는 AI(인공지능) 감시 기술을 전국 최초로 개발해 24시간 자동 추적·감시에 나선다고 23일 발표했다.

 

이 첨단 시스템은 AI 딥러닝 기반 안면인식 기술 덕에 가능하다. 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있다. AI가 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년이 사용하는 언어 등을 함께 인식하기 때문에 영상물에 얼굴이 등장하지 않더라도 판별할 수 있다.

 

키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않는다. 기존에 피해 영상물을 수작업으로 찾아낼 때 걸리는 시간의 80분의 1 수준이다. 여기에 정확도는 300% 이상 향상됐다.

 

서울시 관계자는 “지난해 수작업으로 이뤄진 모니터링 건수(15만 건)의 2배인 30만 건까지 모니터링이 가능할 것”이라고 말했다.

 

AI가 성범죄물 관련 신조어도 자동으로 찾아낼 수 있다. 예를 들어 기존엔 삭제지원관이 ‘딥페(딥페이크)’로 검색했다면 이젠 AI가 ‘뒵페’ ‘뒷페’ 등 유사한 신조어까지 자동으로 찾아낸다.

 

검색 영역도 확장했다. 국내와 미국뿐 아니라 중국, 러시아, 베트남 등 국가에 유포된 피해 영상물 검색도 가능해진다. 내년엔 검색뿐 아니라 AI가 자동으로 신고까지 하는 시스템을 개발할 계획이다.

 

서울시는 아동‧청소년의 경우 관련 법에 따라 당사자나 부모의 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 아동‧청소년 성착취물을 빠르게 찾고 삭제해 피해에 신속 대응한다는 계획이다.

 

서울시는 서울연구원에 의뢰해 2023년 3월 전국 최초로 AI 기술을 이용한 디지털 성범죄 자동 추적·감시 알고리즘을 개발했다. 서울디지털성범죄안심지원센터와 함께 다수의 아동‧청소년 피해 영상물을 분석해 최근 프로그램 개발을 마쳤다.

 

서울 디지털 성범죄 안심지원센터에 따르면 아동·청소년을 대상으로 한 디지털 성범죄 피해 지원은 매년 급증해 2022년 총 2026건에서 지난해 1만 5434건으로 7배 이상 늘었다.