과학기술정보통신부와 여성가족부는 7월 23일 세종청사에서 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응시스템’ 과제의 착수보고회를 열고 본격적인 사업 추진에 돌입했다.

이번 사업은 ‘디지털 기반 사회현안 해결 프로젝트’의 일환으로, 최근 사회문제로 대두된 아동·청소년 대상 디지털 성범죄에 대한 선제적 대응을 위해 기획됐다. 특히 딥페이크 등 인공지능을 악용한 성범죄 확산에 대응하기 위해 인공지능·빅데이터·클라우드 기술이 적용된다.

기존에는 수작업으로 키워드를 검색해 성착취물을 확인하고 플랫폼에 수동으로 삭제 요청을 해야 했으나, 이번 사업을 통해 자가학습형 인공지능 체계를 도입하면서 24시간 실시간 모니터링이 가능해진다. AI 알고리즘은 키워드와 이미지 유해성을 분석해 의심 정보를 탐지하고, 신고·삭제 API를 통해 자동으로 플랫폼에 삭제를 요청하게 된다.

또한 피해자 보호를 위해 한국여성인권진흥원이 공동 주관기관으로 참여하여 온라인 상담 연계 및 대응 체계 설계에 협력한다. 정보 수집부터 삭제 요청, 상담 연계까지 일원화된 통합 대응 체계가 이번 과제의 핵심이다.

과기정통부는 이번 과제를 통해 사회적 약자 보호와 안전한 디지털 환경 조성을 목표로 하고 있으며, 앞으로도 AI 기술을 다양한 공공 서비스에 적극 도입해 국민이 체감할 수 있는 디지털 안전망을 구축할 계획이다.