서울시 디지털 성범죄 추적 AI 무상 보급 소식, 피해자와 지원단체 입장에선 속도와 안전성이 가장 큰 걱정입니다. 이 글은 신청절차·작동원리·개인정보 대책과 피해자 관점의 실무 팁을 빠르게 정리합니다.
핵심 요약 — 무엇이 달라졌나
서울시가 자체 개발한 AI 삭제지원 기술을 전국 공익기관·지자체·기업에 무상 보급한다고 2026-03-02 발표했습니다. 이 AI는 24시간 온라인을 실시간 모니터링해 불법 촬영물과 딥페이크를 자동 탐지하고 삭제·재유포 차단을 지원하며, 탐지 속도는 기존 수작업 대비 약 30배 빨라졌고 삭제 건수도 크게 증가했습니다. 공익 목적의 기관은 사용 계획을 제출해 심사 후 이전받을 수 있습니다. 신청·운영 시 개인정보 보호와 법적 책임 검토가 필수입니다.
서울시 공식 안내에서 자세한 배포 취지와 수상 이력(대통령상, UN 공공행정상)을 확인할 수 있습니다. 아래 버튼에서 공식 페이지로 이동해 최신 공고와 신청 서류를 확인하세요.
서울시 디지털 성범죄 추적 AI 무상 보급 자세히 보기
공식 페이지에서 배포대상·심사기준·활용 제한 조항을 먼저 확인하시길 권합니다. 다음 섹션에서 신청 절차와 기관별 요건을 정리합니다.
누가 어떻게 신청하나 — 대상·절차 요약
서울시는 공익 목적의 기관·단체·기업(국내·해외 비영리 포함)을 무상 보급 대상으로 명시했습니다. 신청 시 기술 운영 목적, 내부 접근권한 관리 방안, 피해자 보호 대책 등 사용 계획을 제출해야 하며 서울시·서울연구원이 심사해 이전을 결정합니다. 기관당 예산 절감 효과(약 1억8,000만원 추정)와 운영 지원 범위도 안내됩니다.
아래는 신청의 핵심 단계입니다. 각 단계에서 '피해자 데이터 최소 노출'과 '운영 책임자 지정'을 명시하는 것이 승인 가능성을 높입니다.
- 기관 내부 검토 및 사용 목적 문서화
- 서울시·서울연구원 공고에 따라 신청서 제출(운영 계획 포함)
- 심사(기술적·윤리적 검토) 후 무상 이전 협약 체결
- 설치·교육·운영 모니터링 및 정기 보고
신청 준비 시 기술 이용범위(자동차단·증거보존 여부), 로그 보관 기간, 내부 접근 권한 제한 등 세부 정책을 문서로 준비하세요. 공식 공고와 신청 링크는 아래 버튼에서 확인할 수 있습니다.
공익기관이 아닌 피해자 개인이나 소규모 지원단체는 직접 소프트웨어를 받을 수 없는 경우가 있으므로, 관할 지자체·지원센터와 협력해 서비스를 요청하는 절차를 마련해 두는 것이 필요합니다.
AI 동작 원리·정확도와 오탐 우려에 대한 현실적 평가
이 기술은 이미지·영상의 특징을 학습한 모델로 실시간 모니터링, 딥페이크 탐지, 재업로드 재탐지 기능을 제공합니다. 도입 후 처리 시간이 평균 6분 수준으로 단축되었고(기존 수시간 → 6분), 기사 기준 정확도는 도입 전보다 상당히 향상(200~300% 지표 개선 언급)되었으나 '완전 무결'은 아닙니다. 특히 다음 사항을 유의하세요.
- 오탐(정상 콘텐츠를 불법으로 분류) 위험: 민감한 사례에서 인권 침해 소지가 있으므로 삭제 전 사람 검토(휴먼인더프루프)를 필수로 운용해야 합니다.
- 누락(미탐지) 가능성: 새로운 플랫폼·코드화된 재업로드 방식에는 추가 학습·규칙 업데이트가 필요합니다.
- 증거성: AI 로그와 자동 탐지 기록은 수사·법적 절차에서 보조 증거로 활용될 수 있지만, 원본 파일과 보전조치(타임스탬프·체인오브커스터디)가 함께 확보되어야 증거능력이 인정될 가능성이 높습니다.
공공 보급 모델인 만큼 서울시는 기술 이전 시 운영 가이드라인(로그보존, 검수 절차, 접근권한 관리)을 함께 제공할 가능성이 큽니다. 관련 정책과 구체 수치(오탐률, 검증 리포트)는 심사 과정에서 요구해 공개를 요청하세요.
서울시 디지털 성범죄 추적 AI 무상 보급 개인정보 대책 보기
피해자·지원단체가 우선 챙겨야 할 실무 체크리스트
아래는 피해자 안전과 증거 보호를 최우선으로 할 때 즉시 실행 가능한 사항들입니다.
- 원본 보전: 가능한 경우 원본 파일을 복제해 안전한 저장소(암호화·접근 통제)로 보관합니다.
- 신고·보전 요청: 수사기관에 임시 보전 또는 증거보전 신청을 검토합니다.
- 검수 프로세스 확보: AI 탐지 후 자동 삭제만으로 끝나지 않도록 사람 검수 절차를 규정합니다.
- 최소수집 원칙 적용: 피해자 동의 없는 추가 데이터 수집을 차단하고, 접근 로그를 엄격히 관리합니다.
- 협력체계 구성: 관할 지원센터·지자체·법률구조기관과의 연락망을 미리 확보합니다.
이 체크리스트를 바탕으로 지원단체는 내부 매뉴얼(접근 권한·보관 기간·신고 흐름)을 준비해 신청서에 포함시키면 심사에 유리합니다. 관련 교육 프로그램과 운영 매뉴얼 제공 여부는 무상 보급 조건에 포함될 수 있으니 확인하세요.
서울시 디지털 성범죄 추적 AI 무상 보급 지원 가이드 받기
법적 쟁점·증거능력과 주의사항
AI 탐지 로그 자체는 중요한 단서지만 단독으로 결정적 증거가 되기 어려우며, 다음을 반드시 확보해야 합니다: 원본 파일(또는 원본과 동급의 증빙), 탐지 시점의 메타데이터, 접근·처리 로그, 검수자 기록. 개인정보법상 민감정보(신체·성적 정보)에 해당하므로 처리 근거, 보유기간, 파기정책을 명확히 해야 합니다. 기관은 기술 이전 시 다음을 준비해야 합니다.
- 개인정보 영향평가(PIA) 및 내부 보호책임자 지정
- 외부 감사·알고리즘 설명자료(투명성 보고) 제출 계획
- 피해자 동의 확보와 최소 처리 원칙 준수
법적 불확실성이나 증거 인정 범위는 사건별로 다르므로, 수사 협조가 필요한 경우 법률 전문가와 사전 협의할 것을 권합니다.
문의 및 참고: 보도자료와 공식 안내는 서울시(https://www.seoul.go.kr)를 우선 확인하시고, 추가 질의는 기사 내 제공된 문의 이메일 ys@newsbest.kr로 문의하시기 바랍니다. 피해자 보호를 최우선으로 하는 운영 계획 수립이 무엇보다 중요합니다.
자주하는 질문
서울시가 무상 보급하는 ‘디지털 성범죄 추적 AI’는 무엇이며 어떤 기능이 있나요?
누가 어떻게 신청할 수 있나요? 개인(피해자)도 직접 받을 수 있나요?
피해자·지원단체가 신청·운영할 때 우선 챙겨야 할 실무·개인정보 대책은 무엇인가요?
– 원본 보전: 원본 파일을 복제해 암호화·접근통제된 안전한 저장소에 보관.
– 증거 보전: 수사기관에 임시보전·증거보전 신청 검토(필요 시 법률조력).
– 검수 프로세스: AI 자동탐지 후 자동 삭제만 하지 말고 사람 검수 절차 명시(휴먼인더프루프).
– 최소수집·접근통제: 피해자 동의 없는 추가 수집 차단, 접근 권한·로그 엄격 관리, 보관기간·파기정책 문서화.
– 조직적 준비: 운영 책임자 지정, 내부 매뉴얼(접근권한·보관 기간·신고 흐름) 포함하여 신청서에 제출.
– 법적·윤리적 대비: 개인정보 영향평가(PIA), 외부 감사·투명성 보고 계획, 알고리즘 설명자료 확보를 권장.
또한 오탐률·검증 리포트·로그 보존 정책 등을 심사 과정에서 요청해 공개받고, 사건별 법적 쟁점은 법률 전문가와 사전 협의하세요.