Desert Ant Labs

Moderator: 온디바이스 NSFW·노출 탐지

콘텐츠 모더레이션비공개 베타

이미지가 업로드되기 전에 노출을 표시하는 온디바이스 NSFW 이미지 분류로, 라이선스 데이터와 합성 데이터만으로 학습되어 상업적으로 출시할 수 있습니다.

Moderator는 온디바이스 NSFW 이미지 분류기입니다. 이미지가 기기를 벗어나기 전에 점수를 매기므로 문제 소지가 있는 콘텐츠가 서버에 닿지 않으며, 5개 헤드 출력으로 정책이 무엇을 문제로 볼지 정확히 정할 수 있습니다.

진짜 강점은 학습 데이터입니다. 모든 이미지가 관대한 라이선스로 제공되거나 합성 생성되었으며, 공개 인터넷에서 스크래핑한 것은 하나도 없습니다. NudeNet을 비롯한 대부분의 NSFW 모델과 달리, 저작권이나 라이선스 위험 없이 상업 제품에 넣을 수 있습니다. 정확도도 더 높아, 별도 테스트 세트에서 NudeNet보다 더 많은 NSFW를 잡아내고(재현율 87.8% 대 82.6%), 안전한 이미지를 잘못 차단하는 비율은 약 절반 수준입니다(6.3% 대 12.9%).

Moderator은(는) 비공개 베타 단계입니다. 모델 카드와 가중치는 공개되어 있습니다. 얼리 액세스는 요청 시 제공됩니다.

성능

8 MB 미만의 온디바이스 모델로 NSFW 이미지의 87.8%를 잡아내고 안전한 이미지의 93.7%를 통과시키며, 오차단율은 6.3%로 NudeNet의 약 절반입니다.

87.8%
재현율
93.7%
특이도
<8 MB
온디바이스

별도 세트 464장 이미지 (75% SFW), 임계값 0.50에서 단일 NSFW 점수, 8-크롭 파이프라인 (내부)

재현율특이도오차단
Moderator87.8%93.7%6.3%
NudeNet82.6%87.1%12.9%

공개 벤치마크가 아닌, 자체 별도 세트에 대한 내부 평가. MobileNetV4 백본, 8.4M 파라미터.

활용 사례

업로드 전 필터링

사용자 이미지가 휴대폰을 벗어나기 전에 기기에서 걸러, 문제 소지가 있는 것이 서버에 닿지 않도록 합니다.

정책 제어

.standard 정책은 5가지 탐지를 모두 반영하고, .allowTopless는 규정이 더 관대한 플랫폼을 위해 노출된 유두를 점수에서 제외합니다.

기능 소개

  • 관대한 라이선스 이미지와 합성 이미지만으로 학습되었고 스크래핑 데이터가 없어, 상업적으로 안전하게 출시할 수 있습니다.
  • 업로드되기 전에, 어떤 이미지든 기기에서 노출 점수를 매깁니다.
  • 5개 탐지 헤드: 노출된 유두, 성기, 둔부, 나체, 성행위.
  • 무엇을 NSFW 점수에 반영할지는 정책이 정하며, .standard(5가지 모두)부터 .allowTopless(노출된 유두 제외)까지 있습니다.

사양

정확도
임계값 0.50에서 재현율 87.8%, 특이도 93.7%
백본
MobileNetV4-Conv-Medium @ 384
크기
약 7 MB (6-bit) ~ 약 18 MB (fp16)
플랫폼
iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; 브라우저나 서버용 fp32 ONNX

법적 판단이 아니라 콘텐츠 모더레이션 보조 도구입니다. 이 도구만으로 결정되는 사안에는 사람의 검토를 함께 두십시오. 성인 콘텐츠만 다루며, 미성년자는 설계상 범위 밖으로 학습 세트에서 제외되어 있습니다.

자주 묻는 질문

Moderator은(는) 무엇인가요?

이미지가 업로드되기 전에 노출을 표시하는 온디바이스 NSFW 이미지 분류로, 라이선스 데이터와 합성 데이터만으로 학습되어 상업적으로 출시할 수 있습니다.

Moderator은(는) 온디바이스로 실행되나요?

네. Moderator은(는) 전적으로 기기에서 실행됩니다. 추론이 서버 호출 없이 로컬에서 이루어지므로 데이터가 기기를 벗어나지 않습니다.

Moderator은(는) 지금 사용할 수 있나요?

Moderator은(는) 비공개 베타 단계입니다. 해당 페이지에서 얼리 액세스를 요청할 수 있습니다.

Moderator의 비용은 얼마인가요?

모든 모델은 SDK당 월간 활성 기기 10만 대까지 무료입니다. 사용자당 추론은 무제한입니다. 맞춤 라이선스는 문의하기 바랍니다.

Moderator은(는) 얼마나 정확하고 빠른가요?

8 MB 미만의 온디바이스 모델로 NSFW 이미지의 87.8%를 잡아내고 안전한 이미지의 93.7%를 통과시키며, 오차단율은 6.3%로 NudeNet의 약 절반입니다.

얼리 액세스

무엇을 만들고 계신지 알려주시면 설정을 도와드리겠습니다.

얼리 액세스 문의하기Hugging Face의 모델 카드