Moderator: rilevamento di contenuti NSFW e nudità on-device
Classificazione di immagini NSFW on-device che segnala la nudità prima che un'immagine venga caricata, addestrata solo su dati con licenza e sintetici, così puoi distribuirla commercialmente.
Moderator è un classificatore di immagini NSFW on-device. Assegna un punteggio a un'immagine prima che lasci il dispositivo, così i contenuti dubbi non raggiungono mai i tuoi server, e un output a cinque teste permette a una policy di decidere esattamente cosa conta.
Il suo vero punto di forza sono i dati di addestramento: ogni immagine ha una licenza permissiva o è generata sinteticamente, senza nulla raccolto dalla rete aperta. A differenza di NudeNet e della maggior parte dei modelli NSFW, puoi distribuirlo in un prodotto commerciale senza rischi di copyright o di licenza. È anche più preciso: individua più contenuti NSFW di NudeNet (87,8 % contro 82,6 % di recall) e blocca erroneamente circa la metà delle immagini sicure (6,3 % contro 12,9 %) su un set di test riservato.
Prestazioni
Individua l'87,8 % delle immagini NSFW e lascia passare il 93,7 % di quelle sicure con un tasso di falsi blocchi del 6,3 %, circa la metà di NudeNet, da un modello on-device sotto gli 8 MB.
Set riservato di 464 immagini (75 % SFW), singolo punteggio NSFW a soglia 0,50, pipeline a 8 ritagli (interno)
| Recall | Specificità | Falsi blocchi | |
|---|---|---|---|
| Moderator | 87.8% | 93.7% | 6.3% |
| NudeNet | 82.6% | 87.1% | 12.9% |
Valutazione interna su un set riservato proprietario, non un benchmark pubblicato. Backbone MobileNetV4, 8,4M di parametri.
Casi d'uso
Filtro prima del caricamento
Controlla le immagini degli utenti sul dispositivo prima che lascino il telefono, così nulla di dubbio raggiunge i tuoi server.
Controllo della policy
La policy .standard conta tutti e cinque i rilevamenti; .allowTopless esclude i capezzoli scoperti dal punteggio, per piattaforme con regole più permissive.
Cosa fa
- Addestrato solo su immagini con licenza permissiva e sintetiche, senza dati raccolti dal web, quindi si può distribuire commercialmente in sicurezza.
- Assegna a qualsiasi immagine un punteggio di nudità sul dispositivo, prima che venga caricata.
- Cinque teste di rilevamento: capezzoli scoperti, genitali, glutei, nudità e attività sessuale.
- Una policy decide cosa contribuisce al punteggio NSFW, da
.standard(tutti e cinque) a.allowTopless(esclude i capezzoli scoperti).
Specifiche
- Precisione
- Recall 87,8 %, specificità 93,7 % a soglia 0,50
- Backbone
- MobileNetV4-Conv-Medium @ 384
- Dimensione
- da ~7 MB (6 bit) a ~18 MB (fp16)
- Piattaforme
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 per browser o server
Un ausilio alla moderazione dei contenuti, non una determinazione legale: affiancalo a una revisione umana per qualsiasi decisione che gestisce da solo. Copre solo i contenuti per adulti; i minori sono esclusi per scelta progettuale e non presenti nel set di addestramento.
FAQ
Cos'è Moderator?
Classificazione di immagini NSFW on-device che segnala la nudità prima che un'immagine venga caricata, addestrata solo su dati con licenza e sintetici, così puoi distribuirla commercialmente.
Moderator funziona sul dispositivo?
Sì. Moderator funziona interamente sul dispositivo: l'inferenza avviene in locale senza alcuna chiamata a un server, quindi i dati non lasciano mai il dispositivo.
Moderator è già disponibile?
Moderator è in beta chiusa. Puoi richiedere l'accesso anticipato dalla sua pagina.
Quanto costa Moderator?
Ogni modello è gratuito fino a 100k dispositivi attivi mensili per SDK. Inferenza illimitata per utente. Contattaci per licenze personalizzate.
Quanto è preciso o veloce Moderator?
Individua l'87,8 % delle immagini NSFW e lascia passare il 93,7 % di quelle sicure con un tasso di falsi blocchi del 6,3 %, circa la metà di NudeNet, da un modello on-device sotto gli 8 MB.
Accesso anticipato
Raccontaci cosa stai costruendo e ti aiutiamo a iniziare.