Moderator: NSFW- och nakenhetsdetektion på enheten
NSFW-bildklassificering på enheten som flaggar nakenhet innan en bild laddas upp, tränad enbart på licensierad och syntetisk data så att du kan lansera den kommersiellt.
Moderator är en NSFW-bildklassificerare på enheten. Den poängsätter en bild innan den ens lämnar enheten, så att tveksamt innehåll aldrig når dina servrar, och en utdata med fem huvuden låter en policy avgöra exakt vad som räknas.
Dess verkliga fördel är träningsdatan: varje bild är tillåtande licensierad eller syntetiskt genererad, utan något skrapat från det öppna internet. Till skillnad från NudeNet och de flesta NSFW-modeller kan du lansera den i en kommersiell produkt utan risk för upphovsrätts- eller licensproblem. Den är dessutom mer träffsäker och fångar mer NSFW än NudeNet (87,8% mot 82,6% recall) och blockerar felaktigt ungefär hälften så många säkra bilder (6,3% mot 12,9%) på en avskild testuppsättning.
Prestanda
Fångar 87,8% av NSFW-bilderna och släpper igenom 93,7% av de säkra vid en felblockeringsgrad på 6,3%, ungefär hälften av NudeNets, från en modell på enheten under 8 MB.
Avskild uppsättning på 464 bilder (75% SFW), enkel NSFW-poäng vid tröskel 0,50, 8-beskärnings-pipeline (internt)
| Recall | Specificitet | Felblockering | |
|---|---|---|---|
| Moderator | 87.8% | 93.7% | 6.3% |
| NudeNet | 82.6% | 87.1% | 12.9% |
Intern utvärdering på en egen avskild uppsättning, inte en publicerad benchmark. MobileNetV4-backbone, 8,4M parametrar.
Användningsfall
Filtrering före uppladdning
Granska användarbilder på enheten innan de lämnar telefonen, så att inget tveksamt når dina servrar.
Policykontroll
Policyn .standard räknar alla fem detektionerna; .allowTopless utesluter exponerade bröstvårtor ur poängen, för plattformar med mer tillåtande regler.
Vad den gör
- Tränad enbart på tillåtande licensierade och syntetiska bilder, utan någon skrapad data, så den är trygg att lansera kommersiellt.
- Poängsätter vilken bild som helst för nakenhet på enheten, innan den laddas upp.
- Fem detektionshuvuden: exponerade bröstvårtor, könsorgan, skinkor, nakenhet och sexuell aktivitet.
- En policy avgör vad som räknas till NSFW-poängen, från
.standard(alla fem) till.allowTopless(utesluter exponerade bröstvårtor).
Specifikationer
- Träffsäkerhet
- Recall 87,8%, specificitet 93,7% vid tröskel 0,50
- Backbone
- MobileNetV4-Conv-Medium @ 384
- Storlek
- ~7 MB (6-bitars) till ~18 MB (fp16)
- Plattformar
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; fp32 ONNX för webbläsare eller server
Ett hjälpmedel för innehållsmoderering, inte ett rättsligt avgörande: kombinera det med mänsklig granskning för varje beslut som det ensamt styr. Det täcker enbart vuxeninnehåll; minderåriga ligger utanför omfånget medvetet och är uteslutna ur träningsdatan.
Vanliga frågor
Vad är Moderator?
NSFW-bildklassificering på enheten som flaggar nakenhet innan en bild laddas upp, tränad enbart på licensierad och syntetisk data så att du kan lansera den kommersiellt.
Körs Moderator lokalt på enheten?
Ja. Moderator körs helt lokalt på enheten: inferensen sker lokalt utan något serveranrop, så data lämnar aldrig enheten.
Är Moderator tillgänglig än?
Moderator är i stängd beta. Du kan begära tidig åtkomst från dess sida.
Vad kostar Moderator?
Varje modell är gratis för upp till 100k månadsaktiva enheter per SDK. Obegränsad inferens per användare. Kontakta oss för anpassade licenser.
Hur träffsäker eller snabb är Moderator?
Fångar 87,8% av NSFW-bilderna och släpper igenom 93,7% av de säkra vid en felblockeringsgrad på 6,3%, ungefär hälften av NudeNets, från en modell på enheten under 8 MB.
Tidig åtkomst
Berätta vad du bygger, så hjälper vi dig igång.