Moderator : détection de contenu NSFW et de nudité sur l'appareil
Classification d'images NSFW sur l'appareil qui signale la nudité avant l'envoi d'une image, entraînée uniquement sur des données sous licence et synthétiques, pour que vous puissiez la distribuer commercialement.
Moderator est un classifieur d'images NSFW sur l'appareil. Il note une image avant qu'elle ne quitte l'appareil, de sorte que les contenus douteux n'atteignent jamais vos serveurs, et une sortie à cinq têtes permet à une politique de décider exactement de ce qui compte.
Son vrai atout, ce sont les données d'entraînement : chaque image est sous licence permissive ou générée synthétiquement, sans rien de récupéré sur l'internet ouvert. Contrairement à NudeNet et à la plupart des modèles NSFW, vous pouvez la distribuer dans un produit commercial sans risque de droits d'auteur ni de licence. Elle est aussi plus précise, détectant plus de contenu NSFW que NudeNet (87,8 % contre 82,6 % de rappel) et bloquant à tort environ deux fois moins d'images sûres (6,3 % contre 12,9 %) sur un jeu de test réservé.
Performances
Détecte 87,8 % des images NSFW et laisse passer 93,7 % des images sûres, avec un taux de faux blocages de 6,3 %, environ la moitié de celui de NudeNet, depuis un modèle sur l'appareil de moins de 8 MB.
Jeu réservé de 464 images (75 % SFW), score NSFW unique au seuil 0,50, pipeline à 8 recadrages (interne)
| Rappel | Spécificité | Faux blocages | |
|---|---|---|---|
| Moderator | 87.8% | 93.7% | 6.3% |
| NudeNet | 82.6% | 87.1% | 12.9% |
Évaluation interne sur un jeu réservé propriétaire, pas un benchmark publié. Backbone MobileNetV4, 8,4 M de paramètres.
Cas d'usage
Filtrage avant envoi
Filtrez les images des utilisateurs sur l'appareil avant qu'elles ne quittent le téléphone, pour que rien de douteux n'atteigne vos serveurs.
Contrôle par politique
La politique .standard compte les cinq détections ; .allowTopless exclut les mamelons exposés du score, pour les plateformes aux règles plus permissives.
Ce que ça fait
- Entraîné uniquement sur des images sous licence permissive et synthétiques, sans données récupérées, donc sûr à distribuer commercialement.
- Note n'importe quelle image pour la nudité sur l'appareil, avant son envoi.
- Cinq têtes de détection : mamelons exposés, parties génitales, fesses, nudité et activité sexuelle.
- Une politique décide de ce qui compte dans le score NSFW, de
.standard(les cinq) à.allowTopless(exclut les mamelons exposés).
Spécifications
- Précision
- Rappel 87,8 %, spécificité 93,7 % au seuil 0,50
- Backbone
- MobileNetV4-Conv-Medium @ 384
- Taille
- ~7 MB (6 bits) à ~18 MB (fp16)
- Plateformes
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+ ; ONNX fp32 pour navigateur ou serveur
Une aide à la modération de contenu, pas une décision juridique : associez-la à une revue humaine pour toute décision qu'elle seule conditionnerait. Elle couvre uniquement le contenu adulte ; les mineurs sont hors périmètre par conception et exclus du jeu d'entraînement.
FAQ
Qu'est-ce que Moderator ?
Classification d'images NSFW sur l'appareil qui signale la nudité avant l'envoi d'une image, entraînée uniquement sur des données sous licence et synthétiques, pour que vous puissiez la distribuer commercialement.
Moderator fonctionne-t-il sur l'appareil ?
Oui. Moderator s'exécute entièrement sur l'appareil : l'inférence a lieu en local, sans appel serveur, de sorte que les données ne quittent jamais l'appareil.
Moderator est-il déjà disponible ?
Moderator est en bêta fermée. Vous pouvez demander un accès anticipé depuis sa page.
Combien coûte Moderator ?
Chaque modèle est gratuit jusqu'à 100k appareils actifs mensuels par SDK. Inférence illimitée par utilisateur. Contactez-nous pour des licences sur mesure.
Quelle est la précision ou la vitesse de Moderator ?
Détecte 87,8 % des images NSFW et laisse passer 93,7 % des images sûres, avec un taux de faux blocages de 6,3 %, environ la moitié de celui de NudeNet, depuis un modèle sur l'appareil de moins de 8 MB.
Accès anticipé
Dites-nous ce que vous construisez et nous vous aidons à démarrer.