Moderator: detección de contenido NSFW y desnudos en el dispositivo
Clasificación de imágenes NSFW en el dispositivo que marca los desnudos antes de subir una imagen, entrenada solo con datos con licencia y sintéticos para que puedas usarla en productos comerciales.
Moderator es un clasificador de imágenes NSFW en el dispositivo. Puntúa una imagen antes de que salga del dispositivo, así que el contenido dudoso nunca llega a tus servidores, y una salida de cinco cabezas permite que una política decida qué cuenta exactamente.
Su verdadera ventaja son los datos de entrenamiento: todas las imágenes tienen licencia permisiva o se generan de forma sintética, sin nada extraído de la internet abierta. A diferencia de NudeNet y de la mayoría de los modelos NSFW, puedes usarlo en un producto comercial sin exposición a problemas de derechos de autor o de licencias. También es más preciso: detecta más contenido NSFW que NudeNet (recall del 87,8 % frente al 82,6 %) y bloquea por error aproximadamente la mitad de imágenes seguras (6,3 % frente a 12,9 %) en un conjunto de prueba reservado.
Rendimiento
Detecta el 87,8 % de las imágenes NSFW y deja pasar el 93,7 % de las seguras con una tasa de bloqueos erróneos del 6,3 %, aproximadamente la mitad que NudeNet, desde un modelo en el dispositivo de menos de 8 MB.
Conjunto reservado de 464 imágenes (75 % SFW), puntuación NSFW única con umbral 0,50, pipeline de 8 recortes (interno)
| Recall | Especificidad | Bloqueos erróneos | |
|---|---|---|---|
| Moderator | 87.8% | 93.7% | 6.3% |
| NudeNet | 82.6% | 87.1% | 12.9% |
Evaluación interna sobre un conjunto reservado propio, no un benchmark publicado. Backbone MobileNetV4, 8,4 M de parámetros.
Casos de uso
Filtrado previo a la subida
Revisa las imágenes de los usuarios en el dispositivo antes de que salgan del teléfono, para que nada dudoso llegue a tus servidores.
Control por política
La política .standard cuenta las cinco detecciones; .allowTopless excluye los pezones expuestos de la puntuación, para plataformas con reglas más permisivas.
Qué hace
- Entrenado solo con imágenes de licencia permisiva y sintéticas, sin datos extraídos de la web, así que es seguro usarlo en productos comerciales.
- Puntúa cualquier imagen en busca de desnudos en el dispositivo, antes de subirla.
- Cinco cabezas de detección: pezones expuestos, genitales, glúteos, desnudez y actividad sexual.
- Una política decide qué suma a la puntuación NSFW, desde
.standard(las cinco) hasta.allowTopless(excluye los pezones expuestos).
Especificaciones
- Precisión
- Recall del 87,8 %, especificidad del 93,7 % con umbral 0,50
- Backbone
- MobileNetV4-Conv-Medium @ 384
- Tamaño
- ~7 MB (6 bits) a ~18 MB (fp16)
- Plataformas
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 para navegador o servidor
Una ayuda para la moderación de contenido, no una determinación legal: combínala con revisión humana para cualquier decisión que dependa solo de ella. Cubre únicamente contenido para adultos; los menores quedan fuera de su alcance por diseño y se excluyen del conjunto de entrenamiento.
Preguntas frecuentes
¿Qué es Moderator?
Clasificación de imágenes NSFW en el dispositivo que marca los desnudos antes de subir una imagen, entrenada solo con datos con licencia y sintéticos para que puedas usarla en productos comerciales.
¿Moderator se ejecuta en el dispositivo?
Sí. Moderator se ejecuta por completo en el dispositivo: la inferencia ocurre localmente sin ninguna llamada a servidor, así que los datos nunca salen del dispositivo.
¿Ya está disponible Moderator?
Moderator está en beta cerrada. Puedes solicitar acceso anticipado desde su página.
¿Cuánto cuesta Moderator?
Todos los modelos son gratis hasta 100 000 dispositivos activos mensuales por SDK. Inferencia ilimitada por usuario. Contáctanos para licencias personalizadas.
¿Qué precisión o velocidad tiene Moderator?
Detecta el 87,8 % de las imágenes NSFW y deja pasar el 93,7 % de las seguras con una tasa de bloqueos erróneos del 6,3 %, aproximadamente la mitad que NudeNet, desde un modelo en el dispositivo de menos de 8 MB.
Acceso anticipado
Cuéntanos qué estás construyendo y te lo dejamos listo.