Moderator: detecção de NSFW e nudez no dispositivo
Classificação de imagens NSFW no dispositivo que sinaliza nudez antes de uma imagem ser enviada, treinada apenas com dados licenciados e sintéticos para que você possa distribuí-la comercialmente.
O Moderator é um classificador de imagens NSFW no dispositivo. Ele pontua uma imagem antes que ela saia do dispositivo, então conteúdo questionável nunca chega aos seus servidores, e uma saída de cinco cabeças permite que uma política decida exatamente o que conta.
Sua verdadeira vantagem são os dados de treinamento: cada imagem tem licença permissiva ou é gerada sinteticamente, sem nada extraído da internet aberta. Diferente do NudeNet e da maioria dos modelos NSFW, você pode distribuí-lo em um produto comercial sem exposição a direitos autorais ou licenciamento. Ele também é mais preciso, capturando mais NSFW que o NudeNet (87,8% vs 82,6% de recall) e com uma taxa de bloqueio indevido de imagens seguras cerca de metade da do NudeNet (6,3% vs 12,9%) em um conjunto de teste reservado.
Desempenho
Captura 87,8% das imagens NSFW e aprova 93,7% das seguras a uma taxa de falso bloqueio de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo com menos de 8 MB.
Conjunto reservado de 464 imagens (75% SFW), pontuação NSFW única no limiar 0,50, pipeline de 8 recortes (interno)
| Recall | Especificidade | Falso bloqueio | |
|---|---|---|---|
| Moderator | 87.8% | 93.7% | 6.3% |
| NudeNet | 82.6% | 87.1% | 12.9% |
Avaliação interna em um conjunto reservado proprietário, não um benchmark publicado. Backbone MobileNetV4, 8,4M de parâmetros.
Casos de uso
Filtragem antes do upload
Analise as imagens do usuário no dispositivo antes que elas saiam do celular, para que nada questionável chegue aos seus servidores.
Controle por política
A política .standard conta todas as cinco detecções; .allowTopless exclui mamilos expostos da pontuação, para plataformas com regras mais permissivas.
O que ele faz
- Treinado apenas com imagens de licença permissiva e sintéticas, sem dados extraídos, então é seguro distribuí-lo comercialmente.
- Pontua qualquer imagem quanto a nudez no dispositivo, antes de ela ser enviada.
- Cinco cabeças de detecção: mamilos expostos, genitais, nádegas, nudez e atividade sexual.
- Uma política decide o que conta para a pontuação NSFW, de
.standard(todas as cinco) a.allowTopless(exclui mamilos expostos).
Especificações
- Precisão
- Recall de 87,8%, especificidade de 93,7% no limiar 0,50
- Backbone
- MobileNetV4-Conv-Medium @ 384
- Tamanho
- ~7 MB (6-bit) a ~18 MB (fp16)
- Plataformas
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 para navegador ou servidor
Um auxílio à moderação de conteúdo, não uma determinação legal: combine-o com revisão humana para qualquer decisão que ele sozinho controle. Ele cobre apenas conteúdo adulto; menores estão fora do escopo por design e são excluídos do conjunto de treinamento.
FAQ
O que é o Moderator?
Classificação de imagens NSFW no dispositivo que sinaliza nudez antes de uma imagem ser enviada, treinada apenas com dados licenciados e sintéticos para que você possa distribuí-la comercialmente.
O Moderator roda no dispositivo?
Sim. O Moderator roda inteiramente no dispositivo: a inferência acontece localmente, sem chamada a servidor, então os dados nunca saem do dispositivo.
O Moderator já está disponível?
O Moderator está em beta fechado. Você pode solicitar acesso antecipado na página dele.
Quanto custa o Moderator?
Cada modelo é grátis para até 100 mil dispositivos ativos mensais por SDK. Inferência ilimitada por usuário. Fale conosco para licenças personalizadas.
Qual a precisão e a velocidade do Moderator?
Captura 87,8% das imagens NSFW e aprova 93,7% das seguras a uma taxa de falso bloqueio de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo com menos de 8 MB.
Acesso antecipado
Conte o que você está construindo e nós ajudamos você a começar.