Moderator: deteção de NSFW e nudez no dispositivo
Classificação de imagens NSFW no dispositivo que assinala nudez antes de uma imagem ser carregada, treinada apenas com dados licenciados e sintéticos, para que a possa lançar comercialmente.
O Moderator é um classificador de imagens NSFW no dispositivo. Avalia uma imagem antes de esta sair do dispositivo, por isso o conteúdo duvidoso nunca chega aos seus servidores, e uma saída de cinco cabeças permite que uma política decida exatamente o que conta.
A sua verdadeira vantagem são os dados de treino: todas as imagens têm licença permissiva ou são geradas sinteticamente, sem nada recolhido da internet aberta. Ao contrário do NudeNet e da maioria dos modelos NSFW, pode lançá-lo num produto comercial sem exposição a direitos de autor ou licenciamento. Também é mais preciso, detetando mais NSFW do que o NudeNet (87,8% vs 82,6% de recall) e bloqueando por engano cerca de metade das imagens seguras (6,3% vs 12,9%) num conjunto de teste reservado.
Desempenho
Deteta 87,8% das imagens NSFW e aprova 93,7% das seguras, com uma taxa de bloqueio indevido de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo com menos de 8 MB.
Conjunto reservado de 464 imagens (75% SFW), pontuação NSFW única no limiar 0,50, pipeline de 8 recortes (interno)
| Recall | Especificidade | Bloqueio indevido | |
|---|---|---|---|
| Moderator | 87.8% | 93.7% | 6.3% |
| NudeNet | 82.6% | 87.1% | 12.9% |
Avaliação interna num conjunto reservado proprietário, não um benchmark publicado. Backbone MobileNetV4, 8,4M de parâmetros.
Casos de uso
Filtragem antes do upload
Analise as imagens dos utilizadores no dispositivo antes de saírem do telemóvel, para que nada de duvidoso chegue aos seus servidores.
Controlo de políticas
A política .standard conta as cinco deteções; .allowTopless exclui mamilos expostos da pontuação, para plataformas com regras mais permissivas.
O que faz
- Treinado apenas com imagens de licença permissiva e sintéticas, sem dados recolhidos da web, por isso é seguro lançá-lo comercialmente.
- Avalia qualquer imagem quanto a nudez no dispositivo, antes de ser carregada.
- Cinco cabeças de deteção: mamilos expostos, genitais, nádegas, nudez e atividade sexual.
- Uma política decide o que conta para a pontuação NSFW, de
.standard(as cinco) a.allowTopless(exclui mamilos expostos).
Especificações
- Precisão
- Recall 87,8%, especificidade 93,7% no limiar 0,50
- Backbone
- MobileNetV4-Conv-Medium @ 384
- Tamanho
- ~7 MB (6 bits) a ~18 MB (fp16)
- Plataformas
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 para navegador ou servidor
Um auxiliar de moderação de conteúdos, não uma decisão jurídica: combine-o com revisão humana em qualquer decisão que dependa apenas dele. Cobre apenas conteúdo adulto; os menores estão fora do âmbito por opção e excluídos do conjunto de treino.
FAQ
O que é o Moderator?
Classificação de imagens NSFW no dispositivo que assinala nudez antes de uma imagem ser carregada, treinada apenas com dados licenciados e sintéticos, para que a possa lançar comercialmente.
O Moderator é executado no dispositivo?
Sim. O Moderator é executado inteiramente no dispositivo: a inferência acontece localmente, sem qualquer chamada a servidores, por isso os dados nunca saem do dispositivo.
O Moderator já está disponível?
O Moderator está em beta fechada. Pode pedir acesso antecipado na respetiva página.
Quanto custa o Moderator?
Todos os modelos são gratuitos para até 100k dispositivos ativos mensais por SDK. Inferência ilimitada por utilizador. Contacte-nos para licenças personalizadas.
Qual é a precisão ou a rapidez do Moderator?
Deteta 87,8% das imagens NSFW e aprova 93,7% das seguras, com uma taxa de bloqueio indevido de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo com menos de 8 MB.
Acesso antecipado
Diga-nos o que está a construir e ajudamo-lo a começar.