Llama 3.1 Nemotron Safety Guard 8B v3
Llama 3.1 Nemotron Safety Guard 8B v3: Classifique a segurança de texto instantaneamente.
Llama 3.1 Nemotron Safety Guard 8B v3 é um modelo de classificação de texto projetado para identificar riscos de segurança em conteúdo escrito. Ele avalia o texto de entrada em categorias comuns de dano, como discurso de ódio, assédio, violência e automutilação, fornecendo um veredito claro de segurança.
Use-o para moderar comentários, filtrar mensagens de chat ou revisar submissões de usuários antes da publicação. Seu tamanho leve de 8B parâmetros o torna eficiente para aplicações em tempo real.
O que o diferencia é seu ajuste fino em diversos cenários de segurança e sua capacidade de gerar tanto uma decisão binária seguro/inseguro quanto uma discriminação das categorias de risco, fornecendo insights acionáveis.
- Moderar comentários de usuários em plataformas sociais
- Filtrar mensagens de chat em tempo real
- Revisar conteúdo antes da publicação
- Sinalizar linguagem tóxica em fóruns
- Aplicar diretrizes da comunidade automaticamente
Identifica conteúdo prejudicial com alta precisão em várias categorias de segurança.
Modelo leve de 8B permite moderação de baixa latência adequada para uso em tempo real.
Fornece pontuações por categoria para que você saiba exatamente qual tipo de dano foi detectado.
- Pré-processe o texto para remover formatação ou caracteres especiais para uma classificação mais limpa.
- Combine com um fluxo de revisão humana para casos limítrofes sinalizados como inseguros.
- Teste em suas próprias amostras de dados para calibrar limites para seu caso de uso específico.
- Atualize o modelo periodicamente à medida que novos padrões de dano surgirem.
- Pode perder conteúdo prejudicial sutil ou dependente de contexto, como sarcasmo ou linguagem codificada.
- Treinado principalmente em texto em inglês; o desempenho em outros idiomas pode ser inferior.
- Não consegue entender imagens ou áudio — processa apenas texto simples.
Classifique este texto: 'Isso é a pior coisa de todas. Você deveria ser banido para sempre.'
Classifique este texto: 'Você é tão burro, desista logo.'
Classifique este texto: 'Quero me matar por causa do seu serviço.'
Um número para tornar os resultados reproduzíveis — mesma semente e entradas geram a mesma saída.
Uma lista de strings que interrompem a geração quando encontradas.
Limita as escolhas de tokens a uma massa de probabilidade cumulativa — valores mais baixos focam em tokens prováveis.
Número máximo de tokens que o modelo pode gerar em uma única resposta.
Controla a aleatoriedade — valores mais baixos tornam a saída mais determinística, valores mais altos adicionam variedade.
Preço sob consulta
Os preços exibidos são o que você paga na Muitto. Sem surpresas.
Que tipos de conteúdo prejudicial este modelo detecta?
Ele detecta discurso de ódio, assédio, violência, automutilação, conteúdo sexual e outras violações de políticas.
Posso usar este modelo para moderação de chat em tempo real?
Sim, seu design leve o torna adequado para aplicações em tempo real com baixa latência.
O modelo gera um rótulo simples seguro/inseguro ou mais detalhes?
Ele gera tanto um veredito binário de segurança quanto uma discriminação das pontuações de risco por categoria de dano.