Guide de confiance et de modération
Guide complet sur les niveaux de confiance et la modération des contenus au sein des réseaux communautaires itemID : comment la confiance est calculée, les processus de signalement des contenus et les outils de modération destinés aux responsables de communauté.
Confiance et modération
Les réseaux communautaires utilisent un système à plusieurs niveaux de confiance et de modération des contenus afin d’assurer la sécurité des communautés tout en responsabilisant les membres actifs. Ce guide traite ces deux systèmes en détail.
Niveaux de confiance
Chaque membre de la communauté dispose d’un niveau de confiance qui détermine sa limite quotidienne d’alertes. Ce niveau est calculé automatiquement en fonction de l’activité du compte et de l’historique de modération.
| Niveau | Conditions requises | Limite quotidienne d'alertes | Badge |
|---|---|---|---|
| Nouveau | Par défaut pour tous les comptes | 2 | Pas de badge |
| Vérifié | Compte créé depuis au moins 30 jours, ≥ 3 articles enregistrés, aucun signalement validé | 5 | Bouclier vert |
| Scout | Identique à « Vérifié » (limites supérieures réservées à de futurs critères) | 10 | Bouclier indigo |
Comment la confiance est-elle calculée ?
Le TrustService évalue le niveau de confiance d'un utilisateur chaque fois que cela s'avère nécessaire. Les facteurs suivants sont vérifiés dans l'ordre :
- Signalements validés : Si un signalement de contenu à l’encontre de l’utilisateur a été validé, le niveau est immédiatement défini sur Nouveau
- Ancienneté du compte : Le compte doit avoir au moins l’ancienneté configurée en nombre de jours (par défaut : 30)
- Éléments enregistrés : L’utilisateur doit avoir enregistré au moins le nombre d’éléments défini (par défaut : 3)
Les seuils sont configurables via la section « confiance » du fichier config/community.php.
Modération du contenu
Le contenu soumis aux réseaux communautaires passe par un système de modération à deux niveaux avant d’être publié.
Contrôles automatisés
- Liste noire de mots-clés : Le contenu est comparé à une liste configurable de mots bloqués (sans distinction de majuscules/minuscules). Les correspondances sont immédiatement rejetées avec une justification.
- Modération par IA (facultative) : Lorsqu’elle est activée, le contenu est envoyé à l’API de modération OpenAI pour être classé. Le contenu signalé est rejeté avec des détails sur la catégorie. Le système fonctionne selon le principe de « fail-open » : si l’API n’est pas disponible, le contenu est accepté.
Signalement par la communauté
Tout membre authentifié de la communauté peut signaler des alertes ou des cas qu’il estime contraires aux directives de la communauté. Les signalements comprennent :
- Un motif (spam, harcèlement, contenu trompeur, inapproprié, atteinte à la vie privée ou autre)
- Des détails facultatifs permettant de contextualiser le signalement
Examen par un modérateur
Les modérateurs de la communauté (responsables d’organisation disposant du rôle de modérateur) peuvent examiner les signalements via le tableau de bord de gestion :
- Accédez à Gestion → Modération
- Examinez les signalements en attente en consultant les informations sur l'auteur, le motif et le contexte
- Choisissez de valider (confirmer l’infraction) ou rejeter le signalement
- Ajoutez éventuellement des notes de résolution
Lorsqu’un signalement est validé :
- L'auteur du contenu est informé par e-mail
- Le niveau de confiance du créateur est recalculé (généralement réduit à Nouveau)
- Le signalement est marqué comme validé avec les remarques du réviseur
Motifs du rapport
| Motif | Description |
|---|---|
| Spam | Contenu non sollicité, répétitif ou hors sujet |
| Harcèlement | Comportement menaçant, injurieux ou intimidant |
| Informations trompeuses | Informations fausses ou intentionnellement trompeuses |
| Contenu inapproprié | Contenu qui n'a pas sa place dans le contexte de la communauté |
| Atteinte à la vie privée | Divulgation d’informations personnelles sans consentement |
| Autre | Préoccupations ne correspondant à aucune des catégories prédéfinies |
Configuration
Tous les paramètres de modération et de confiance sont gérés dans config/community.php :
- Liste noire : Mots séparés par des virgules via la variable d’environnement
COMMUNITY_MODERATION_BLOCKLIST - Modération par IA : Activation/désactivation via la variable d’environnement
COMMUNITY_MODERATION_LLM - Seuils de confiance : Nombre minimum d’éléments et de jours pour chaque niveau
- Limites d’alerte : Limites d’alerte quotidiennes par niveau de confiance