Moderation & ansvar
Moderation skal kunne forklares
Escortify bruger både teknologiske signaler og menneskelig vurdering til at håndtere profiler og indhold. Et automatisk fund er ikke i sig selv en dom, og et indgreb skal bygge på en konkret vurdering af det relevante forhold.
Fra signal til handling
Sådan kan en moderationssag udvikle sig
Ikke alle sager følger præcis samme vej. Processen afhænger af alvor, dokumentation og de signaler, der er tilgængelige.
-
Signal
Noget giver anledning til kontrol
Det kan være en rapport, en ændring på en profil, et billedmatch eller et andet relevant teknisk eller menneskeligt signal.
-
Kontekst
Forholdet undersøges
Vi ser på den relevante profil, indholdet og de oplysninger, der er nødvendige for at forstå situationen.
-
Vurdering
Teknologi og mennesker bruges efter behov
Automatiske systemer kan understøtte arbejdet. Alvorlige eller tvetydige forhold kan kræve menneskelig vurdering.
-
Handling
Vi reagerer efter det konkrete grundlag
Indhold eller profiler kan fastholdes, sendes til yderligere kontrol, begrænses, afvises eller fjernes efter vores regler og den konkrete vurdering.
Vores moderationsprincipper
Fem ting vi holder fast i
Målet er ikke flest mulige indgreb. Målet er en mere konsekvent, forståelig og ansvarlig platformdrift.
-
01
Alvorlige sikkerhedssager prioriteres
Mistanke om mindreårige, tvang, udnyttelse, menneskehandel eller identitetsmisbrug behandles som sikkerhedssager.
-
02
Kontekst tæller
Et enkelt signal kan være vigtigt, men vurderingen bør se på det relevante samlede forhold og ikke kun et isoleret datapunkt.
-
03
Reglerne gælder platformen som helhed
Betaling eller kommerciel værdi må ikke i sig selv gøre alvorlige regelbrud acceptable.
-
04
Indgreb skal have en konkret årsag
Når indhold eller profiler begrænses, afvises eller fjernes, arbejder vi med konkrete moderationsårsager frem for vilkårlige afgørelser.
-
05
Menneskelig genvurdering
Relevante moderationsbeslutninger kan gennemgås igen af et menneske, når forholdene tillader det.
Menneskelig gennemgang
Når kontekst kræver mere end et automatisk signal
AI og automatiske systemer er stærke til at finde mønstre. De er ikke en fejlfri dommer over mennesker.
Alvorlige eller tvetydige sager kan kræve menneskelig gennemgang. Her kan en moderator se på den konkrete profil, det relevante materiale, rapportens indhold og de tekniske signaler samlet.
Formålet er ikke at tilsidesætte teknologi, men at bruge den rigtigt: som et værktøj, der hjælper mennesker med at opdage og prioritere forhold, som derefter kan kræve kontekst og dømmekraft.
Ser du et problem?
Rapportering er en del af moderationssystemet
Hvis du opdager en profil eller adfærd, som bør undersøges, kan du sende den konkrete information direkte videre til Escortify.