Automatisk moderering har blivit mycket bättre, och i de flesta kommentarsfält sköter den nu det mesta av arbetet. Det betyder inte att människan har blivit överflödig. I den här texten går vi igenom vilka bedömningar som fortfarande kräver en moderator, varför de gör det och hur du som redaktör eller community manager kan dela upp arbetet mellan maskin och människa.

Vill du först veta mer om vad tekniken klarar? Läs AI-moderering: vad den klarar, var den brister och hur du kombinerar den med människor.

De flesta kommentarer är lätta att bedöma

Det är bra att börja i rätt ände. Den stora mängden kommentarer är inga svåra fall. Det är vanliga åsikter, frågor, tillrättalägganden och ibland lite skämt. En del är så uppenbart olämpliga att ingen skulle tveka: grova personangrepp, spam, länkar till bedrägerier.

Den sortens kommentarer passar för automatisk moderering. Där gör maskinen samma bedömning varje gång, dygnet runt och lika snabbt oavsett hur många som kommenterar. Den vinsten ska inte underskattas. Men av samma skäl blir det tydligt var gränsen går. Det som finns kvar när de lätta fallen är sorterade är de kommentarer där en rimlig bedömning kräver mer än texten själv.

Där bedömningen blir svår

Ironi och sarkasm

”Vilken fantastisk idé att stänga skolan, verkligen genomtänkt.” Den som läser hela tråden förstår oftast om skribenten menar det eller inte, och om ironin riktas mot ett beslut eller mot en person. Det spelar roll för bedömningen. Sarkasm mot makthavare är normalt en del av det offentliga samtalet, men ironi kan också användas för att håna en utsatt grupp utan att ett enda olämpligt ord syns.

Sammanhang från artikeln och tråden

Samma mening kan vara harmlös under en sportartikel och djupt sårande under en text om ett dödsfall. En kommentar som svarar på en annan kommentar kan bara förstås om man läser båda. En moderator ser vilken artikel det gäller, vem som svarar vem och hur tonen har utvecklats i tråden. Moderatorn kan också väga in det som händer i nyhetsflödet just nu.

Kodord och nya uttryck

Den som vill sprida hat utan att bli stoppad byter ord. Siffror, förvanskade stavningar, smeknamn på grupper och interna skämt används just för att de ser oskyldiga ut. Nya uttryck dyker upp snabbare än något system hinner lära sig dem, och en del av dem är lokala eller hör till en viss dialekt. En erfaren moderator som följer samtalet känner ofta igen mönstret tidigt.

Citat, kritik och motargument

En kommentar som citerar ett hatiskt uttalande för att ta avstånd från det innehåller samma ord som originalet. Den som ska bedöma kommentaren måste förstå vad skribenten gör med orden, inte bara vilka ord som står där. Tar ni bort kritiken tillsammans med det den kritiserar blir samtalet sämre, inte bättre.

Hot som inte ser ut som hot

”Jag vet var du bor” eller ”vi ses snart” är inte hotfulla i sig. Riktade mot en namngiven reporter eller en person i artikeln kan de vara allvarliga. Här behövs någon som kan bedöma avsikten och mottagarens situation, och som vet när ärendet ska vidare till ansvarig utgivare, säkerhetsansvarig eller polis.

Juridiken kräver en bedömning

För svenska sajter med kommentarsfält gäller lagen om ansvar för elektroniska anslagstavlor. Den kräver att den som tillhandahåller tjänsten har uppsikt över den och tar bort meddelanden som uppenbart utgör vissa brott, till exempel hets mot folkgrupp. Gränsen mellan ett hårt men lagligt inlägg och ett brott är inte alltid uppenbar. Ofta beror den på vem som pekas ut, i vilket sammanhang och med vilken avsikt.

Den bedömningen behöver en människa kunna stå för och förklara i efterhand. Det gäller även när ett system har flaggat kommentaren.

Inom EU gäller dessutom förordningen om digitala tjänster (DSA). Den ställer bland annat krav på att tjänster som lagrar användares innehåll ska ha ett sätt att anmäla olagligt innehåll, och att den som får sitt innehåll borttaget ska få en motivering. Kommentarsfält på nyhetssajter omfattas däremot ofta inte av de mer långtgående reglerna för onlineplattformar, eftersom kommentarerna räknas som en underordnad del av tjänsten. Exakt vad som gäller beror på vilken sorts tjänst ni driver, så stäm av det med er jurist.

Förtroende bygger på bedömningar som går att förklara

Läsare som får sina kommentarer borttagna vill förstå varför. Det kan till och med vara de mest engagerade läsarna. En redaktion som kan säga ”vi tog bort kommentaren för att den pekade ut en privatperson”, och som gör likadant nästa gång, får ett kommentarsfält där folk vet vad som gäller.

Manuell moderering gör det också möjligt att ompröva ett beslut. När någon hör av sig och menar att ni har fel kan en människa läsa igen, ta hänsyn till nya uppgifter och ändra sig. Det är en viktig del av att vara rättvis.

Så fördelar ni arbetet mellan maskin och människa

Poängen är inte att välja mellan automatisk och manuell moderering. Det handlar om att låta var och en göra det den är bäst på.

  1. Låt automatiken ta de tydliga fallen. Kommentarer som klart kan publiceras går ut direkt, och de som klart inte kan det stoppas.
  2. Skicka gråzonen till en människa. Kommentarer där systemet är osäkert, där artikeln rör ett känsligt ämne eller där någon har flaggat bör hamna i en egen kö.
  3. Prioritera kön. Möjliga hot och kommentarer om namngivna personer först, sådant som bara är tveksamt i tonen sedan.
  4. Skriv ner riktlinjerna. En kort, konkret policy med exempel gör att olika moderatorer bedömer lika. Gå igenom svåra fall tillsammans med jämna mellanrum.
  5. Låt bedömningarna lära systemet. När moderatorerna rättar automatikens beslut bör det märkas i hur den sorterar framöver, så att gråzonen krymper över tid.

Ta hand om dem som modererar

De svåraste bedömningarna är ofta också de tyngsta att läsa. Det är just de kommentarer som skickas vidare till moderatorerna som kan innehålla hot, hat och detaljerade beskrivningar av våld. Se till att ingen sitter ensam med det. Varva arbetsuppgifterna, ge tid för återhämtning och ha en tydlig väg vidare för de ärenden som behöver lyftas till någon annan.

Så arbetar vi

Hos oss avgör Tono de allra flesta kommentarerna direkt, även de grövsta överträdelserna. Tono har lärt sig av mänskliga beslut från många års moderering i nordiska kommentarsfält, och de kommentarer som fortfarande kräver mänskligt omdöme går till våra moderatorer, som finns på plats dygnet runt. Flera av dem har arbetat i nordiska kommentarsfält i många år.

Moderatorerna bedömer utifrån nordisk mediesed och er redaktions riktlinjer, och stämmer löpande av gränsdragningar med er. När en tråd tar fart, eller under kvällar, helger och storhelger, ökar vi bemanningen. Alla manuella beslut loggas, så att ni alltid kan se vad som togs bort och varför. Modereringen sker i Norden, under tystnadsplikt, och all data stannar inom EU.

Sammanfattning

Automatisk moderering gör att människorna slipper de lätta fallen. Ironi, sammanhang, kodord, citat, hot och juridiska gränsfall kräver fortfarande någon som kan läsa mellan raderna och stå för sitt beslut. Kommentarsfält som både är snabba och rättvisa får ni när maskinen sorterar och en människa avgör de svåra fallen.

Vill du veta hur det kan fungera hos er? Läs mer om manuell moderering, testa Tono gratis eller kontakta oss.