Kommentarsfälten har varit en del av nyhetssajterna länge, och lika länge har någon behövt hålla ordning på dem.

I den här texten går vi igenom vad som har förändrats när AI har tagit plats i modereringen, vad tekniken klarar bra, var människor fortfarande behövs och vad du som redaktör, community manager eller ansvarig utgivare bör tänka på när du väljer arbetssätt.

Från manuell granskning till AI

Först var modereringen helt manuell. Moderatorer läste kommentarer, antingen före publicering eller i efterhand, och tog bort det som bröt mot reglerna. Arbetssättet ger hög kvalitet men blir dyrt och långsamt när antalet kommentarer växer. Det blir också tungt för dem som gör jobbet. Den som har läst hundratals hatiska kommentarer under ett kvällspass vet hur det känns. Läs mer om hur moderering fungerar.

De första automatiska verktygen var ofta enkla ordfilter: listor med förbjudna ord som stoppades eller maskerades. Filtren var snabba men trubbiga. De missade elakheter som skrevs utan svordomar och stoppade samtidigt helt vanliga inlägg som råkade innehålla fel ord.

Dagens AI-moderering bedömer i stället hela kommentaren i sitt sammanhang. Det gör det möjligt att moderera i realtid, så att diskussionen kan hålla tempot utan att olämpligt innehåll syns medan det väntar på en människa.

Det här gör AI-moderering bra

  • Volym och tempo. En AI-modell blir inte trött och får inte längre kö när en stor nyhet drar in många kommentarer på kort tid.
  • Jämnhet. Samma typ av kommentar bedöms på samma sätt, oavsett tid på dygnet eller vem som har passet.
  • Avlastning. Moderatorerna slipper läsa det mest uppenbara och kan lägga tiden på de svåra fallen.

Mer om tekniken finns på sidan om AI-moderering.

Här behövs människan fortfarande

Erfarenheten från manuell moderering blir inte mindre värd med AI. Den behövs på nya sätt:

Gråzonerna

Ironi, interna skämt, citat av någon annans hat för att kritisera det: det finns alltid kommentarer där svaret inte är givet. Där behövs en människa som kan publikens tonläge och sin egen redaktions riktlinjer. Läs mer om manuell moderering.

Regler som speglar redaktionen

Var gränsen går är ett publicistiskt beslut, inte ett tekniskt. Ett AI-verktyg ska följa de regler redaktionen har bestämt, och någon måste äga och uppdatera reglerna när nyhetsläget förändras.

Uppföljning och förbättring

De bedömningar AI:n gör behöver följas upp. Erfarna moderatorer ser snabbt när ett mönster har börjat glida, till exempel när ett nytt kodord sprids i kommentarerna.

Att tänka på för ansvariga utgivare

I Sverige regleras ansvaret för kommentarsfält i första hand av lagen om ansvar för elektroniska anslagstavlor (BBS-lagen), som bland annat kräver att den som tillhandahåller tjänsten tar bort vissa typer av uppenbart brottsligt innehåll. Vilka regler som gäller just din publikation, och hur EU:s regelverk påverkar, bör ni stämma av juridiskt.

Oavsett regelverk är några frågor bra att ställa sig:

  1. Hur snabbt försvinner olämpligt innehåll? Med moderering i efterhand är det synligt en stund. Med moderering i realtid stoppas det innan det publiceras.
  2. Vem fattar beslut i gråzonerna? Det ska vara tydligt när AI:n beslutar själv och när en människa tar över.
  3. Går besluten att följa i efterhand? Om en läsare eller en myndighet frågar varför en kommentar togs bort, eller fick stå kvar, behöver ni kunna svara.

Så arbetar vi med Tono

Tono är vårt verktyg för moderering av kommentarsfält i realtid, byggt för nordiska mediehus. Tanken bakom det är just den som beskrivs ovan: AI tar hand om volymen och tempot, och erfarenheten från lång tid i kommentarsfälten styr hur reglerna sätts och följs upp.

Så går det till i praktiken

När en kommentar skickas in bedömer Tono den på under 300 millisekunder, med hänsyn till både artikeln och diskussionstråden. Bedömningen täcker allt från pressetik, namnpublicering och förtal till personangrepp, påhopp på reportrar, trakasserier och spam. De allra flesta kommentarer avgörs direkt, även de grövsta överträdelserna.

Kommentarer där svaret inte är givet går vidare till våra moderatorer, som bevakar tveksamma fall dygnet runt. De följer nordisk mediesed och er redaktions riktlinjer, och stämmer löpande av gränsdragningar med er. När en tråd tar fart, eller under helger och storhelger, ökar vi bemanningen.

Era regler, full spårbarhet

Ni bestämmer reglerna och kan anpassa dem per sektion, artikel eller kampanj. I kontrollpanelen ser ni vad som stoppades, varför och om beslutet togs av Tono eller av en moderator. Ni kan ändra ett beslut, och även ändringen loggas. Rapporter visar volym, vanligaste orsaker och hur bedömningarna fördelar sig. Om en läsare frågar varför en kommentar togs bort har ni alltså svaret.

Nordiska kommentarsfält, flera kanaler

Tono är tränad på över 100 miljoner kommentarer och förstår nordiska språk, inklusive slang, förkortningar och stavfel. Förutom kommentarsfälten under artiklarna kan Tono moderera era kanaler på Facebook, Instagram, TikTok och YouTube efter samma regler. All data lagras och behandlas inom EU.

Igång utan risk

Tono kopplas till er befintliga kommentarsplattform utan att data eller trådar behöver flyttas, och ni kan vara igång på en timme. Vill ni se träffsäkerheten först kan Tono köras i skuggläge, där den bedömer kommentarerna utan att stoppa något.

I dag modererar vi för bland andra Aftonbladet, Expressen, Svenska Dagbladet och VG.

Vill du veta mer om varför moderering lönar sig? Läs 5 fördelar med att moderera innehåll. Du kan också testa Tono gratis på era egna kommentarer, eller kontakta oss så berättar vi hur Tono kan passa er redaktion.