Interaktiv Säkerhet

Moderering

Är artificiell intelligens framtiden inom moderering?

Under åren som vi har arbetat har vi samlat på oss spetskunskap och erfarenhet som vi gärna vill dela med oss av. Här har vi samlat artiklar om whistleblowing och moderering som vi hoppas du kommer tycka är givande och intressanta.

Vår vision är att dessa texter ska hjälpa dig genom djungeln av visselblåsartjänster så att du kan hitta den bästa informationen anpassad till dig och gärna starta en diskussion med oss. 

TILLBAKA TILL BLOGGEN

Artificiell intelligens har gjort enorma framsteg de senaste åren, och gör vissa uppgifter lika bra, eller faktiskt bättre, än vi människor. Men kan AI ersätta den mänskliga intelligensen när det handlar om moderering av innehåll på nätet? Inte på långa vägar, hävdar vi.

Att det är viktigt att moderera sitt innehåll på nätet är inget nytt. Företag som i dagsläget inte har någon strategi för detta måste tänka om.

Automatiskt moderering som är uppbyggd på artificiell intelligens kan till viss del vara mycket användbar. Den lär sig snabbt känna igen ord och uttryck som är stötande eller bilder som innehåller olagligt eller olämpligt innehåll. I dagens digitala värld är det dessutom svårt att hinna övervaka alla bilder och kommentarer som laddas upp på nätet. Här kan en automatiskt modereringstjänst var väl till användning.

Men kan moderering som drivs av AI ersätta den mänskliga intelligensen? Nej hävdar vi bestämt. Visst kan man lära AI:n att hitta och ta bort de ord och fraser som är rasistiska, stötande, kränkande eller på annat sätt olämpligt. Men världen vi lever i och språket vi använder förändras konstant. I takt med förändringen ändras också vad vi anser vara ett accepterbart beteende.

LÄS OCKSÅ: Så här fungerar moderering

I nuläget finns det ingen AI som kan ersätta en faktisk människa. Visst, den kan ta sig an vårt rutinmässiga jobb och hitta utvalda ord och fraser snabbare, men den kan ännu inte alltid förstå innebörden. Många ord betyder helt olika saker beroende på vilket sammanhang de används i. En AI kan heller inte förstå sarkasm eller upptäcka subtila förändringar, som en människa kan. Kommentaren ”jag blir så lycklig när jag läser sådana här texter” är en härlig kommentar till en bokrecension men inte till en bussolycka i Peru med 63 döda.

Två bra exempel är Facebook och Google som båda använder AI för att filtrera olämpligt innehåll från oss användare. Men trots deras avancerade teknik som utvecklats under flera år måste de bemanna med tusentals personer som jobbar dygnet runt med att ta bort olämpligt innehåll där AI:n misslyckats.

Ett annat exempel är sökmotorn Bing som nyligen publicerade sexuella bilder på minderåriga. Microsoft, som äger Bing, fick bekosta en dyr PR-kampanj för att försöka rädda sitt varumärke.

En modereringstjänst som drivs av AI kan vara ett bra tillägg, men för att säkerställa ett lyckat resultat behövs den mänskliga intelligensen och erfarenheten. Eller vad tror du?