Detektering av hat i digitala miljöer

Syfte och mål

Målet med projektet har varit att utveckla ett digitalt verktyg som automatiskt känner igen hatbudskap i texter skrivna på svenska och som bidrar till att minska hat i digitala miljöer. Den teknik som utvecklats inom ramen för projektet ska endast ses som ett första försök. Fler tester och mer annoterad data behövs innan en modell med tillfredsställande prestanda erhålls.

Resultat och förväntade effekter

Inom ramen för projektet har vi ökat vår förståelse för digitalt hat. Vi har bland annat lanserat hatomaten - en websida där alla kunde skicka in hatfulla texter för att bidra till utvecklande av vår hatdetektionsmodell. Syfte med hatomaten var även att uppmärksamma initiativet mot näthatet. Inititala tester för att förstå vår hatdetektionsmodelles förmåga att upptäcka hat har genomförts av Polismyndigheten. Förhoppningen är att polisen på sikt ska kunna använda liknande tekniker i sitt arbete med allt från strategiska analyser till att identifiera hot.

Upplägg och genomförande

FOI och Uppsala Universitet har arbetat med att ta fram maskininlärningsmodeller som med annoterad data tränats för att känna igen hat. Polisen har testat en modell och get feedback. För att samla in data som kan användas för att utveckla bättre modeller lanserades även hemsidan hatomaten.se där allmänheten hade möjlighet att hjälpa utvecklingen av maskininlärningsmodellerna genom att bidra med träningsdata.

Externa länkar

Hatomaten är en digital robot som vill bli matad med hat.