AI - Artificiell Intelligens

💣 AI ska hjĂ€lpa polisen att förhindra hatbrott genom att analysera hattexter pĂ„ nĂ€tet

Ett AI-system kan analysera stora mÀngder texter pÄ nÀtet och identifiera varningsbeteenden och riskfaktorer.

💣 AI ska hjĂ€lpa polisen att förhindra hatbrott genom att analysera hattexter pĂ„ nĂ€tet

Internet Àr en grobÀdd för extrema ideologier som vill sprida sitt hat och det Àr svÄrt att veta vem som kommer med tomma hot och vem som verkligen tÀnker genomföra ett hatbrott. Men nu har forskare vid Uppsala universitet byggt ett AI-verktyg som kan hjÀlpa polis och sÀkerhetspersonal att göra bÀttre risk- och farlighetsbedömningar av digital kommunikation

Verktyget heter Dechefr och kan automatiskt granska misstÀnkta texter och identifiera varningsbeteenden och riskfaktorer hos skribenten.

”NĂ€r attacker och dĂ„d planeras uppstĂ„r alltid nĂ„gon form av lĂ€ckage, inte minst bland ensamagerade. Det kan bestĂ„ av ordval, psykologiska markörer, nĂ€mnande av namn och platser, helt enkelt en samling variabler som tillsammans gör det i princip omöjligt att lura verktyget. DĂ€rmed inte sagt att resultatet ska uppfattas som absolut sanning, men det ger analytiker en viktig grund för mer lĂ„ngtgĂ„ende utforskning och eventuella insatser”, sĂ€ger Nazar Akrami, forskare i psykologi vid Uppsala universitet.

Dechefr Àr ett kraftfullt verktyg för att analysera texter pÄ nÀtet och forskarna har lagt sig vinn om att det inte ska kunna missbrukas.

”Vi har utformat verktyget pĂ„ ett sĂ€tt som omöjliggör sĂ„vĂ€l otillĂ„ten anvĂ€ndning som nĂ€tscanning i omfattande skala. Systemet ska om allt löper planenligt förvaltas av analytiker inom polis- och sĂ€kerhetstjĂ€nster och jag Ă€r fullstĂ€ndigt trygg i att Dechefr kommer att utgöra exakt det stöd i kampen mot vĂ„ldsbejakande extremism som vi föresatt oss”, sĂ€ger Nazar Akrami.

Verktyget Àr inte i full drift Àn, men forskarna rÀknar med att ha en skarp version av Dechefr inom nÄgra mÄnader.

”Vi har matat verktyget med bland annat över 50 000 slumpvis valda texter, men ocksĂ„ ett stort antal dokument skapade av vĂ„ldsverkare och terrorister. Med hjĂ€lp av algoritmer kan vĂ„rt verktyg nu skanna hela webbplatser och med mycket hög trĂ€ffsĂ€kerhet urskilja potentiella hotbilder. Ännu Ă„terstĂ„r flera tester, men till sommaren rĂ€knar vi med att vara i mĂ„l”, sĂ€ger Nazar Akrami.

Vill du fÄ en dos faktabaserad optimism i din mejlkorg en gÄng i veckan? Missa inte att prenumerera pÄ vÄrt nyhetsbrev.

Warp News drivs av den ideella stiftelsen Warp Institute med sÀte i Stockholm.

90 procent av svenskarna tror inte att vÀrlden kommer vara bÀttre om 15 Är. En anledning till det tror vi Àr övervikten av negativa nyheter i media.

Warp News balanserar det genom faktabaserade optimistiska nyheter.

💙 STÖTTA WARP NEWS – BLI MEDLEM IDAG

NÀr du blir medlem fÄr du full tillgÄng till alla vÄra artiklar och stöttar Warp News arbete med att sprida faktabaserad optimism över hela vÀrlden.

​
Du har loggat in pÄ Warp News
Bra! Gör klart resten av processen för full tillgÄng till Warp News
VÀlkommen tillbaka! Du Àr nu inloggad.
Ditt konto Àr aktivt och du har full tillgÄng till allt innehÄll.
Ditt konto Àr uppdaterat.
Uppdateringen misslyckades.