Organisationen Tech Against Terrorism har publicerat en ny studie som tittar närmare på hur terrorister och våldsamma extremister använder sig av generativ AI. Studien har granskat 5 000 artiklar med AI-genererat innehåll som producerats av terrorister och våldsamma extremister.
Enligt Tech Against Terrorism ska generativ AI främst användas för att förstärka terroristers och våldsamma extremisters tidigare metoder för att skapa och sprida propaganda. Detta gäller både för islamister och högerextrema grupper.
Till exempel ska en pro-IS-grupp publicerat en guide för hur IS-sympatisörer kan använda sig av Chat GPT utan att riskera sin säkerhet och en chattkanal för högerextrema ska spritt rasistiska, antisemitiska och nazistiska bilder som skapats med en AI-app som är tillgänglig via Google Play Store.
Tech Against Terrorism skriver att de 5 000 artiklarna som granskats samtidigt utgör en mycket liten del av det totala volymen material som organisationen identifierar varje år.
I dagsläget gör organisationen bedömningen att det finns få bevis för att generativ AI används systematiskt av terrorister och våldsamma extremister. Användningen bedöms istället befinna sig i en experimentell fas och för stunden är risken låg för en bredare användning av tekniken. Detta kan däremot komma att ändras i framtiden.
