ژورنال فن آوري اطلاعات و سياست بررسي كلام تنفرآميز ضعيف و قوي اسلام هراسانه در رسانه هاي اجتماعي

Journal of Information Technology and PolicyExamining the weak and strong Islamophobic hate speech on social media

سخنان تنفرآميز اسلام هراسي در رسانه هاي اجتماعي دغدغه اي فزاينده در سياست و جامعه غربي معاصر است. اين امر مي تواند آسيب هاي قابل توجهي بر تك تك قربانيان مورد هدف داشته باشد و احساس ترس و محروميت را در بين جو.امع آنان ايجاد و گفتمان عمومي را زهر آلود كند و ديگر شكل هاي افراط گرايي و رفتارهاي تنفرآميز را موجب شود. براين اساس، نياز مبرمي براي ايجاد ابزارهاي قوي خودكار و در مقياس بالا جهت شناسايي و طبقه بندي سخنان تنفر آميز اسلام هراسي وجود دارد تا به وسيله آن تجزيه و تحليل هاي كمي پايگاه هاي داده متني بزرگ از جمله موارد گردآوري شده از رسانه هاي اجتماعي امكانپذير باشد. تحقيق قبلي به ميزان زيادي به شناسايي خودكار سخنان تنفرآميز به عنوان يك كار باينري نزديك شد. اما ماهيت گوناگون اسلام هراسي به اين معني است كه اين موضوع غالبا به لحاظ علوم اجتماعي نظري و نيز پايش موثر پلتفرم هاي رسانه هاي اجتماعي امري بيمورد و نابجاست. ما با ترسيم كار عميق مفهومي، يك ابزار نرم افزاري خودكار ساخته ايم كه بين محتواي غير اسلام هراسي، اسلام هراسي ضعيف و اسلام هراسي قوي تمايز قائل مي شود.

Islamophobic hate speech on social media is a growing concern in contemporary Western politics and society. It can inflict considerable harm on any victims who are targeted, create a sense of fear and exclusion amongst their communities, toxify public discourse and motivate other forms of extremist and hateful behavior. Accordingly, there is a pressing need for automated tools to detect and classify Islamophobic hate speech robustly and at scale, thereby enabling quantitative analyses of large textual datasets, such as those collected from social media. Previous research has mostly approached the automated detection of hate speech as a binary task. However, the varied nature of Islamophobia means that this is often inappropriate for both theoretically informed social science and effective monitoring of social media platforms. Drawing on in-depth conceptual work we build an automated software tool which distinguishes between non-Islamophobic, weak Islamophobic and strong Islamophobic content. Accuracy is 77.6% and balanced accuracy is 83%. Our tool enables future quantitative research into the drivers, spread, prevalence and effects of Islamophobic hate speech on social media.