يادگيري تدافعي در شبكه هاي عصبي بازگشتي

Adversarial Training in Recurrent Neural Network

در سال‌هاي اخير نياز به طبقه‌بندي متن توسط زبان‌هايي كه از داده‌هاي برچسب‌دار به اندازه كافي برخوردار هستند، اقزايش يافته است. از آنجا كه در بعضي زبان‌ها با كمبود داده‌هاي برچسب‌دار به منظور ايجاد يك مدل طبقه‌بند مواجه هستيم، يك راهكار انتقال اطلاعات و دانش موجود در زبان‌هاي با داده‌هاي برچسب‌دار كافي در دامنه منبع به زبان‌هاي با داده‌هاي برچسب‌دار محدود در دامنه هدف است. در اين مقاله روشي ارائه شده كه در آن دانشي را از زبان انگليسي كه در آن داده‌هاي برچسب‌دار به اندازه كافي و فراوان موجود است، ياد مي‌گيرد و آن را براي طبقه‌بندي متن زبان چيني كه از داده‌هاي برچسب‌دار كمي براي ايجاد مدل برخوردار است، مورد استفاده قرار مي‌دهد. مدل ارائه شده داراي دو شاخه مجزا، يكي طبقه‌بند احساسات و ديگري تفكيك‌كننده زبان‌هاي دو دامنه است. هر دو شاخه از مشخصه‌هاي مشتركي در دو زبان استفاده مي‌كنند و داده‌ها را با استفاده از اين مشخصه‌ها به گونه‌اي نمايش مي‌دهند كه طبقه‌بندي متن در سيستم چند زبانه را امكان‌پذير كنند.

In recent years, sentiment classification along languages with adequate labeled data has increased; however some languages suffer from lack of labeled data for learning a model, one solution is to transfer knowledge from source domain with rich resource languages to a few resource languages without adequate labeled data in target domain. In this paper we propose a method referred to as Adversarial Training in Recurrent Neural network (ARN) that use adversarial training and learn a model on English as a source language. ARN has two branches: a sentiment classifier and a language discriminator. These two branch take input from feature extractor that extract language invariant features. The proposed method has been evaluated in an experiment on Chinese language. The result from this experiment demonstrate the performance improvement against state-of-the-art sentiment classification methods.