گامي در راه رسيدن به شبكه‌هاي عصبي عميق تمام‌نوري: به‌كارگيري واحد غير خطي نوري

در سال‌هاي اخير، شبكه‌هاي عصبي نوري به علت سرعت بالا و توان مصرفي پاييني كه دارند، بسيار مورد توجه قرار گرفته‌اند. با اين‌ وجود، اين شبكه‌ها هنوز محدوديت‌هاي زيادي دارند كه يكي از اين محدوديت‌ها پياده‌سازي لايه غير خطي در آنهاست. در اين نوشتار، پياده‌سازي واحد غير خطي براي شبكه‌هاي عصبي پيچشي نوري مورد بررسي قرار گرفته تا در نهايت با استفاده از اين واحد غير خطي بتوان به يك شبكه عصبي پيچشي تمام‌نوري عميق با دقتي مشابه شبكه‌هاي الكتريكي، سرعت بالاتر و توان مصرفي كمتر رسيد و بتوان قدمي در راستاي كاهش محدوديت‌هاي اين شبكه‌ها برداشت. در اين راستا ابتدا روش‌هاي مختلف پياده‌سازي واحد غير خطي مرور شده‌اند. سپس به بررسي تأثير استفاده از جاذب اشباع‌شونده به عنوان واحد غير خطي در لايه‌هاي مختلف بر دقت شبكه پرداخته شده و نهايتاً روشي نوين و ساده براي جلوگيري از كاهش دقت شبكه‌هاي عصبي در صورت استفاده از اين تابع فعال‌ساز ارائه گرديده است.