كاهش فاصله بين پيچيدگي الگوريتمهاي يادگيري عميق و قابليت‌هاي سيستمهاي نهفته بر بستر اينترنت اشياء

Reducing the gap between the complexity of deep learning algorithms and the capabilities of embedded systems on the Internet of Thingsl

شبكه‌هاي عصبي عميق به يكي از رويكردهاي غالب يادگيري ماشين در سال‌هاي اخير براي بسياري از حوزه‌هاي كاربردي تبديل شده‌اند. بارگذاري محاسبات در فضاي ابري اغلب به دليل عدم اتصال، تأخير بالا يا نگراني‌هاي مربوط به حريم خصوصي محدود شده است. معماري‌هاي شبكه عصبي عميق، اغلب وظايفي با منابع محاسباتي پيچيده هستند كه نياز به مقدار قابل‌توجهي ازCPU، GPU، حافظه و توان پردازشي دارند و بر روي سرورهاي قدرتمند و تخصصي اجرا مي شوند. با اين حال بسياري از اين وظايف نيز حوزه‌هاي كاربردي مهمي براي سيستم‌هاي تعبيه شده با منابع محدود هستند. بنابراين شبكه هاي عصبي عميق نياز به بهينه سازي دارند، درغير اين صورت شكاف بين منابع موجود و منابع مورد نياز به زمان هاي استنباط طولاني منجر مي شود و اجراي برنامه هاي بلادرنگ را غيرممكن مي كند. كاهش تعداد پارامترها لزوماً منجر به كاهش در زمان اجرا نمي شود، آنچه مهمتر است پراكندگي و سخت افزار زيربنايي است. در اين مقاله به فعال كردن اجراي كارآمد استنتاج شبكه‌ عصبي عميق در دستگاه هاي تعبيه‌شده با هدف كاهش ميانگين زمان استنتاج با حداقل كاهش دقت مي پردازيم. با هدف كاهش ميانگين زمان استنتاج شبكه‌ عصبي عميق و تا حد ممكن بدون كاهش دقت، از يك انتخابگر مدل استفاده مي‌شود كه به صورت پويا با در نظر گرفتن معيار ارزيابي و زمان استنتاج مورد نظر، تعيين مي‌كند از كدام شبكه‌ عصبي عميق براي يك ورودي داده شده استفاده شود.