پردازش بهينه مرحله آموزش شبكه عصبي با استفاده از اشتراك داده

امروزه با بزرگ تر شدن و پيچيده تر شدن شبكه‌هاي عصبي، پردازش آن ها در مرحله استنتاج و آموزش به منابع پردازشي و حافظه بيشتري نياز دارد. با افزايش هزينه انتقال داده و اهميت حفظ امنيت داده ها، اجراي فاز آموزش شبكه‌هاي عصبي در دستگاه هاي لبه مورد توجه قرار گرفته است. مرحله آموزش، شامل عمليات انتشار به جلو، انتشار به عقب و به روز رساني وزن است و نياز به حافظه و پردازش بيشتري نسبت به استنتاج دارد، در نتيجه با توجه به محدوديت منابع و انرژي در دستگاه هاي لبه، اجراي آن با چالش هاي بيشتري رو به رو است. در اين پژوهش ما يك رويكرد فشرده‌سازي آگاه از داده براي بهره برداري از پراكندگي و شباهت در بردارهاي ورودي‌، وزن‌ و گراديان در مرحله آموزش براي شتاب دهنده هاي شبكه‌هاي عصبي ژرف پيشنهاد مي كنيم و يك معماري شتاب دهنده جديد جهت اجراي جريان داده، براي كاهش بي نظمي هاي ايجاد شده پيشنهاد مي كنيم. بررسي عملكرد روش پيشنهادي بر روي سه شبكه عصبي ژرف نشان داده است كه روش پيشنهادي در مقايسه با شتاب دهنده آگاه از تكرار و پراكندگي و يك روش آگاه از شباهت داده ورودي از لحاظ كارايي به ترتيب ×4.7 و ×6.8 و از لحاظ كاهش انرژي مصرفي به ترتيب ×3.5 و ×7.2 بهبود داشته است.