بررسي برنامه زمانبندي آگاه از دما براي محاسبات ناهمگن

A review of temperature-aware scheduling for heterogeneous computing

با پيشرفت فناوري هوش مصنوعي بنابراين پارامترها و هزينه هاي محاسباتي مدل هاي پيشرفته به طور قابل توجهي افزايش مي يابد. و به همين دليل، GPU‌هاي پايين رده موجود (واحدهاي پردازش گرافيكي) نمي‌توانند قدرت پردازشي مورد نياز براي اجراي مدل‌ها را تامين كنند. براي افزايش سرعت استنتاج در نسخه جانبي بسياري از توليدكنندگان NPU (واحدهاي پردازش عصبي) را راه اندازي كرده‌اند كه تراشه‌هاي ويژه‌اي براي شبكه‌هاي عصبي هستند. اين مي‌تواند كارايي كلي استنتاج را بهبود بخشد و مصرف انرژي را با كاهش دقت مشخص شده كاهش دهد. با اين حال، پردازش مشترك CPU + GPU + NPU در راه‌حل‌هاي اصلي فعلي به خوبي مورد توجه قرار نگرفته است. همزمان دستگاه‌هاي جانبي به راحتي تحت تاثير دماي محيط قرار مي‌گيرند.در اين مقاله از CPU+GPU+NPU براي توسعه يك كار استنتاج مشترك محيطي استفاده شده است. و ابتدا مدل‌هاي سنجش دما دستگاه‌هاي مختلف را بر اساس دماي محيط لوازم جانبي توسعه خواهيم داد. سپس TAS پيشنهادي (تايمر سنجش دما) ... الگوريتمي براي كنترل سرعت اجراي ماشين‌هاي مختلف پيشنهاد كرد. سپس يك الگوريتم زمانبندي كار براي ماشين‌هاي مختلف به نام TASTS (بر اساس TAS-based Task Scheduler) به طور همزمان پيشنهاد كرد.

With the advancement of artificial intelligence technology, the parameters and computational costs of advanced models increase significantly. And because of this, existing low-end GPUs (graphics processing units) cannot provide the processing power required to run the models. To increase the speed of inference in the peripheral version, many manufacturers have launched NPUs (neural processing units), which are special chips for neural networks. This can improve the overall inference efficiency and reduce energy consumption by reducing the specified accuracy. However, CPU + GPU + NPU joint processing is not well considered in current mainstream solutions. At the same time, the peripheral devices are easily affected by the ambient temperature. In this paper, CPU+GPU+NPU is used to develop a joint environmental inference task. And first, we will develop the temperature measurement models of different devices based on the ambient temperature of the accessories. Then proposed TAS (Temperature Sensing Timer) ... an algorithm to control the execution speed of different machines. Then he proposed a task scheduling algorithm for different machines called TASTS (based on TAS-based Task Scheduler) simultaneously.