Title of article :
A Trust-region Method Using Extended Nonmonotone Technique for Unconstrained Optimization
Author/Authors :
Kimiaei, Morteza Fakultät für Mathematik - Universität Wien - Oskar-Morgenstern-Platz 1, A-1090 Wien , Esmaeili, Hamid Department of Mathematics - Bu-Ali Sina University - Hamedan, Iran , Rahpeymaii, Farzad Department of Mathematics - Payame Noor University - PO BOX 19395–3697 - Tehran, Iran
Abstract :
In this paper, we present a nonmonotone trust-region algorithm for unconstrained optimization. We first introduce a variant of the nonmonotone strategy proposed by Ahookhosh & Amini [1] and incorporate
it into the trust-region framework to construct a more efficient
approach. Our new nonmonotone strategy combines the current function
value with the maximum function values in some prior successful
iterates. For iterates far away from the optimizer, we give a very strong
nonmonotone strategy. In the vicinity of the optimizer, we have a weaker
nonmonotone strategy. It leads to a medium nonmonotone strategy when
iterates are not far away from or close to the optimizer. Theoretical analysis
indicates that the new approach converges globally to a first-order
critical point under classical assumptions. In addition, the local convergence
is studied. Extensive numerical experiments for unconstrained
optimization problems are reported showing that the new algorithm is robust and efficient.
Farsi abstract :
در اين مقاله، يك الگوريتم ناحيه اعتماد غير يكنواخت براي بهينه سازي نامقيد ارائه
ميدهيم. ما در ابتدا نوعي از استراتژي غير يكنواخت پيشنهاد شده توسط اهوخوش و اميني
[ 1 [ را معرفي مي كنيم و آن را براي ساختن يك روش كارامد به چارچوب ناحيه اطمينان
اضافه ميكنيم. استراتژي جديد غير يكنواخت ما مقدار تابع هدف فعلي را با حداكثر مقادير
تابع هدف در بعضي از تكرارهاي موفق قبلي تركيب ميكند. براي تكرارهايي به دور از بهينه
ساز، ما يك استراتژي بسيار قوي غير يكنواخت ارائه ميدهيم. در مجاورت بهينه ساز، ما
يك استراتژي غيريكنواخت ضعيف تر داريم. هنگامي كه تكرارها دوراز يا نزديك به بهينه
ساز نيستند، آن منجر به يك استراتژي متوسط غير يكنواخت ميشود. تجزيه و تحليل
تئوري نشان ميدهد كه رويكرد جديد بطور سراسري به يك نقطه بحراني مرتبه اول تحت
فرضيات كلاسيك همگرا ميشود.علاوه بر اين، همگرايي محلي مورد مطالعه قرار گرفته
است. نتايج عددي گسترده اي براي روي مسائل بهينه سازي نامحدود گزارش شده است
كه نشان ميدهد الگوريتم جديد قوي و كارآمد است.
Keywords :
Unconstrained optimization , Trust-region framework , Nonmono Nonmonotone technique , Theoretical convergence
Journal title :
Iranian Journal of Mathematical Sciences and Informatics (IJMSI)