هوشمندسازی الگوریتم گرادیان با الهام از روش بهینه سازی ازدحام ذرات

الگوریتم گرادیان ساده­ترین و پرکاربرد­ترین روش در بهینه­سازی و یادگیری ماشین می­باشد. سرعت همگرایی این روش به­شدت به انتخاب مقدار مناسب برای طول­گام بستگی دارد. انتخاب طول­گام بسیا­رکوچک می­تواند باعث سرعت همگرایی کند شود. ازطرفی انتخاب طول­گام بسیار­بزرگ نیز ممکن است باعث واگرایی و نوسان حول نقطه بهینه گردد. معمولا طول­گام را در مراحل اولیه بهینه­سازی بزرگ­تر انتخاب کرده و با پیش­رفتن گام های اجرا و نزدیکی به جواب بهینه، مقدار آن کاهش می­یابد که تنظیم بهینه مقدار این پارامتر به­صورت تجربی و با سعی­و­خطا برای هر مسئله­ای باید انجام ­شود و زمان زیادی را می­طلبد. ازطرفی در روش­های بهینه­سازی مبتنی­بر هوش جمعی، از جمله در الگوریتم بهینه­سازی ازدحام ذرات (PSO) ، طول­گام حرکت به­صورت خودکار و در حین اجرای روش تنظیم می­شود. همچنین در این روش­ها، پارامترهای اندکی نیاز به تنظیم دارند و محدوده ازپیش­تعیین شده­ای برای این منظور موجود است. در این مقاله با ترکیب دو روش PSO و گرادیان، یک روش بهینه­سازی هوشمند مبتنی بر گرادیان ارائه شده است که نیازی به تنظیم طول­گام ندارد. عملکرد الگوریتم گرادیان پیشنهادی برروی ده تابع محک مورد بررسی قرارگرفته و مشاهده می شود که الگوریتم پیشنهادی سرعت همگرایی بهتری نسبت به الگوریتم گرادیان کلاسیک در رسیدن به جواب بهینه دارد.

Keywords:

An intelligent Gradient Method using Particle Swarm Optimization , الگوریتم گرادیان نزولی , الگوریتم بهینه سازی ازدحام ذرات (PSO) , طول گام , جهت حرکت بهینه , هوشمندسازی