استفاده از الگوریتم ژنتیک جهت بهبود یادگیری انتشار ارتجاعی در شبکه عصبی پرسپترون چند لایه

امروزه استفاده از شبکه عصبی پرسپترون چند لایه در بسیاری از مسائل داده کاوی و شناسایی الگو، مرسوم است. به علت پیچیدگی و تنوع داده ها، توجه به انتخاب روش آموزش شبکه عصبی با توجه به زمان بر بودن آن، اهمیت فراوانی دارد. یکی از فاکتورهای اساسی و عملی در آموزش، نرخ همگرایی شبکه است که رابطه مستقیمی با مدت زمان اموزش خواهد داشت که برای روشهای گرادیانی که امروزه برای اموزش شبکه عصبی استفاده می شود، کاملاً وابسته به نقطه شروع خواهد بود. در این مقاله از روش ژنتیک جهت بهبود نرخ همگرایی الگوریتم یادگیری انتشار ارتجاعی که از روشهای محلی موفق د رآموزش شبکه عصبی است، استفاده میشود. برای این منظور، برای بدست آوردن یک نقطه شروع برای یادگیری انتشار ارتجاعی، در ابتدا از الگوریتم ژنتیک با جمعیتی کوچکی در حدود 12 کروموزوم استفاده شده وپس از حدود 10 تکرار، بهترین جوابهای بدست امده به یادگیری انتشار ارتجاعی، تحویل می شود. در واقع، استفاده از الگوریتم ژنتیک در ابتدای روش پشنهادی باعث نزدیک شدن به جواب بهینه شده و باعث تسریع یادگیری محلی و افزایش نرخ همگرایی می گردد که علت آن همانطور که ذکر گردید شروع جستجوی محلی از جواب بهینه تحویلی بوسیله الگوریتم ژنتیک می باشد. الگوریتم پیشنهادی (ترکیب روش ژنتیک و یادگیری انتشار ارتجاعی) به زبان C پیاده سازی شد و نتایج آن برای مسائل مختلفی مورد آزمایش قرار گرفت. نتایج، نشان دهنده افزایش درصد همگرایی بواسطه استفاده از الگوریتم ژنتیک در انتخاب نقطه شروع مناسب بود. همچنین سرعت همگرایی نیز نسبت به زمانی که فقط از الگوریتم زنتیک استفاده شود، افزایش یافته است. در عین حال در مسائل پیچیده، همگرایی نسبت به یادگیری ارتجاعی نیز سریعتر می شود.

Keywords:

آموزش انتشار ارتجاعی , شبکه عصبی پرسپترون چند لایه , الگوریتم ژنتیک , نرخ همگرای