بهینه سازی شبکه عصبی کانولوشنال با استفاده از بهینه سازی ازدحام ذرات با کاهش وزن بصورت خطی

شبکه عصبی کانولوشنال (CNN) یکی از پرکاربردترین شبکه های عصبی است.اشکال مختلفی از مدل ها پیشنهاد شده است که برای یادگیری در شبکه عصبی کانولوشنال ارائه شده است. وجود ابرپارامترهای بهینه ضروری است. چون تعداد ابرپارامترها بسیار زیاد است انجام آن به صورت دستی دشوار است، تحقیقات زیادی برای بهینه کردن آن به صورت اتوماتیک انجام شده است.متدهای الگوریتمهای فراابتکاری که برای بهینه سازی ابرپارامترها در تحقیقات مورد توجه قرار گرفته از طبیعت الهام گرفته شده اندشامل استراتژیهای تکامل، الگوریتمهای ژنتیک، بهینهسازی کلونی مورچه وبهینه سازی انبوه ذرات میشود. به طور خاص، بهینه سازی انبوه ذرات سریعتر از الگوریتم های ژنتیک و مدل های مختلفی است که پیشنهاد شده اند.در این مقاله، ما برای بهینهسازی ابرپارامتر شبکه عصبی کانولوشنال با کاهش خطی وزن با بهینه سازی انبوه ذرات (LDWPSO) پیشنهاد می کنیم .در آزمایش، مجموعه داده های MNIST ومجموعه داده CIFAR-۱۰، که اغلب به عنوان مجموعه داده های معیار استفاده می شود.ما بهینه سازی ابرپارامترهای شبکه عصبی کانولوشنال به وسیله بهینه سازی ازدحام ذرات با کاهش وزن بصورت خطی LDWPSO)) ، یادگیری MNIST و مجموعه دادههای CIFAR-۱۰، از نظر دقت با یک شبکه عصبی کانولوشنال استاندارد مبتنی بر LeNet-۵ به عنوان یک نتیجه مقایسه میکنیم. هنگامی که مجموعه MNIST به عنوان پایه شبکه عصبی کانولوشنال استفاده می کنیم. ۹۴.۰۲٪ در دوره پنجم با ۹۸.۹۵٪ برای LDWPSO CNN مقایسه می کنیم.که دقت را بهبود می بخشد. مجموعه داده CIFAR-۱۰، برای شبکه عصبی کانولوشنال ، ۲۸.۰۷ ٪ در دوره دهم است، با ۶۹.۳۷٪ برای LDWPSO CNNمقایسه می کنیم، که دقت را تا حد زیادی بهبود می بخشد.

Keywords:

بهینه سازی ابرپارامتر , شبکه عصبی کانولوشنال , بهینه سازی انبوه ذرات , مجموعه دادهMNIST , CIFAR-۱۰.