یادگیری بانظارت مبتنی بر زمان ضربه برای شبکه های عصبی ضربه ای عمیق

الگوریتم پس انتشار خطا رایج ترین الگوریتم برای آموزش بانظارت و مستقیم شبکه های عصبی ضربه ای می باشد. هرچند به علت ماهیت گسسته این شبکه ها، اعمال این الگوریتم با محدودیت ها و چالش هایی همراه است. در این مقاله یک الگوریتم یادگیری جدید مبتنی بر کدگذاری زمانی تک ضربه ای ارائه شده است که در آن گرادیان های بازگشتی را حذف کرده و از یک تقریب خطی برای محاسبه مشتق تابع فعالیت نورون های ضربه ای استفاده می کنیم به منظور حذف گرادیان های بازگشتی، تابع خطای هر لایه به صورت جداگانه محاسبه شده و سپس با اعمال الگوریتم کاهش گرادیان، پارامترهای آن لایه به روز رسانی می شوند. همچنین به منظور کاهش حجم محاسبات، مدل نورونی خطی تکه ای را پیشنهاد داده ایم و از یک روش کدگذاری زمانی استفاده کرده ایم به گونه ای که هر نورون حداکثر یک بار اجازه آتش دارد. الگوریتم پیشنهادی برای آموزش یک شبکه عصبی ضربه ای کانولوشنی استفاده شده است و با بررسی بر روی پایگاه داده MNIST نشان داده شده که این الگوریتم قابلیت پیاده سازی در ساختارهای عمیق شبکه های عصبی ضربه ای را دارد.

Keywords:

شبکه های عصبی ضربه ای , پس انتشار خطا , گرادیان های بازگشتی , نورون خطی تکه ای , زمان اولین ضربه.