ارزیابی نقش تابع فعالساز در عملکرد شبکه های حافظه کوتاه و بلند مدت

امیر فرزاد; هدی مشایخی

ارزیابی نقش تابع فعالساز در عملکرد شبکه های حافظه کوتاه و بلند مدت

Publish place: نخستین کنفرانس ملی تحقیقات بین رشته ای در مهندسی کامپیوتر، برق، مکانیک و مکاترونیک

Publish Year: 1395

نوع سند: مقاله کنفرانسی

زبان: Persian

This Paper With 11 Page And PDF Format Ready To Download

دریافت فایل کامل Paper

Certificate
من نویسنده این مقاله هستم

این Paper در بخشهای موضوعی زیر دسته بندی شده است:

هوش مصنوعی > شبکه عصبی

استخراج به نرم افزارهای پژوهشی:

لینک ثابت به این Paper:

https://civilica.com/doc/539892

شناسه ملی سند علمی:

IRCEM01_213

تاریخ نمایه سازی: 25 آذر 1395

Abstract:

توابع فعالساز مورد استفاده در اغلب شبکه های عصبی به خصوص در بلوک های شبکه حافظه کوتاه و بلند مدت، توابع سیگموئید و تانژانت هایبربولیک می باشند. توابع فعالساز دیگری نیز معرفی شده اند اما در انتخاب تابع فعالساز مناسب در شبکه های حافظه کوتاه و بلند مدت پژوهش های چندانی صورت نگرفته است و بررسی توابع فعالساز مختلف روی عملکرد این شبکه ضروری است. در این مقاله به بررسی انواع توابع فعالساز بر روی دروازه های سیگموئیدی بلوک های شبکه حافظه کوتاه و بلند مدت پرداخته می شود. بدین منظور از شبکه حافظه کوتاه و بلند مدت با یک لایه مخفی برای کلاس بندی استفاده شده و ارزیابی بر روی مجموعه داده نقد فیلم با استفاده از ۹ تابع فعالساز مختلف و تعداد بلوک های مختلف در لایه مخفی انجام شده است. نتایج بدست آمده بر روی مجموعه داده نشان می دهد توابع فعالساز گاوسی و سیگموئید دارای بهترین نتایج می باشند.

Keywords:

شبکه عصبی , شبکه حافظه کوتاه و بلند مدت , تابع فعالساز , سیگموئید

Authors

امیر فرزاد

دانشگاه صنعتی شاهرود

هدی مشایخی

دانشگاه صنعتی شاهرود

مراجع و منابع این Paper:

لیست زیر مراجع و منابع استفاده شده در این Paper را نمایش می دهد. این مراجع به صورت کاملا ماشینی و بر اساس هوش مصنوعی استخراج شده اند و لذا ممکن است دارای اشکالاتی باشند که به مرور زمان دقت استخراج این محتوا افزایش می یابد. مراجعی که مقالات مربوط به آنها در سیویلیکا نمایه شده و پیدا شده اند، به خود Paper لینک شده اند :

Doetsch, P., Kozielski, M., & Ney, H. (2014). Fast and ...
Duch, W., & Jankowski, N. (1999). Survey of Neural Transfer ...
Gomes, G. S. da S., & Ludermir, T. B. (2013). ...
Gomes, G. S. d S., & Ludermir, T. B. (2008). ...
Graves, A. (2012). Supervised Sequence Labelling with Recurrent Neural Networks ...
Graves, A., Fernandez, S., & Schmidhuber, J. (2005). Bidirectional LSTM ...
Graves, A., Liwicki, M. Fernandez, S., Bertolami, R., Bunke, H., ...
Graves, A., Mohamed, A., & Hinton, G. (2013). Speech Recognition ...
Graves, A.. & Schmidhuber, J. (2005). Framewise phoneme classification with ...
Hara, K., & Nakayamma, K. (1994). Comparison of activation functions ...
Hochreiter, S., & Schmidhuber, J. (1997). Long Short-Term Memory. Neural ...
Liwicki, M., Graves, A., Bunke, H., & Schmidhuber, J. (2007). ...
Otte, S., Krechel, D., Liwicki, M., & Dengel, A. (2012). ...
Pang, B., & Lee, L. (2005). Seeing Stars: Exploiting Class ...
Pham, V., Bluche, T., Kermorvant, C., & Louradour, J. (2013). ...
Singh Sodhi, S., & Chandra, P. (2014). Bi-modal derivative activation ...
Singh, Y., & Chandra, P. (2003). A class +1 sigmoidal ...
Thang Luong, I. S. (2014). Addressing the Rare Word Problem ...
Williams, R. J., & Zipser, D. (1995). Gradient-based learning algorithms ...
Wollmer, M., Metallinou, A., Eyben, F., Schuller, B., & Narayanan, ...
Yuan, M. Hu, H., Jiang, Y., & Hang, S. (2013). ...
Zeiler, M. D. (2012). ADADELT A An Adaptive Learning Rate ...

نمایش کامل مراجع