سیستم پرسش و پاسخ متنی مبتنی بر شبکه های عصبی و سازوکارهای مختلف توجه

استفاده از سیستمهای پرسش و پاسخ متنی به وفور در حوزه های مختلف دیده میشود. از همین رو همواره تلاش محققان بر این موضوع است که سیستمی در این حوزه طراحی کنند که با دقت بالایی پاسخ صحیح را انتخاب کند. امروزه با پیشرفتهایی که در حوزه ی یادگیری عمیق رخ داده است، پژوهشگران از ابزارهای یادگیری عمیق و شبکه های عصبی مختلف در طراحی و ارائه سیستم پرسش و پاسخ متنی استفاده میکنند. در این مقاله یک مدل پرسش و پاسخ متنی مبتنی بر شبکه های عصبی و سازوکارهای توجه پیاده سازی شده است. در این مدل از شبکه های عصبی بازگشتی از نوع حافظه کوتاه مدت طولانی و از شبکه عصبی کانولوشنی استفاده شده است. همچنین استفاده از سازوکارهای توجه به خود و توجهچندسر نیز باعث بهبود چشمگیر نتیجه حاصل شده (افزایش دقت در انتخاب پاسخ صحیح برای پرسش مطرح شده) در این مدل میشود. در این پژوهش برای تعبیه سازی متن پرسش و پاسخ از مدل زبانی Glove استفاده شده است و در انتها سیستم پیشنهادی با استفاده از شباهت کسینوسی بهترین پاسخ را برای پرسش انتخاب میکند. برای ارزیابی مدل پیشنهادی از مجموعه داده Trec-QA استفاده شده است که نتایج نشاندهنده ی این موضوع است که مدل پیشنهادی بهترین عملکرد را در زمینه انتخاب مناسبترین پاسخ برای پرسش مطرح شده دارا است.

Keywords:

سیستم پرسش و پاسخ متنی , شبکه عصبی کانولوشنی , شبکه عصبی بازگشتی , سازوکار توجه به خود , سازوکار توجه چند سر