محدثه نجف زاده - استادیار، گروه علوم کامپیوتر، دانشگاه آزاد اسلامی . واحد ملارد
علی سلیمانی - استادیار، گروه علوم کامپیوتر، دانشگاه آزاد اسلامی، واحد ملارد

در شبکه های عصبی که چندین لایه ی مخفی دارند و یا در فرمول های گزاره ای پیچیده می توان با تقسیم این فرمولهای گزاره ای به چندین فرمول گزاره ای کار را راحتر کرد. جستجوی پارامترها در فضای مساله در معماری عمیق کار سختیاست. اما الگوریتم های آموزشی مانند شبکه های باور عمیق، کد گذاری پراکنده، انکدر های خودکار پراکنده عمیق برای غلبهبر این پیچیدگی های مسایل و حل آنها به تازگی به موفقیت هایی دست یافته اند. در این گزارش. هدف بررسی یادگیریالگوریتم هایی برای معماری عمیق میباشد. به ویژه تمرکز ما بر روی الگوریتم های بدون نظارت مدلهای تک لایه ی همانندماشین محدود بولتزمن که برای ساخت مدل های عمیق مانند شبکه های باور عمیق می باشند و انکدرهای خودکار، است.آموزش بدون نظارت از نمایش ها یا بازنمایی ها در بسیاری از برنامه ها مفید بوده و دارای مزیت های فراوانی است به عنوانمثال در مسایل که داده های بدون برچسب وجود دارند ویا مسایلی که داده ها دارای برچسب هستند (یاد گیری نیمه نظارتی) یا آن هایی که در نمونه بدون برچسب یا برچسب دار از یک توزیع متفاوت اما مرتبط به یکی از موارد مورد علاقه ( یادگیریخود آموخته، آموزش چند وظیفه و دامنه تطابق ) می باشند. برخی از این الگوریتم ها با موفقیت برای یادگیری یک سلسلهمراتب از ویژگی ها استفاده شده اند. به عنوان مثال برای ایجاد یک معماری عمیق یا به عنوان نمونه اولیه برای یک پیشبینی نظارت شده و یا به عنوان یک مدل مولد استفاده شده اند. الگوریتم های یاد گیری عمیق می توانند نمایشاتی را بازنماییکنند که انتزاعی تر بوده و عوامل پنهان از تنوع اساسی توزیع های ناشناخته را بهتر بازکنند. همچنین در این گزارش بهبررسی انگیزه ها و ایده های اصلی در پشت الگوریتم های یادگیری عمیق و اجزای یادگیری بازنمایی آن ها می پردازیم وچشم اندازی از چالش ها و امیدهای پیش رو را با تمرکز برروی مسائل مربوط به یادگیری عمیق را بررسی می نماییم.

معماری یاد گیری عمیق، شبکه های عصبی مصنوعی عمیق، یاد گیری بازنمایی، پیش آموزش بدون نظارت، شبکه های باور عمیق