انتخاب کارای رتبه مناسب برای تجزیه تانسور در شبکه های عصبی عمیق

امروزه شبکه های عصبی عمیق (Deep Neural Networks) پیشرفت ها وموفقیت های بزرگی در زمینههوش مصنوعی به دست آورده اند. با بزرگ شدن این شبکه ها و پیچیده تر شدن آنها، پیاده سازی این شبکه هابر روی دستگاه هایی با منابع محدود مانند موبایل سخت تر شده است. به منظور حل این مشکل روش هایی برایفشرده سازی و شتاب دهی این شبکه ها ارائه گردیده است. یکی از این روش ها تجزیه تانسور می باشد. در اینمقاله از یکی از روش های تجزیه تانسور به نام تاکر سلسله مراتبی استفاده شده است. برای پیاده سازیتاکرسلسله مراتبی رتبه های مختلف به کار برده شده است. یکی از چالش های اصلی در این موضوع پیدا کردنرتبه مناسب برای تاکرسلسله مراتبی است. با روشی خاص که در مقاله ارائه شده می توان رتبه مناسب برایتجزیه را پیدا کرد. به وسیله ی این روش تعداد وزن ها به صورت قابل توجهی از جمله ۴۲۱ برابر فشرده می شود.در حالی که دقت این شبکه به صورت ناچیز در حدود ۳ درصد تغییر می کند و حتی گاهی بهتر می شود.

Keywords:

فشرده سازی شبکه های عصبی عمیق , تجزیه تانسور , تجزیه تاکر سلسله مراتبی , انتخاب رتبه