یک روش گرادیان تصویری برای گرادیان میانگین تصادفی

در این مقاله یک مساله مینیمم سازی که مجموع متناهی از توابع محدب می باشد، مورد بررسی قرار گرفته است که در آن شامل تعداد بسیار زیاد از توابع مولفه ای هموار و همچنین تابع محدب است که یک عملگر ساده بر آن اعمال می شود. فرض می کنیم که همه ی توابع هدف قويا محدب باشند. این چنین مسائلی در یادگیری ماشین مورد اسفاده قرار می گیرند که به عنوان مینیمم سازنده ی ریسک تجربی شناخته شده هستند. یک روش جدید گرادیان تصادفی تصویری را ارائه داده و بررسی می نماییم که با استفاده از عملگر تصویری نتایجی دقیق تر از حالتی که از این روش استفاده نمی شود خواهد داد. هر تکرار دارای هزینه مانند روش کلاسیک گرادیان تصادفی است. در این روش باید تعدادی از گرادیان های قبلی ذخیره شود که نیاز به حافظه بیشتری خواهیم داشت. و پیچیدگی کلی این روش از پیچیدگی هر دو روش گرادیان کامل تصویری و گرادیان تصادفی تصویری استاندارد کمتر است.

Keywords:

یادگیری ماشین , گرادیان تصادفی , گرادیان تصادفی تصویری.