امنیت در هوش مصنوعی: انواع حملات در یادگیری ماشین

یادگیری ماشین به دلیل پیشرفت های فنی در سال های اخیر به طور فراگیر در طیف گسترده ای از برنامه های نظامی و امنیتی مورد استفاده قرار گرفته است.در واقع یادگیری ماشینی موفقیت قابل توجهی در برخورد با مشکلات پیچیده و توانایی های نزدیک به انسان یا حتی فراتر از انسان ها را نشان داده است. با این حال مدل های یادگیری ماشینی در برابر حملات مختلف اسیب پذیر هستند که این امر امنیت سیستم های کاربردی با مجموعه مورد نظر را به خطر می اندازد. در مقاله پیش رو با توجه به استفاده بیشتر از هوش مصنوعی در انواع برنامه های امنیتی و نظامی کشور، به طور سیستماتیک مسائل امنیتی یادگیری ماشین تجزیه و تحلیل شده است. این امر با تمرکز بر حملات موجود به سیستم های یادگیری ماشین از مرحله آموزش تا آزمایش حاصل شده است. بدین منظور در مقاله پیش رو ابتدا مدل یادگیری ماشینی به منظور مقابله با دشمنان ارائه و دلایلی که چرا یادگیری ماشین می تواند مورد حمله قرار گیرد،تحلیل می شود. سپس مسائل مربوط به امنیت یادگیری ماشبین به دسته های مختلف طبقه بندی می شوند. در واقع عواملی مانند مسمومیت مجموعه آموزشی درهای پشتی در مجموعه آموزشی، نمونه حملات متخاصم، مدل سرقت، بازیابی اطلاعات حساس آموزشی، مدل های تهدید و رویکردهای حمله تجزیه و تحلیل می شوند.

Keywords:

یادگیری ماشینی , حملات مسمومیت , حملات درب پشتی , نمونه های متخاصم , حفظ حریم امنیتی