تهدیدات امنیتی و نقض حریم شخصی در سیستم های هوشمند مبتنی بر یادگیری ماشین

پیشرفت سریع یادگیری ماشین در دو دهه اخیر، علی رغم مزایای بسیاری که به همراه داشته، موجب بروز برخی تهدیدات امنیتی نیز شده که تا حدودی بر عملکرد آن سایه انداخته است. درواقع، آموزش و پیش بینی مدل های یادگیری ماشین بر اساس حجم زیادی از داده ها انجام می شود که ممکن است حاوی اطلاعات حساس یا شخصی باشند. وقوع مکرر نق صهای امنیتی و نقض حریم شخصی در مبحث یادگیری ماشین توجه بسیاری از متخصصان را به خود جلب کرده است. با توجه به اهمیت موضوع، در این مقاله در ابتدا مفهوم مدل خصمانه در محافظت از حریم شخصی یادگیری ماشین معرفی شده و در ادامه، تهدیدات مشترک امنیتی و حریم شخصی در مراحل آموزش و پیش بینی یادگیری ماشین مانند نشت داده های حریم شخصی در مرحله ی آموزش، حملات مسموم سازی، حملات مقابله ای و حملات حریم شخصی بررسی می شوند. سپس روش های رایج دفاع و محافظت از حریم شخصی، تمرکز بر فناوری رمزنگاری هم ریختی، فناوری محاسبات چندجانبه ی ایمن، فناوری حریم شخصی افتراقی معرفی می شوند. در انتها، روند توسعه و تحقیقات آتی در رابطه با حفظ حریم شخصی یادگیری ماشین مطرح می شود

Keywords:

یادگیری ماشین , محافظت از حریم شخصی , تهدیدات امنیتی , حملات خصمانه , حملات مسموم سازی