اعتماد و فریب در عصر دیجیتال

یادگیری تقویتی چندعاملی (MARL) استواری خصمانه استقرار سریع یادگیری تقویتی چندعاملی در حوزه های حساس و واقعی مانند رانندگی خودران، شهرهای هوشمند و مراقبت های بهداشتی بر یک فرض ضمنی از اعتماد در محیط های همکارانه استوار است. این اعتماد به شدت شکننده است و سیستم ها را در برابر دستکاری خصمانه ای آسیب پذیر می سازد که از حملات فنی صرف فراتر رفته و تار و پود بنیادین اعتماد میان عاملی را از هم می گسلد و آنچه را که ما «فریب دیجیتال» می نامیم پرورش می دهد. این مقاله پیمایش جامعی است که به طور نظام مند بحث ایمنی هوش مصنوعی، هوش استواری خصمانه در MARL را از منظر «اعتماد» و «فریب» ارائه می دهد. در این مقاله یک طبقه بندی مصنوعی قابل اعتماد فریب معرفی می کنیم که استراتژی های خصمانه را به اشکال متمایزی از فریب شامل فریب های ادراکی، دیجیتال، مسموم سازی خط مشی رفتاری و شناختی دسته بندی کرده و همزمان سازوکارهای دفاعی با هدف ایجاد و راستی آزمایی «اعتماد» را تشریح می کند. با کاوش در پیامدهای این مفاهیم به بینش های کلیدی در مورد چالش های باز پیش روی MARL مانند راستی آزمایی اعتماد مقیاس پذیر در بوم سازگان های اکولوژی های عاملی بزرگ و توازن میان بی اعتمادی و عملکرد سیستم دست می یابیم. در نهایت استدلال می کنیم که پیشرفت سیستم های حقیقتا خودمختار در گروی ساخت دقیق سازوکارهای اعتماد قابل راستی آزمایی به صورت محاسباتی است. یافته های این مقاله یک چارچوب آینده نگرانه برای پژوهش های آتی ترسیم کرده و جامعه هوش مصنوعی را ترغیب می کند تا اعتماد و ملاحظات اخلاقی را به عنوان ارکان بنیادین در توسعه سیستم های چندعاملی تاب آور در اولویت قرار دهد.

Keywords:

یادگیری تقویتی چندعاملی (MARL) , استواری خصمانه , استقرار سریع , اعتماد , فریب دیجیتال