امیرحسین حسین پور - دانشجوی کارشناسی ارشد، مهندسی صنایع، دانشگاه تهران، تهران

پیشرفت های سریع در هوش مصنوعی (AI) مسیرهای جدیدی را برای کاربردهای متعدد باز کرده است که در صورت استفاده موثر، ممکن است انتظارات قبلی را پشت سر بگذارد. با این حال، ماهیت مبهم مدل های یادگیری ماشینی (ML)، که اغلب به عنوان جعبه سیاه ها توصیف می شوند، نگرانی هایی را در میان کاربران ایجاد می کند که به دنبال شفافیت در مورد پیش بینی ها و تصمیماتی هستند که این مدل ها تولید می کنند. هوش مصنوعی توضیح پذیر (XAI) با استفاده از ابزارها، روش ها و الگوریتم های مختلف به این چالش پاسخ می دهد و فرآیندهای داخلی و تصمیم گیری مدل های جعبه سیاه را روشن می کند. با پیشرفت صنایع به سوی صنعت ۴.۰، اجرای AI به طور فزاینده ای حیاتی می شود و نیاز به الگوریتم های شفاف و قابل تفسیر برای جلب اعتماد کاربران و تسهیل پذیرش آنها ضروری است. این مقاله به بررسی حوزه در حال توسعه XAI می پردازد، اهمیت آن را برجسته می کند و به علاقه مندی رو به رشدی که در بخش های مختلف، به ویژه در کاربردهای صنعتی، جلب کرده است، اشاره می کند.

هوش مصنوعی توضیح پذیر، یادگیری ماشینی، یادگیری عمیق، صنعت ۴.۰