Hallucination در هوش مصنوعی: وقتی مدل ها با اطمینان اشتباه می گویند
با گسترش استفاده از مدل های هوش مصنوعی مانند ChatGPT، Gemini و سایر مدل های زبانی بزرگ، اصطلاحی به نام هالوسینیشن در هوش مصنوعی (AI Hallucination) بیش از پیش مورد توجه قرار گرفته است. این پدیده یکی از مهم ترین چالش های کاربرد عملی هوش مصنوعی در حوزه های تخصصی مانند معماری، شهرسازی، پژوهش علمی و گزارش نویسی محسوب می شود.
در این مقاله مفهوم هالوسینیشن در هوش مصنوعی، دلایل ایجاد آن و نمونه هایی از این خطا در حوزه معماری، شهرسازی و پژوهش بررسی می شود.
هالوسینیشن در هوش مصنوعی چیست؟
هالوسینیشن در هوش مصنوعی زمانی رخ می دهد که یک مدل هوش مصنوعی اطلاعاتی تولید می کند که واقعی نیست، منبع معتبری ندارد یا اساسا ساخته ذهن مدل است، اما آن را با اطمینان کامل ارائه می دهد.
به بیان ساده، مدل به جای اینکه بگوید «نمی دانم»، پاسخی می سازد که ممکن است کاملا نادرست باشد.
برای مثال، یک مدل ممکن است:
- یک مقاله علمی که وجود ندارد را معرفی کند
- آمار جعلی ارائه دهد
- نام پژوهشگر یا کتابی ساختگی بیان کند
- یا یک تحلیل شهری را بر پایه داده های غیرواقعی ارائه دهد
چرا هوش مصنوعی دچار هالوسینیشن می شود؟
چند عامل اصلی باعث بروز این پدیده می شوند:
- ماهیت پیش بینی کلمات در مدل های زبانی
مدل های زبانی در اصل ماشین های پیش بینی کلمه هستند. آن ها تلاش می کنند محتمل ترین ادامه متن را تولید کنند، نه اینکه حتما حقیقت را بیان کنند.
- کمبود داده یا داده های ناقص
اگر مدل اطلاعات کافی درباره یک موضوع نداشته باشد، ممکن است با ترکیب الگوهای موجود پاسخ جدیدی بسازد.
- پرسش های بسیار تخصصی یا مبهم
در حوزه هایی مانند معماری و شهرسازی که پروژه ها و منابع خاص زیادی وجود دارد، مدل ممکن است برای پاسخ دادن اطلاعاتی بسازد.
- نبود دسترسی مستقیم به پایگاه های داده واقعی
بسیاری از مدل ها در لحظه پاسخ دهی به اینترنت یا پایگاه های علمی دسترسی مستقیم ندارند و صرفا از دانش آموزش دیده استفاده می کنند.
نمونه هالوسینیشن در حوزه معماری
فرض کنید از یک مدل هوش مصنوعی پرسیده شود:
«کتاب Urban Morphology of Tehran نوشته دکتر علی رضایی را خلاصه کن.»
مدل ممکن است پاسخی دقیق و طولانی ارائه دهد، فصل های کتاب را توضیح دهد و حتی نقل قول هایی ارائه کند، در حالی که ممکن است چنین کتابی اصلا وجود نداشته باشد.
نمونه دیگر:
در پاسخ به سوال درباره یک پروژه معماری ممکن است مدل بگوید:
«پروژه بازآفرینی میدان حسن آباد تهران در سال ۲۰۱۸ توسط دفتر معماری X طراحی شده است.»
در حالی که:
- سال پروژه اشتباه است
- دفتر معماری وجود ندارد
- یا پروژه اصلا اجرا نشده است
نمونه هالوسینیشن در شهرسازی
در تحلیل شهری، این خطا می تواند بسیار گمراه کننده باشد.
مثلا اگر پرسیده شود:
«تراکم جمعیتی منطقه ۱۲ تهران در طرح تفصیلی ۱۳۹۵ چقدر است؟»
مدل ممکن است عددی مانند ۲۵۰ نفر در هکتار ارائه دهد، در حالی که این عدد صرفا یک تخمین ساخته شده است و به هیچ سند رسمی ارجاع ندارد.
یا در تحلیل سیاست های شهری ممکن است گفته شود:
«در طرح جامع تهران ۱۴۰۰، توسعه TOD در محور آزادی–انقلاب به عنوان محور اصلی حمل ونقل تصویب شده است.»
در حالی که چنین بندی در طرح وجود ندارد.
نمونه هالوسینیشن در گزارش نویسی
در گزارش های کارشناسی، این مسئله بسیار خطرناک است.
مثلا یک مدل ممکن است در گزارش بنویسد:
«بر اساس گزارش UN-Habitat در سال ۲۰۲۱، ۶۵ درصد جمعیت شهری خاورمیانه در بافت های فرسوده زندگی می کنند.»
اگرچه جمله علمی به نظر می رسد، اما:
- ممکن است چنین آماری وجود نداشته باشد
- یا منبع آن کاملا نادرست باشد
در گزارش های شهری، چنین خطایی می تواند تصمیم گیری مدیریتی را منحرف کند.
نمونه هالوسینیشن در پژوهش علمی
یکی از رایج ترین نمونه ها ساختن منابع علمی جعلی است.
برای مثال، مدل ممکن است رفرنس هایی مانند این تولید کند:
Rahimi, M. (2019). Sustainable Urban Form in Middle Eastern Cities. Journal of Urban Morphology.
در حالی که:
- چنین مقاله ای وجود ندارد
- نام ژورنال واقعی نیست
- یا نویسنده ساختگی است
این مسئله در نگارش پایان نامه و مقاله علمی بسیار خطرناک است.
چگونه هالوسینیشن را کاهش دهیم؟
برای استفاده ایمن تر از هوش مصنوعی، چند راهکار پیشنهاد می شود:
- راستی آزمایی منابع
همیشه منابع معرفی شده توسط هوش مصنوعی را در Google Scholar، Scopus یا پایگاه های علمی بررسی کنید.
- استفاده از داده های واقعی
اگر داده ها یا اسناد واقعی (مثل طرح جامع یا طرح تفصیلی) در اختیار مدل قرار داده شود، احتمال خطا کاهش می یابد.
- پرسش دقیق و محدود
سوال های دقیق تر باعث می شود مدل کمتر به سمت حدس زدن برود.
- استفاده از هوش مصنوعی به عنوان دستیار، نه مرجع نهایی
هوش مصنوعی ابزار کمک برای تحلیل و نگارش است، نه منبع قطعی اطلاعات.
هالوسینیشن یکی از محدودیت های مهم هوش مصنوعی است که می تواند باعث تولید اطلاعات نادرست اما ظاهرا معتبر شود. این موضوع درحوزه های تخصصی مانند معماری، شهرسازی، گزارش نویسی و پژوهش اهمیت بیشتری پیدا می کند، زیرا تصمیمات حرفه ای و علمی ممکن است بر اساس این اطلاعات گرفته شوند.بنابراین استفاده از هوش مصنوعی باید همراه با بررسی منابع، تفکر انتقادی و اعتبارسنجی اطلاعات باشد. در چنین شرایطی، هوش مصنوعی می تواند به ابزاری قدرتمند برای افزایش سرعت تحلیل، نگارش و ایده پردازی در حوزه های تخصصی تبدیل شود، بدون آنکه دقت علمی قربانی شود.