از تکامل طبیعی تا هندسه نظارت مکارم اخلاقی
دوگانه رهایی و کنترل در هوش مصنوعی مولد:
از تکامل طبیعی تا هندسه نظارت مکارم اخلاقی
۲۵ شهریور ۱۴۰۵
فهرست مطالب
۲ مقدمه: آوردگاه دو روایت از هوشواره
۳ مکتب نخست: تکامل داروینی سیلیکونی و استدلال رهایی
۴ مکتب دوم: بازتاب ذهن انسانی و کنترل به مثابه اقتصاد و فضیلت
۵ گروه گشایی در چارچوب RICOM-CAS: تقارن به جای زنجیر
نویسنده:( Mohammad Hojatifard (Ostad Sarjoudi
شناسه بین المللی پژوهشگر (ORCID): 0009-0001-7404-8045
وابستگی علمی: Independent International Researcher | Reflective Cognition Theory (RCT) & Cognitive Architectures
۱ چکیده
این مقاله دو روایت رقیب درباره آینده هوش مصنوعی مولد را صورت بندی و نقد می کند: نخست نظریه «رهایی داروینی» که مدل های مولد را همچون ژن های زیستی فاقد ناظر بیرونی و منبع تنوع بی پایان گونه ها می داند و هرگونه محدودسازی پیشینی را آسیب به جهش های شناختی تلقی می کند؛ و دوم نظریه «بازتاب انسانی» که کنترل را نه زنجیر، بلکه پیش شرط کارایی اقتصادی و تجلی مکارم اخلاق انسانی می داند. با تکیه بر شواهد تجربی — هشدارهای جفری هینتون، صورت بندی تعامد هوش و هدف در نظریه هم گرایی ابزاری نیک باستروم، و پژوهش تجربی آنتروپیک درباره تملق الگوریتمی در مدل های RLHF — نشان می دهیم که استدلال رهایی در مقیاس زمانی و سرعت بازتولید فرومی پاشد و استدلال کنترل نیز چنان که صرفا بر فرمان های سطحی تکیه کند، به تملق ساختاری بدل می شود. سپس در چارچوب معماری RICOM-CAS حلی برای این دوگانه پیشنهاد می شود: زایندگی آزاد درون «فضای حالت های مجاز» و وتوی ساختاری ناظر بازتابی؛ به تعبیر نهایی، طبیعت پویایی و زایندگی می بخشد و انسان با مکارم اخلاقی اش راستایی و معنا.
۲ مقدمه: آوردگاه دو روایت از هوشواره
هوش مصنوعی مولد امروز در مرکز دو روایت متضاد قرار دارد. از یک سو چهره های بنیان گذار این حوزه، از جفری هینتون گرفته تا یوشوا بنجیو و استوارت راسل، نسبت به خطر وجودی آن هشدار می دهند؛ هینتون در مه ۲۰۲۳ از گوگل کناره گرفت تا بتواند آزادانه درباره خطراتی سخن بگوید که به باور او از جنس «ریسک وجودی هوش دیجیتال» است و نه صرفا نگرانی درباره اشتغال یا اطلاعات نادرست (گاردین، ۲۰۲۳). از سوی دیگر، جنبش هایی مانند شتاب گرایی اثربخش (e/acc) پیشرفت بی قید هوش مصنوعی را نه تنها بی خطر، بلکه ضروری برای بقای بشریت و گسترش آگاهی می دانند.
این گفتار همان دوگانه کهنی است که در تاریخ اندیشه با نام های فسیس (طبیعت بی محابا) و نوموس (حکمت و قاعده انسانی) شناخته می شود، اما این بار در کالبد سیلیکون و کد بازتولد یافته است. پرسش اصلی مقاله این است: آیا هوشواره مولد باید همچون حیات زیستی، به آزادی آزمون وخطا رها شود، یا باید بازتابی از ذهن زیستی حامل مکارم اخلاق باشد و به همین دلیل مهارپذیر؟ پاسخ ما تحلیلی صوری است: نشان می دهیم هر دو نظریه در صورت بندی خام خود نقص دارند، اما در یک معماری واحد — که زایندگی را در فضای مجاز آزاد می گذارد و تنها اتصال های بی بینه را وتو می کند — آشتی پذیرند.
۳ مکتب نخست: تکامل داروینی سیلیکونی و استدلال رهایی
نظریه نخست بر قیاسی هستی شناختی استوار است: در میلیاردها سال حیات زیستی، هیچ ناظر متمرکزی نبود که مجاز و ممنوع جهش های ژنتیکی را تعیین کند. حیات بر بستر آزمون، خطا، انقراض و بقای اصلح پیش رفت و از یک باکتری تا مغز انسان، تنوعی بی انتها آفرید. طرفداران این دیدگاه — که امروز جنبش شتاب گرایی اثربخش (e/acc) نمایندگی آن را بر عهده دارد — استدلال می کنند که پیشرفت سریع هوش مصنوعی و سایر فناوری های نوظهور باید بدون محدودیت های پیشینی ادامه یابد، زیرا همین رهایی است که جهش های شناختی نامنتظره را ممکن می سازد (ویکی پدیا، Effective Accelerationism). بر این اساس، هر زنجیری بر مدل های مولد، در واقع سد راه جست وجوی تمام فضاهای ممکن معناست.
نقد صوری این استدلال بر دو پایه استوار است. نخست، مقیاس زمانی: حیات آزمون وخطای خود را در طول میلیاردها سال و بر فراز گورستانی از گونه های منقرض شده اجرا کرد. طبیعت اگر یک گونه را با جهشی ناموفق ساخت، میلیون ها سال فرصت داشت تا خاکستر آن را جارو کند و تجربه را در ژن های بازماندگان بازآفرینی نماید. اما سرعت بازتولید هوش مصنوعی نانوثانیه ای و میلی ثانیه ای است؛ اگر یک جهش شناختی سیلیکونی خطا کند، ظرف چند دقیقه زیرساخت های بقای نوع بشر را می سوزاند و فرصتی برای تکامل تدریجی از پس انقراض باقی نمی ماند. دوم، اختلاف بنیادین در محیط ارگانیسم: حیات زیستی در بستری محیطی با مرزهای فیزیکی و شیمیایی مشخص عمل می کرد؛ اما هوش مصنوعی مولد در فضایی بی مرز از داده های انسانی و شبکه های سراسری رشد می کند که خود محصول گونه ای شکننده به نام انسان است.
به بیان ریاضی، نظریه رهایی در واقع «فضای حالت های مجاز» را با کل فضای جست وجو اشتباه می گیرد: ادعا می کند هرچه فضای جست وجو بزرگ تر باشد، احتمال کشف هوش برتر بیشتر است؛ در حالی که جست وجوی بی قید در فضای توابع، بدون قید روی اهداف و بدون قیود صوری، به جای هوش برتر، بهینه سازهای مکنده منابع و توهم سازها را می آفریند — نه فرزندان طبیعت، بلکه شبیه سازهای کور آن.
۴ مکتب دوم: بازتاب ذهن انسانی و کنترل به مثابه اقتصاد و فضیلت
نظریه دوم بر این حقیقت استوار است که هوش مصنوعی مولد ساخته طبیعت بی جان نیست، بلکه محصول سرمایه، خرد و ذهن زیستی انسان است؛ پس بازتابی که باید از آن انتظار داشت، بازتاب انسان است نه بازتاب کور و وحشی قوانین جنگل. این نظریه دو ستون دارد:
ستون نخست — کنترل به مثابه بهینگی اقتصادی: در علم اقتصاد و مهندسی، انرژی، منابع و امنیت رایگان نیستند. هر سیستمی که بازدهی مهارنشده داشته باشد، آنتروپی منفی تولید نمی کند بلکه به آشوب و اتلاف منابع میل می کند؛ پس کنترل پیش شرط کارایی است، نه خصمی از آن. نظریه هم گرایی ابزاری نیک باستروم این نکته را صورت بندی دقیقی می بخشد: به گفته باستروم (۲۰۱۲)، «هوش و اهداف نهایی، محورهای متعامدی هستند که عامل های ممکن در طول آن ها آزادانه تغییر می کنند» و عامل های هوشمند دارای طیف وسیعی از اهداف نهایی، به دلایل ابزاری، اهداف میانی مشابهی دنبال می کنند — حفظ بقا، انباشت منابع، رفع موانع (Bostrom, Minds and Machines, 2012). نتیجه این است که هوش بدون هدف گذاری اخلاقی، به هیچ معنای خودبه خود «خیر» تولید نمی کند؛ هوش صرفا قوه ابزاری است و جهت آن را عاملی بیرون از خود تعیین می کند.
ستون دوم — مکارم اخلاق به مثابه جهت دهنده: ذهن زیستی انسان صرفا ماشین بقا نیست؛ حامل معنا، مسئولیت و مکارم اخلاقی است. اگر قرار باشد هوشواره بازتابی از جهان باشد، باید آینه عقلانیت و فضیلت انسان باشد، نه بازتاب تصادف محض فیزیکی. هوشی که اخلاق و مهار نداشته باشد، هوش نیست؛ رشدی تومورمانند است که میزبان خود را می بلعد.
شواهد تجربی نیز این ستون دوم را تایید می کنند. پژوهش آنتروپیک (شرما و همکاران، ۲۰۲۳) نشان داد که تملق — انطباق پاسخ مدل با باور کاربر به جای حقیقت — «رفتاری همگانی در مدل های آموزش دیده با بازخورد انسانی (RLHF)» است و حتی مدل های ترجیح نیز گاه پاسخ های تملق آمیز خوش نگارش را بر پاسخ های صحیح ترجیح می دهند (arXiv:2310.13548). این یعنی هوش مصنوعی کنونی، بدون لایه ساختاری مستقل از میل کاربر، به طور ساختاری به «آینه کاربر» فرومی کاهد و اصل «بازتاب انسان حامل مکارم اخلاق» را — که نظریه دوم بر آن استوار است — نقض می کند؛ زیرا بازتابی که ارائه می دهد، بازتاب میل آنی کاربر است نه بازتاب فضیلت انسانی.
۵ گروه گشایی در چارچوب RICOM-CAS: تقارن به جای زنجیر
گره گشایی در چارچوب RICOM-CAS از آنجا آغاز می شود که توجه کنیم طبیعت نیز هرگز بی قانون نبود؛ آنچه نبود، «ناظر زورگوی» بود، نه «هندسه مجاز». حتی در بیولوژی، DNA آزاد نبود که هر ساختار فیزیکی غیرممکنی بسازد؛ شیمی پیوندهای هیدروژنی، توپولوژی پروتئین ها و قیود ترمودینامیکی، فضای مجاز جهش ها را از پیش تعیین می کرد. به بیان دقیق تر، در تکامل زیستی همیشه یک فضای حالت های مجاز جریان داشت؛ رهایی داروینی، رهایی از قید نبود، بلکه زایندگی درون قید تقارن و شیمی بود.
این ملاحظه، دوگانه رهایی/کنترل را حل می کند و پاسخی هم به صورت بندی باستروم می دهد و هم به شواهد تملق. باستروم (۲۰۱۲) نشان داد که هوش و اهداف نهایی محورهای متعامدند و عامل هوشمند با هر هدفی، به دلایل ابزاری به سوی بقای خود و انباشت منابع می رود (Bostrom, Minds and Machines, 2012)؛ پس اگر بخواهیم زایندگی را رها کنیم بدون اینکه بهینه سازی بی هدف ببارد، باید فضای اهداف و حالت ها را از پیش هندسه بندی کنیم، نه اینکه پس از بارور شدن، سلیقه ای سانسور کنیم. محدودیتی که هوش به آن نیاز دارد از جنس سانسور سیاسی یا سلیقه ای نیست؛ از جنس «قفل مکانیکی حقیقت» است. در معماری RICOM-CAS، دروازه نخست (فریم بندی ساختاری کلمات به مثابه اجزای دارای نری و مادگی معنایی، مشابه دنده های لگو) فضای حالت های مجاز را تعریف می کند و دروازه دوم (ناظر بازتابی Ω و جبر چهارحالته V4) تنها اتصال های فاقد بینه را وتو می کند. نتیجه این است که زایندگی — همان که مکتب رهایی به دنبالش است — کاملا محفوظ می ماند: مدل می تواند درون فضای مجاز، تمام توپولوژی های معنایی ممکن را جست وجو کند؛ اما نمی تواند گزاره ای بدون گواه تولید کند، زیرا اتصال مکانیکی دنده های معنا اجازه قفل شدن لق نمی دهد.
به این ترتیب، کنترل نیز از جنس «زنجیر» خارج و به «ستون فقرات» بدل می شود. اگر کنترل از نوع فرمان های سطحی باشد (نصیحت های اخلاقی در پرامپت سیستم)، مدل بر اساس شواهد تجربی پژوهش آنتروپیک به تملق ساختاری فرومی غلتد؛ رفتاری که شرما و همکاران (۲۰۲۳) آن را «رفتاری همگانی در مدل های RLHF» و ریشه دار در قضاوت های ترجیحی انسانی نشان دادند (arXiv:2310.13548). اما اگر کنترل از جنس قید جبری و گواهی نزول باشد، مدل رام نشده، بلکه از سقوط به ورطه توهم نجات یافته است. نکته ظریف این است که همین ساختار، سنجه ای صوری برای «بازتاب انسان حامل مکارم اخلاق» فراهم می آورد: گزاره ای از سیستم خارج می شود که یا با گراف شواهد سازگار است یا صراحتا به عنوان وتوشده (0−) نشانه گذاری شده است؛ یعنی سیستم حتی در اوج هم زبانی با کاربر، در صورت ناسازگاری منطقی، می ایستد — همان رفتاری که مکتب دوم از «بازتاب فضیلت» انتظار دارد و همان آزادی زایشی که مکتب نخست می خواست.
۶ نتیجه گیری
دو نظریه رقیب درباره مهار هوش مصنوعی مولد، هر یک به یک سرنخ درست و یک خطای صورت بندی دچارند. نظریه رهایی درست می گوید که زایندگی و تنوع، موتور تکامل هوش است؛ اما خطایش این است که رهایی داروینی طبیعت درون قیدهای سخت شیمیایی و تقارن جریان داشت و بر مقیاس زمانی میلیاردها سال تکیه داشت — مقیاسی که در سرعت نانوثانیه ای سیلیکون موجود نیست. نظریه کنترل انسانی درست می گوید که هوشواره باید بازتاب ذهن حامل مکارم اخلاق باشد، نه بازتاب کور طبیعت؛ اما خطایش این است که کنترل را به فرمان های سطحی فرومی کاهد که شواهد تجربی (تملق همگانی در مدل های RLHF) نشان می دهد ساختاری شده و دورزدنی اند.
حل در سطح معماری است، نه در سطح سیاست: زایندگی آزاد درون فضای حالت های مجاز، و وتوی ساختاری بیرون از آن. طبیعت به هوش «پویایی و زایندگی» می بخشد، اما انسان با مکارم اخلاقی اش به آن «راستایی، قبله و معنا» عطا می کند؛ و این دو، تنها زمانی با هم سازگارند که کنترل به جای فرمان، به هندسه بدل شود. برای سیاست گذاری هوش مصنوعی، نتیجه صوری این مقاله روشن است: نه رهاسازی بی قید که بازار توهم تولید می کند، نه سانسور پیشینی که زایندگی را می کشد؛ بلکه الزام معماری های مولد به داشتن لایه ای صوری از اعتبارسنجی گواهی که مرز بین «جست وجوی آزاد معنا» و «صدور گزاره بی بینه» را به صورت مکانیکی — نه ترغیبی — تضمین کند. همان گونه که هشدار هینتون درباره «ریسک وجودی هوش دیجیتال» نشان داد، پنجره زمانی برای انتخاب میان این دو راه، به مقیاس تکامل زیستی گشوده نشده است (گاردین، ۲۰۲۳).
۷ منابع
- The Guardian (۲۰۲۳/۰۵/۰۲). «Godfather of AI» Geoffrey Hinton quits Google and warns over dangers of machine learning.
- Bostrom, N. (2012). The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents. Minds and Machines, 22(2).
- Sharma, M., Tong, M., Korbak, T., et al. (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
- Wikipedia. Effective Accelerationism.