ادغام مدل ها: وقتی چند متخصص در یک مدل واحد جمع می شوند

مدل های زبانی بزرگ امروز دیگر فقط با آموزش از صفر ساخته نمی شوند. هزاران مدل تخصصی روی یک مدل پایه مشترک ریزتنظیم شده اند؛ مدلی برای پزشکی، مدلی برای حقوق و مدلی برای کدنویسی. پرسش این است که آیا می توان دانش این متخصصان جدا را بدون آموزش دوباره، در یک مدل واحد گرد آورد؟ پاسخ این پرسش، حوزه ای است که با نام ادغام مدل ها شناخته می شود؛ روشی که به جای ترکیب خروجی چند مدل، وزن های آن ها را با هم ترکیب می کند.

ایده اصلی ادغام مدل ها ساده و در عین حال شگفت انگیز است. وقتی چند مدل از یک نقطه شروع مشترک ریزتنظیم می شوند، وزن های آن ها معمولا در یک ناحیه کم خطا از فضای پارامترها باقی می مانند و میانگین گیری از آن ها مدلی می سازد که هنوز کار می کند. پژوهشگران این روش را مدل سوپ نامیدند. وورتسمن و همکارانش در کنفرانس بین المللی یادگیری ماشین در سال ۲۰۲۲ نشان دادند که میانگین گیری از وزن های چند مدل ریزتنظیم شده با ابرپارامترهای متفاوت، اغلب دقت و پایداری را نسبت به بهترین مدل منفرد بهبود می بخشد، بی آنکه هزینه استنتاج یا حافظه افزایش یابد. برخلاف انسابل کلاسیک، مدل ادغام شده فقط یک مدل است و با همان هزینه یک مدل پاسخ می دهد.

گام بعدی، بردار کار بود. ایلهارکو و همکارانش در سال ۲۰۲۳ نشان دادند که تفاوت وزن های مدل ریزتنظیم شده با مدل پایه را می توان برداری دانست که دانش همان کار را در خود دارد. جمع این بردارها با مدل پایه، توانایی های چند کار را یکجا می آورد و کم کردن یک بردار، توانایی ناخواسته ای را تا حدی از مدل می زداید. به این ترتیب، ادغام مدل ها از یک ترفند میانگین گیری به زبانی جبری برای ترکیب، افزودن و حذف توانایی ها تبدیل شد.

اما میانگین گیری ساده همیشه جواب نمی دهد. مشکل اصلی، تداخل است. یک پارامتر ممکن است در یک مدل به سمت مثبت و در مدلی دیگر به سمت منفی حرکت کرده باشد و میانگین آن ها اثر هر دو را خنثی کند. همچنین بسیاری از تغییرات کوچک در ریزتنظیم، نویز هستند و ادغام بی حساب آن ها، سیگنال کارهای مهم را کمرنگ می کند. یاو و همکارانش در سال ۲۰۲۳ برای همین مسئله، روش تایز را پیشنهاد کردند؛ روشی سه مرحله ای که نخست تغییرات کوچک هر بردار کار را حذف می کند، سپس برای هر پارامتر، علامت غالب را با رای مجموع بزرگی تغییرات انتخاب می کند و در پایان فقط پارامترهایی را میانگین می گیرد که با همان علامت هم راستا باشند. آزمایش های آن ها نشان داد که نگه داشتن تنها بیست درصد از پارامترهای بزرگ هر بردار، عملکرد را کم نمی کند، در حالی که حل تعارض علامت، ادغام چند کار را بسیار پایدارتر می کند. روش های دیگری مانند دیر نیز با حذف بخش بزرگی از تغییرات و بازمقیاس کردن بقیه، نشان دادند که ریزتنظیم تا چه اندازه افزونه است.

ادغام مدل ها یک شرط مهم دارد که نباید فراموش شود: مدل های ادغام شونده باید از یک مدل پایه مشترک آمده باشند. دو مدلی که مستقل از هم آموزش دیده اند، حتی با معماری یکسان، در نقاط دوردستی از فضای وزن ها قرار می گیرند و میانگین آن ها معمولا مدلی بی معنا می سازد. همچنین ادغام، جایگزین آموزش چندکاره با داده واقعی نیست و وقتی کارها با هم در تعارض عمیق باشند، حتی بهترین روش ادغام هم نمی تواند هر دو را کامل نگه دارد. پس ادغام باید با اعتبارسنجی دقیق روی هر کار همراه باشد و سهم هر مدل با وسواس انتخاب شود.

با این همه، اهمیت ادغام مدل ها رو به افزایش است. این روش اجازه می دهد بدون دسترسی به داده آموزشی اصلی و بدون هزینه سنگین آموزش دوباره، مدلی چندکاره ساخته شود؛ مدلی که همزمان چند مهارت را در خود دارد و روی یک دستگاه اجرا می شود. در دنیایی که مدل های تخصصی هر روز بیشتر می شوند، ترکیب دانش آن ها در یک مدل واحد، خود به مهارتی بنیادی در مهندسی مدل های زبانی تبدیل شده است.

بهزاد حسین عباسی، بنیانگذار اپراتوری هوش مصنوعی و اپراتوری ابرهوش