مدل های زبانی کوچک در ۲۰۲۶: وقتی کوچک تر، دقیق تر و به صرفه تر است

مدل های زبانی کوچک در ۲۰۲۶: وقتی کوچک تر، دقیق تر و به صرفه تر است

تا همین چند سال پیش، منطق رایج در دنیای هوش مصنوعی ساده بود: هرچه مدل بزرگ تر باشد، بهتر است. پارامتر بیشتر، داده بیشتر، توان محاسباتی بیشتر — و در نتیجه پاسخی هوشمندانه تر. این منطق هنوز در بسیاری از موارد درست است، اما دیگر تمام ماجرا نیست. در سال های اخیر، خانواده ای از مدل ها آرام و بی سر و صدا جای خود را باز کرده اند: مدل های زبانی کوچک، یا همان 

Small Language Models که به اختصار SLM نامیده می شوند.

سوال اصلی این یادداشت ساده است: آیا برای هر کاری واقعا به بزرگ ترین مدل ممکن نیاز داریم؟ یا گاهی یک مدل کوچک، دقیق و خوش ساخت، انتخاب عاقلانه تری است؟

مدل کوچک یعنی چه؟

نکته جالب این است که برای «کوچک» بودن، یک مرز عددی مورد توافق همگانی وجود ندارد. مدل کوچک بیشتر یک مقوله استقراری است تا فقط یک عدد. یعنی مدلی که به قدری سبک باشد که بتوان آن را به صورت محلی، روی دستگاه کاربر یا در لبه شبکه، با هزینه ای معقول اجرا کرد. به بیان دیگر، سوال مهم این نیست که «این مدل چند میلیارد پارامتر دارد؟» بلکه این است که «این مدل کجا و با چه هزینه ای می تواند کار کند؟»

همین نگاه، مقایسه مدل ها را عوض می کند. یک مدل چند میلیارد پارامتری که روی گوشی یا لپ تاپ اجرا می شود، با یک مدل غول پیکر که فقط در مراکز داده بزرگ معنا دارد، در یک مسابقه نیستند؛ هرکدام برای دنیای متفاوتی ساخته شده اند.

چند نمونه شناخته شده

برای اینکه بحث انتزاعی نماند، به چند خانواده شناخته شده نگاه کنیم که معرفی رسمی آن ها در دسترس است.

خانواده Phi مایکروسافت نمونه خوبی است: Phi-4-mini با ۳٫۸ میلیارد پارامتر، Phi-4-multimodal با ۵٫۶ میلیارد پارامتر و Phi-4 با ۱۴ میلیارد پارامتر معرفی شده اند. این اعداد نشان می دهد که «کوچک» لزوما به معنای چند صد میلیون پارامتر نیست؛ مدلی با چند میلیارد پارامتر هم، در برابر مدل های چند صد میلیارد پارامتری، کوچک به حساب می آید.

گوگل هم با خانواده Gemma 3 در سال ۲۰۲۵ همین مسیر را دنبال کرده است: نسخه هایی با ۲۷۰ میلیون و ۱، ۴، ۱۲ و ۲۷ میلیارد پارامتر. نکته آموزشی این خانواده آن است که نسخه های ۲۷۰ میلیون و ۱ میلیاردی فقط متنی اند، اما از ۴ میلیارد به بالا درک تصویر هم به آن ها اضافه می شود. یعنی با بزرگ تر شدن کنترل شده مدل، قابلیت تازه ای هم به دست می آید، نه فقط پاسخی روان تر.

متا نیز با Llama 3.2 که در سپتامبر ۲۰۲۴ معرفی شد، نسخه های متنی ۱ و ۳ میلیاردی را مشخصا برای موبایل و لبه شبکه هدف گرفت. پیام روشن این انتخاب ها این است: شرکت های بزرگ، مدل کوچک را یک محصول فرعی نمی دانند؛ آن را برای سناریویی متفاوت طراحی می کنند.

چرا مدل کوچک جذاب شده است؟

اولین دلیل، هزینه است. اجرای مدل کوچک به توان محاسباتی کمتری نیاز دارد. اما اینجا باید دقیق باشیم: «وزن باز» به معنای «هزینه صفر» نیست. میزبانی، نگهداری، امنیت و به روزرسانی هم هزینه دارند. معیار درست اقتصادی، «هزینه به ازای هر وظیفه موفق» است؛ یعنی مجموع هزینه استنتاج، میزبانی، تکرارها و حتی بازگشت به مدل بزرگ تر، وقتی مدل کوچک از عهده کاری برنیاید. اگر مدلی ارزان باشد اما مدام نیازمند اصلاح یا ارجاع به مدل بزرگ تر شود، در عمل ارزان تمام نمی شود.

دومین دلیل، تاخیر و تجربه کاربری است. مدل کوچک تر معمولا سریع تر پاسخ می دهد، اما این هم تضمین مطلق نیست. سرعت واقعی به سخت افزار هدف، طول خروجی، میزان بار هم زمان و شیوه اجرا بستگی دارد. اجرای محلی روی یک پردازنده ضعیف، لزوما سریع تر از نسخه ابری بهینه شده یک مدل بزرگ تر نیست. پس «کوچک تر» را نباید خودبه خود با «سریع تر» یکی گرفت؛ باید روی همان دستگاهی که قرار است استفاده شود، اندازه گیری کرد.

سومین دلیل، حریم خصوصی و کار آفلاین است. وقتی استنتاج کاملا محلی انجام شود، پرسش و سند کاربر لزوما به سرور شخص ثالث فرستاده نمی شود و در شرایطی حتی بدون اینترنت هم می توان کار کرد. اما باز هم باید مراقب ساده سازی بود: کوچک بودن مدل به تنهایی تضمین حریم خصوصی نیست. برنامه پیرامونی مدل هم می تواند داده بفرستد، و دانلود وزن مدل با مجوز استفاده از آن، دو موضوع جداست. پس پیش از اعتماد به یک استقرار محلی، باید دید داده دقیقا کجا می رود.

برای درک اندازه، یک تقریب ساده کمک می کند: حافظه لازم فقط برای وزن های یک مدل چگال، تقریبا برابر است با تعداد پارامترها ضرب در بیت هر وزن، تقسیم بر هشت. به همین دلیل، یک مدل ۴ میلیاردی در حالت ایده آل و فقط برای وزن ها، در دقت ۱۶ بیت حدود ۸ گیگابایت و در دقت ۴ بیت حدود ۲ گیگابایت فضا می خواهد؛ البته در عمل، سربار اجرا و حافظه فعال هم به این عدد اضافه می شود.

مدل کوچک کجا می درخشد و کجا نه؟

مدل های کوچک در وظایف محدود و قابل اندازه گیری می توانند رقیب جدی مدل های بزرگ باشند: طبقه بندی و مسیریابی درخواست ها، استخراج اطلاعات ساخت یافته از متن، خلاصه سازی، پاسخ گویی متکی بر اسناد داخلی سازمان، کمک به کدنویسی در یک دامنه مشخص، و دستیارهای روی دستگاه که باید آفلاین کار کنند. کاربردهای لبه ای هم همین منطق را دارند: دستگاه های اینترنت اشیا، خودرو، یا ابزارهایی که تاخیر کم و اتصال نامطمئن دارند، نمی توانند منتظر پاسخ یک مرکز داده دور بمانند.

اما مدل کوچک، جایگزین کلی هر مدل بزرگ نیست. در استدلال چندمرحله ای پیچیده، دانش تخصصی عمیق، یا وظایف کاملا باز و پیش بینی ناپذیر، محدودیت حافظه، زمینه و توان استدلال زودتر دیده می شود. در چنین مواردی، ترکیب با بازیابی اطلاعات، تنظیم دقیق روی داده همان دامنه، یا بازگشت هوشمندانه به مدل بزرگ تر، راه حل واقع بینانه تری است تا اصرار بر اینکه «مدل کوچک همه کار را می کند».

چطور انتخاب کنیم؟

پیشنهاد عملی، ساده و قابل اجراست: به جای انتخاب بر اساس نام یا عدد پارامتر، از وظیفه شروع کنید. کوچک ترین مدلی را انتخاب کنید که آستانه کیفیت شما را روی ورودی های نماینده و واقعی برآورده کند، سپس تاخیر و هزینه کل آن را با خط مبنای مدل بزرگ تر مقایسه کنید. این مقایسه باید منصفانه باشد: پرامپت، مجموعه آزمون، شیوه فشرده سازی و بودجه خروجی را ثابت نگه دارید، وگرنه عددها چیزی را ثابت نمی کنند.

ابزارهایی مانند Ollama و llama.cpp هم اجرای محلی بسیاری از همین مدل های کوچک را در دسترس تر کرده اند، و اجرای روی مرورگر یا دستگاه با فناوری هایی مانند WebGPU و MediaPipe، مرز میان «مدل ابری» و «مدل روی دستگاه» را باریک تر کرده است. برای یک دانشجو، توسعه دهنده یا تیم کوچک، این یعنی می توان پیش از هر تعهد پرهزینه ای، مدل را واقعا امتحان کرد.

جمع بندی

داستان مدل های کوچک، داستان «ضعیف تر ولی ارزان تر» نیست؛ داستان «مناسب تر برای کار مشخص» است. همان طور که برای هر سفری به بزرگ ترین کامیون نیاز نداریم، برای هر پرسشی هم به بزرگ ترین مدل نیاز نداریم. گاهی یک مدل کوچک که درست انتخاب شده، روی دستگاه خودمان اجرا می شود، سریع جواب می دهد، هزینه را پایین نگه می دارد و داده را پیش خودمان نگه می دارد، دقیقا همان چیزی است که لازم داریم.

سوال پایانی برای شما: در کاری که این روزها با هوش مصنوعی انجام می دهید، کدام وظیفه را می توان با یک مدل کوچک و محلی انجام داد، بی آنکه کیفیت آن افت کند؟ شاید جواب، نقطه شروع خوبی برای تجربه بعدی شما باشد.