وقتی با ChatGPT یا Claude یا Gemini کار می‌کنید، مدل روی سرور شرکت سازنده اجرا میشود. متن شما به آن‌جا می‌رود، پاسخ برمی‌گردد و خود مدل را هیچ‌وقت نمی‌بینید. مدلهای متنباز راه دیگری پیش پای شما می‌گذارند: فایل مدل را دانلود می‌کنید و روی سختافزار خودتان اجرا می‌کنید.
پشت این جمله‌ی ساده چند سؤال مهم هست: «متنباز» اینجا دقیقاً یعنی چه، چه سخت‌افزاری لازم است، کیفیت چقدر فرق دارد و مجوز چه می‌گوید.
مدل متنباز چیست؟#
مدلی که فایل وزنهایش منتشر شده و هر کسی می‌تواند آن را دانلود و اجرا کند. بیشتر این مدلها فقط وزن‌ها را منتشر می‌کنند، نه دادهی آموزش را.
وزن‌ها میلیاردها عددی‌اند که حاصل آموزش مدل‌اند و رفتار آن را تعیین می‌کنند. یک مدل زبانی از سه چیز ساخته میشود: دادهی آموزش، کد آموزش و همین وزن‌ها. برای همین اصطلاح دقیق‌تر مدل وزن‌باز (Open-weight) است. در این مقاله برای سادگی «متنباز» می‌گوییم، ولی تفاوت را در ذهن داشته باشید:
| چه چیزی منتشر شده | مدل وزن‌باز | متنباز به معنای کامل |
|---|---|---|
| وزن‌های مدل | بله | بله |
| کد اجرا | معمولاً بله | بله |
| دادهی آموزش | معمولاً نه | بله، یا دست‌کم توضیح کامل |
| مجوز آزاد | بسته به مدل | بله |
چه چیزی دانلود می‌کنید و چقدر حافظه میخواهد؟#
یک یا چند فایل بزرگ وزن، به‌علاوه‌ی چند فایل تنظیمات. حافظهی لازم به تعداد پارامترها و دقت ذخیره‌ی هر عدد بستگی دارد.
بیشتر مدلها در مخزن‌های عمومی مثل Hugging Face منتشر میشوند و هر کدام یک کارت مدل دارند: صفحه‌ای که می‌گوید مدل برای چه ساخته شده، چه زبان‌هایی را پوشش می‌دهد، چه محدودیت‌هایی دارد و مجوزش چیست. قاعده‌ی سرانگشتی حافظه:
- با دقت ۱۶ بیتی هر پارامتر دو بایت جا می‌گیرد؛ پس مدلی با ۷ میلیارد پارامتر فقط برای وزن‌ها حدود ۱۴ گیگابایت حافظه میخواهد.
- کوانتیزه‌کردن یعنی ذخیره‌ی وزن‌ها با دقت کمتر، مثلاً ۴ بیت. همان مدل در این حالت حدود یک‌چهارم حافظه میخواهد.
- پنجره‌ی متن و خود برنامه‌ی اجرا هم حافظهی اضافه می‌خواهند.
کوانتیزه‌کردن رایگان نیست: با پایین آمدن دقت، کیفیت هم کمی افت میکند؛ در کارهای ساده کمتر و در استدلال چندمرحله‌ای، کدنویسی و فارسی بیشتر. جزئیات عملی‌اش در اجرای هوش مصنوعی روی کامپیوتر شخصی آمده است.
فرق مدل متنباز با ChatGPT و سرویس‌های مشابه چیست؟#
فرق اصلی جای اجرای مدل است: سرویس‌های میزبانیشده روی سرور سازنده اجرا میشوند و معمولاً در کارهای سخت قوی‌ترند؛ مدل متنباز روی سختافزار خودتان اجرا میشود و کنترل کامل را به شما می‌دهد.
بزرگترین مدلهای متنباز فاصله را کم کرده‌اند، ولی اجرایشان سخت‌افزاری میخواهد که کمتر کسی در خانه یا دفتر دارد.
| معیار | مدل میزبانیشده | مدل متنباز روی سختافزار خودتان |
|---|---|---|
| کیفیت در کارهای سخت | معمولاً بالاتر | بسته به اندازه‌ی مدل |
| کیفیت فارسی | معمولاً خوب | بسیار متغیر؛ باید آزمایش کنید |
| جای داده | سرور شرکت سازنده | دستگاه یا سرور خودتان |
| هزینه | به ازای مصرف | سختافزار و نگهداری، چه استفاده کنید چه نه |
| وابستگی به اینترنت | کامل | ندارد |
| تغییر رفتار ناگهانی | با به‌روزرسانی سرویس ممکن است | فقط وقتی خودتان مدل را عوض کنید |
ردیف آخر را دست‌کم نگیرید. مدل متنباز همان مدلی می‌ماند که دانلود کرده‌اید؛ پرامپتی که امروز جواب می‌دهد، ماه بعد هم همان جواب را می‌دهد. مقایسه‌ی سرویس‌های میزبانیشده با یکدیگر را در ChatGPT یا Claude یا Gemini ببینید.
مدل متنباز کی به کار می‌آید؟#
وقتی داده نباید بیرون برود، کار ساده و پرتعداد است، یا ثبات رفتار از بالاترین کیفیت مهم‌تر است.
- داده‌ای که نباید از سازمان خارج شود. سند داخلی، اطلاعات مشتری، کد محرمانه. اجرای محلی جایگزین قواعد کلی حریم خصوصی نیست، ولی یک ریسک بزرگ را حذف میکند.
- کارهای ساده و پرتعداد. دسته‌بندی متن، استخراج فیلد از فرم، خلاصه‌ی کوتاه. مدل کوچک اغلب کافی است و هزینه‌ی هر درخواست تقریباً صفر میشود.
- اینترنت ناپایدار. دسترسی به برخی سرویس‌ها از داخل ایران محدود است و این وضعیت تغییر میکند؛ مدلی که روی سیستم خودتان است به این‌ها وابسته نیست.
- یادگیری. برای فهمیدن اینکه مدل زبانی زیر کاپوت چطور کار میکند، مدل محلی بهترین کلاس درس است.
- تنظیم برای یک کار خاص. مدل متنباز را میشود با دادهی خودتان بیشتر آموزش داد (Fine-tuning). تخصص و سختافزار میخواهد، ولی با مدل بسته اغلب فقط در چارچوب سرویس‌دهنده ممکن است.
کی بهتر است سراغش نروید؟#
وقتی بهترین کیفیت را می‌خواهید، کسی برای نگهداری ندارید، یا حجم استفاده کم است.
- کیفیت بالا در کار سخت. برای کد پیچیده، تحلیل سند بلند یا متن فارسی روان، مدلهای بزرگ میزبانیشده معمولاً جلوترند.
- نبود نیروی نگهداری. مدل محلی به‌روزرسانی، پایش و رفع اشکال میخواهد. اگر کسی وقتش را ندارد، API ساده‌تر است.
- سایت روی هاست اشتراکی. هاست اشتراکی سی‌پنل پردازندهی گرافیکی ندارد و سقف منابعش برای مدل زبانی ساخته نشده. سرور مجازی یا سرور گرافیکی لازم است؛ جزئیات در راه‌اندازی مدل متنباز روی سرور.
- حجم کم. چند ده درخواست در روز خرید یا اجاره‌ی سختافزار را توجیه نمی‌کند.
مجوز مدل متنباز چه می‌گوید؟#
برای هر مدل چیز متفاوتی؛ «متنباز» یعنی «هر کاری دلم خواست» نیست. خانواده‌های شناخته‌شده‌ای مثل Llama، Mistral، Gemma و Qwen هرکدام مجوز خودشان را دارند و حتی مدلهای یک خانواده ممکن است مجوزهای متفاوتی داشته باشند.
پیش از استفادهی تجاری، این شش سؤال را در متن مجوز و کارت مدل جواب بدهید:
- آیا استفادهی تجاری مجاز است و با چه شرطی؟
- آیا برای تعداد کاربر یا اندازه‌ی شرکت سقفی هست؟
- آیا فهرست کاربردهای ممنوع دارد؟
- آیا باید نام مدل یا سازنده را جایی ذکر کنید؟
- اگر مدل را تنظیم یا تغییر دهید، مدل جدید تابع چه شرطی است؟
- آیا محدودیتی برای منطقه‌ی استفاده دارد؟
اگر جواب یکی روشن نبود، فرض را بر محدودیت بگذارید. متن مجوز را از منبع رسمی مدل بخوانید، نه از خلاصه‌ی یک وبلاگ، حتی همین وبلاگ.
مدلهای متنباز به کجا می‌روند؟#
به سمت مدلهای کوچک‌تر و توانمندتر که روی دستگاه‌های معمولی اجرا میشوند، و ترکیب مدل محلی و میزبانیشده در یک سیستم. روند روشن این است که کار ساده به مدل کوچک و نزدیک سپرده میشود و کار سخت به مدل بزرگ. ابزارهای اجرا هم بیشتر و بیشتر یک قالب API مشترک را پشتیبانی می‌کنند، و تنوع مجوزها سر جایش می‌ماند.
برای آماده شدن:
- کدتان را به یک سرویس گره نزنید. نشانی و نام مدل را در تنظیمات نگه دارید تا عوض‌کردن مدل یک تغییر ساده باشد.
- یک مجموعه‌ی آزمایشی بسازید. بیست نمونه از کار واقعی‌تان با خروجی مطلوب، تا هر مدل تازه را در یک ساعت بسنجید.
- برای مجوزها دفترچه داشته باشید. برای هر مدلی که استفاده می‌کنید، نوع مجوز و شرط‌هایش را یادداشت کنید.
خلاصه#
- بیشتر مدلهای «متنباز» وزنبازند: وزن‌ها منتشر شده، نه دادهی آموزش.
- حافظه به تعداد پارامتر و دقت عددی بستگی دارد؛ کوانتیزه‌کردن حافظه را کم میکند و کمی از کیفیت می‌کاهد.
- مدلهای بزرگ میزبانیشده در کارهای سخت قوی‌ترند؛ مدل متنباز در حریم خصوصی، کار ساده‌ی پرتعداد و ثبات رفتار برنده است.
- هاست اشتراکی برای اجرای مدل مناسب نیست؛ سرور مجازی یا گرافیکی لازم است.
- مجوز هر مدل را جدا و از منبع رسمی بخوانید.
