آخرین به‌روزرسانی:
هر روز از ChatGPT و Claude و Gemini استفاده می‌کنیم، ولی تصویری که بیشتر آدم‌ها از آن‌ها دارند اشتباه است: یک پایگاه دادهی بزرگ که جواب‌ها را از آن بیرون می‌کشد، یا یک موتور جستجوی باهوش‌تر. هیچ‌کدام درست نیست.
این اشتباه در عمل هزینه دارد. کسی که فکر میکند مدل «جواب را پیدا میکند»، به پاسخ ساختگی هم اعتماد میکند. کسی که می‌داند مدل چطور کار میکند، می‌داند کجا به آن تکیه کند و کجا نه.
مدل زبانی بزرگ چیست؟#
مدل زبانی بزرگ (Large Language Model یا LLM) برنامه‌ای است که یاد گرفته با دیدن یک متن، محتمل‌ترین ادامه‌ی آن را پیشبینی کند. همه‌ی کارهای دیگرش، از جواب‌دادن تا کدنویسی، از همین یک توانایی می‌آید.
وقتی سؤالی می‌پرسید، مدل دنبال جواب در جایی نمی‌گردد؛ متن شما را می‌خواند و تکه‌به‌تکه ادامه‌ای می‌سازد که با الگوهای دیده‌شده در آموزش جور درمی‌آید. توکن همان تکه‌ی کوچک متن است که مدل در هر قدم تولید میکند؛ جزئیاتش را در توکن، پنجره‌ی متن و توهم توضیح داده‌ایم.
ممکن است «پیشبینی کلمه‌ی بعد» ساده به نظر برسد. ولی برای اینکه ادامه‌ی جمله‌ی «خطای ۵۰۰ در لاراول معمولاً یعنی…» را درست حدس بزنید، باید چیزهای زیادی درباره‌ی لاراول، سرور و خطاها بدانید. مدل در طول آموزش مجبور می‌شود این دانش را، به شکل الگوهای آماری، در خودش جا بدهد.
«بزرگ» یعنی چه؟#
دو چیز در این مدل‌ها بزرگ است:
- دادهی آموزش: حجم عظیمی از متن عمومی وب، کتاب، کد و مستندات.
- تعداد پارامترها: پارامتر عددی داخل مدل است که در آموزش تنظیم می‌شود و دانش مدل در مجموع همین عددها ذخیره است. هیچ جمله‌ای جداگانه در مدل نگه داشته نمی‌شود.
معماری پشت تقریباً همه‌ی این مدل‌ها «ترنسفورمر» (Transformer) نام دارد. نکته‌ی کلیدی‌اش سازوکار توجه (attention) است: مدل برای پیشبینی هر توکن می‌سنجد کدام بخش‌های متن قبلی به آن ربط بیشتری دارند. برای استفاده لازم نیست ریاضی‌اش را بدانید؛ کافی است بدانید مدل کل متن جلوی چشمش را با هم می‌بیند، نه فقط جمله‌ی آخر را.
مدل زبانی چطور یاد می‌گیرد؟#
ساختن یک دستیار معمولاً سه مرحله دارد: پیش‌آموزش روی متن عظیم، تنظیم با نمونه‌های دستور و پاسخ، و اصلاح رفتار با بازخورد انسانی. مدلی که فقط مرحله‌ی اول را گذرانده، متن را ادامه می‌دهد ولی هنوز دستیار نیست؛ اگر بنویسید «یک تابع PHP برای اعتبارسنجی ایمیل بنویس»، ممکن است به‌جای جواب، چند درخواست مشابه دیگر پشتش ردیف کند.
| مرحله | داده | چه چیزی یاد می‌گیرد |
|---|---|---|
| پیش‌آموزش | حجم عظیم متن عمومی | زبان، واقعیت‌ها، الگوهای کد و استدلال |
| تنظیم با دستور | نمونه‌های پرسش و پاسخ خوب | اینکه به دستور جواب بدهد، نه اینکه ادامه‌اش بدهد |
| بازخورد انسانی | مقایسه‌ی پاسخ‌ها توسط آدم‌ها | کدام پاسخ مفیدتر، صادق‌تر و بی‌خطرتر است |
مرحله‌ی اول پرهزینه‌ترین است و بیشترِ «دانش» مدل از آن می‌آید. دو مرحله‌ی بعد رفتار را شکل می‌دهند: لحن، پیروی از دستور، امتناع از درخواست خطرناک. برای همین دو مدل با دانش نزدیک به هم می‌توانند رفتار کاملاً متفاوتی داشته باشند؛ همان چیزی که در مقایسه‌ی ChatGPT، Claude و Gemini دیدیم. جزئیات هر مرحله در هر شرکت فرق دارد و بیشترش منتشر نمی‌شود، ولی این تصویر کلی درست است.
در گفتگو با مدل چه اتفاقی می‌افتد؟#
مدل در طول گفتگو با شما چیزی یاد نمی‌گیرد؛ بعد از آموزش، پارامترهایش ثابت است و فقط متن همان گفتگو را می‌خواند.
وقتی چیزی را در پیام دوم تصحیح می‌کنید و مدل در پیام پنجم رعایتش میکند، دلیلش این است که تصحیح شما هنوز در متن گفتگو هست، نه اینکه مدل «یاد گرفته».
گفتگوی تازه باز کنید، همه‌چیز از صفر است. قابلیت‌هایی مثل «حافظه» در برخی سرویسها در واقع یادداشت‌هایی هستند که سرویس ذخیره میکند و در گفتگوی بعدی دوباره به متن اضافه میکند. برخی سرویسها هم ممکن است، بسته به تنظیمات حساب، از گفتگوها برای آموزش نسخه‌های بعدی استفاده کنند. این یادگیری در لحظه نیست، ولی دلیل خوبی است که دادهی حساس را وارد نکنید.
یک نکته‌ی دیگر: مدل در هر قدم از میان چند ادامه‌ی محتمل یکی را با کمی تصادف انتخاب میکند. برای همین یک سؤال یکسان دو بار جواب یکسان نمی‌گیرد. اگر جوابی مهم است، دو بار بپرسید و مقایسه کنید.
مدل زبانی چه چیزهایی را نمی‌داند؟#
مدل زبانی چهار چیز را ذاتاً نمی‌داند: اتفاق‌های بعد از آموزش، دادهی خصوصی شما، منبع دانش خودش و مرز میان دانستن و ندانستن.
- تاریخ برش دانش. مدل فقط تا زمانی را می‌شناسد که دادهی آموزشش جمع شده. نسخه‌ی تازه‌ی یک افزونه یا تغییر اخیر یک API را نمی‌داند، مگر اینکه سرویس به آن جستجوی وب داده باشد.
- دادهی شما. قوانین فروشگاه، ساختار دیتابیس و کد پروژه‌تان در دادهی آموزش نبوده. یا باید در پرامپت بدهید، یا از روشی مثل RAG استفاده کنید.
- منبع جواب. مدل نمی‌داند هر تکه از دانشش از کجا آمده. اگر منبع بخواهید، ممکن است منبعی بسازد که وجود ندارد.
- مرز دانستن و ندانستن. مدل برای ادامه‌دادن متن آموزش دیده، نه برای سنجیدن اطمینانش. متن روان و مطمئن را حتی وقتی نمی‌داند تولید میکند؛ این همان «توهم» است.
این شناخت در کار روزمره چه تغییری می‌دهد؟#
خلاصه‌اش این است: زمینه را شما بدهید و خروجی را شما بسنجید. در عمل یعنی این پنج عادت:
- زمینه را خودتان بدهید. نسخه، محیط و داده را در درخواست بنویسید؛ روشش در پرامپت‌نویسی برای کار فنی آمده.
- برای اطلاعات تازه، منبع رسمی را ببینید. هر چیزی که به نسخه و تاریخ وابسته است را با مستندات رسمی چک کنید.
- گفتگوی طولانی را تازه کنید. وقتی متن گفتگو پر از اشتباه‌های قبلی است، مدل همان‌ها را ادامه می‌دهد.
- بخواهید بگوید کجا مطمئن نیست. مشکل را کامل حل نمی‌کند، ولی کمک میکند.
- خروجی را پیش‌نویس بدانید. به‌خصوص کد و عدد را.
مدل‌های زبانی به کجا می‌روند؟#
جهت کلی روشن است: مدل‌ها کمتر «تنها» کار میکنند و بیشتر به ابزار، داده و فایل وصل می‌شوند. چند مسیر که امروز به‌خوبی دیده می‌شود:
- وصل‌شدن به ابزار: جستجوی وب، اجرای کد و خواندن فایل کنار مدل قرار می‌گیرد و مدل از «جواب‌دهنده» به «انجام‌دهنده‌ی کار» نزدیک می‌شود.
- ورودی‌های متنوع‌تر: تصویر، صدا و سند در کنار متن.
- مدل‌های کوچک‌تر و محلی: مدلهایی که روی کامپیوتر شخصی یا سرور خودتان اجرا می‌شوند.
- تکیه‌ی بیشتر بر منبع: پاسخ همراه ارجاع به سندی که از آن آمده.
برای آماده‌شدن، به‌جای حفظ‌کردن دکمه‌های یک محصول، مفهوم‌ها را یاد بگیرید: پنجره‌ی متن، ابزار و بازیابی. مستندات و محتوای سایتتان را مرتب و به‌روز نگه دارید، چون ابزارهای هوش مصنوعی بیشتر و بیشتر از همین متن‌ها می‌خوانند. و عادت بررسی خروجی را از همین حالا جدی بگیرید؛ هر چه مدل کار بیشتری انجام دهد، این عادت ارزشمندتر می‌شود. مدل زبانی فقط یک عضو از خانواده‌ی بزرگ‌تری است که در هوش مصنوعی مولد چیست معرفی کرده‌ایم.
خلاصه#
- مدل زبانی بزرگ محتمل‌ترین ادامه‌ی متن را پیشبینی میکند؛ پایگاه داده یا موتور جستجو نیست.
- ساختش سه مرحله دارد: پیش‌آموزش روی متن عظیم، تنظیم با دستور و بازخورد انسانی.
- بعد از آموزش ثابت است و در گفتگو چیزی یاد نمی‌گیرد؛ فقط متن گفتگو را می‌بیند.
- دادهی شما و اتفاق‌های بعد از تاریخ برش دانش را نمی‌داند.
- زمینه بدهید، اطلاعات تازه را از منبع رسمی چک کنید و خروجی را پیش‌نویس بدانید.
