RAG چیست؟#

مدل زبانی فقط چیزهایی را می‌داند که در آموزشش دیده؛ از اسناد داخلی شرکت شما خبر ندارد. RAG راه حل ساده‌ای است: وقتی کاربر پرسشی می‌پرسد، اول بین اسناد شما جستجو می‌شود، چند تکه‌ی مرتبط پیدا می‌شود، و آن‌ها همراه پرسش به مدل داده می‌شوند. مدل با همین مطالب جواب می‌دهد.

مراحل کار#

  1. اسناد به تکه‌های کوچک تقسیم می‌شوند.
  2. هر تکه به امبدینگ تبدیل و در پایگاه داده‌ی برداری ذخیره می‌شود.
  3. پرسش کاربر هم به امبدینگ تبدیل می‌شود و نزدیک‌ترین تکه‌ها پیدا می‌شوند.
  4. تکه‌ها و پرسش به مدل داده می‌شود تا جواب بسازد.

مثال#

یک فروشگاه می‌خواهد چت‌بات پشتیبانی داشته باشد که از قوانین مرجوعی و ارسال خودش جواب بدهد. با RAG، قوانین را در سیستم می‌گذارد و چت‌بات هنگام پاسخ، بند مربوط را می‌خواند و بر پایه‌ی آن جواب می‌دهد، نه از حدس خودش.

مزیت‌ها#

  • توهم کمتر، چون جواب بر منبع تکیه دارد.
  • به‌روزرسانی ساده: سند را عوض کنید، نه مدل را.
  • امکان ذکر منبع.

محدودیت‌ها#

اگر جستجو تکه‌ی درست را پیدا نکند، جواب هم غلط می‌شود. تقسیم‌بندی بد اسناد، داده‌ی قدیمی و پرسش‌های مبهم کیفیت را پایین می‌آورند.

تفاوت با فاین‌تیون#

فاین‌تیون سبک و رفتار مدل را تغییر می‌دهد؛ RAG دانش بیرونی را در لحظه به مدل می‌رساند. برای «جواب از اسناد من»، معمولاً RAG ساده‌تر و ارزان‌تر است.