RAG چیست و چرا چت‌بات بدون منبع اشتباه می‌کند

RAG مخفف Retrieval-Augmented Generation یا «تولید تقویت‌شده با بازیابی» است: روشی که در آن چت‌بات پیش از پاسخ دادن، بخش‌های مرتبط اسناد معتبر را پیدا می‌کند و سپس پاسخ را بر پایهٔ همان بخش‌ها می‌سازد. چت‌باتی که بدون چنین منبعی پاسخ می‌دهد، ناچار است به حافظهٔ کلی مدل زبانی تکیه کند و وقتی اطلاعات دقیقی دربارهٔ کسب‌وکار شما ندارد، ممکن است پاسخی بسازد که درست به نظر می‌رسد ولی واقعی نیست. RAG این فاصله را با وصل کردن مدل به دانش واقعی شما پر می‌کند.

مدل زبانی چه چیزی می‌داند و چه چیزی نمی‌داند؟

مدل‌های زبانی بزرگ با حجم عظیمی از متن آموزش دیده‌اند. آن‌ها زبان را می‌فهمند، می‌توانند متن روان بنویسند و دربارهٔ موضوعات عمومی اطلاعات زیادی دارند. اما سه محدودیت مهم دارند:

• دانش اختصاصی شما را ندارند: قیمت‌ها، قوانین ارسال، ساعت کاری و مشخصات محصولات شما در آموزش آن‌ها نبوده است.
• دانششان تاریخ دارد: آنچه بعد از آموزش مدل تغییر کرده، برایش ناشناخته است.
• همیشه پاسخ می‌سازند: مدل زبانی طوری طراحی شده که متن محتمل تولید کند؛ اگر پاسخ را نداند، ممکن است یک پاسخ محتمل ولی نادرست بنویسد.

«توهم» یا پاسخ ساختگی چیست؟

وقتی مدل زبانی پاسخی می‌سازد که با اطمینان بیان شده اما پایهٔ واقعی ندارد، به آن توهم (Hallucination) می‌گویند. مثلاً اگر از یک چت‌بات عمومی بپرسید «هزینهٔ ارسال فروشگاه شما به مشهد چقدر است؟»، ممکن است عددی بگوید که هیچ‌وقت وجود نداشته است. برای یک کسب‌وکار، این خطرناک‌ترین نوع خطاست؛ چون مشتری آن را باور می‌کند.

RAG چطور کار می‌کند؟

RAG کار پاسخ‌گویی را به دو مرحله تقسیم می‌کند: اول پیدا کردن، بعد نوشتن.

1. ۱

   آماده‌سازی اسناد

   اسناد شما به قطعه‌های کوچک تقسیم و به شکلی نمایه‌سازی می‌شوند که بتوان بر اساس معنا در آن‌ها جست‌وجو کرد.

2. ۲

   دریافت سؤال

   مشتری سؤالی می‌پرسد؛ مثلاً «اگر کالا آسیب‌دیده برسد چه کنم؟».

3. ۳

   بازیابی

   سیستم قطعه‌هایی از اسناد را پیدا می‌کند که از نظر معنا به این سؤال نزدیک‌اند؛ حتی اگر کلمات دقیقاً یکسان نباشند.

4. ۴

   تولید پاسخ

   مدل زبانی سؤال و قطعه‌های بازیابی‌شده را کنار هم می‌گذارد و پاسخی روان بر پایهٔ همان‌ها می‌نویسد.

نتیجه این است که مدل به‌جای تکیه بر حافظهٔ کلی خود، از متن واقعی شما استفاده می‌کند. توانایی زبانی مدل حفظ می‌شود، اما محتوای پاسخ از منبع قابل اعتماد می‌آید.

یک مثال ساده

فرض کنید مشتری می‌پرسد «اگر بسته آسیب‌دیده برسد چه کنم؟». در اسناد فروشگاه، بخشی با عنوان «دریافت کالای آسیب‌دیده» آمده که می‌گوید مشتری باید تا ۴۸ ساعت از بسته عکس بگیرد و درخواست ثبت کند. سیستم بازیابی همین بخش را پیدا می‌کند، حتی اگر مشتری کلمهٔ «آسیب‌دیده» را ننوشته و گفته باشد «جنس شکسته رسیده». مدل زبانی سپس پاسخی کوتاه و روان می‌نویسد که همان مهلت و همان مراحل را توضیح می‌دهد. بدون RAG، مدل ممکن بود یک روال کلی و نادرست را توصیه کند.

مقایسهٔ چت‌بات با RAG و بدون RAG

چرا RAG از «آموزش دادن» مدل بهتر است؟

یک راه دیگر برای وارد کردن دانش اختصاصی، آموزش دوبارهٔ خود مدل است. این کار برای بیشتر کسب‌وکارها سه مشکل دارد: پرهزینه است، زمان‌بر است و هر بار که اطلاعات تغییر کند باید تکرار شود. با RAG، وقتی قیمتی عوض می‌شود، فقط سند مربوط را به‌روز می‌کنید و پاسخ‌های بعدی از نسخهٔ جدید استفاده می‌کنند.

محدودیت‌های RAG

RAG جادو نیست و کیفیتش به چند عامل بستگی دارد:

• کیفیت اسناد: اگر سند مبهم، قدیمی یا متناقض باشد، پاسخ هم همین‌طور خواهد بود.
• پوشش دانش: اگر پاسخ سؤالی در هیچ سندی نیامده باشد، RAG چیزی برای بازیابی ندارد.
• ساختار اسناد: متنی که هر بخشش بدون بافت قبلی قابل فهم نیست، سخت‌تر بازیابی می‌شود.
• دستورالعمل: اگر به دستیار نگفته باشید در نبود اطلاعات چه کند، ممکن است باز هم تلاش کند پاسخی بسازد.

RAG در Plexit

دستیارهای Plexit بر پایهٔ RAG ساخته شده‌اند. هر دستیار یک پایگاه دانش اختصاصی دارد که با آپلود فایل (متن، PDF، Word، تصویر و صوت) یا نوشتن متن در کنسول ساخته می‌شود. اسناد پس از آپلود پردازش و به قطعه‌های قابل جست‌وجو تبدیل می‌شوند و وضعیت این پردازش را به‌صورت زنده در کنسول می‌بینید.

هنگام آزمایش دستیار در گفت‌وگوی آزمایشی، زیر هر پاسخ تعداد منابع استفاده‌شده نمایش داده می‌شود. پاسخی که بدون منبع ساخته شده، نشانهٔ روشنی است که باید سندی اضافه یا اصلاح کنید. نسخهٔ کامل ویجت سایت هم می‌تواند منابع پاسخ را به مشتری نشان دهد.

چطور کیفیت RAG را بالا ببریم؟

1. اسناد را موضوعی و با عنوان‌بندی روشن بنویسید.
2. برای سؤال‌های پرتکرار از قالب پرسش و پاسخ استفاده کنید.
3. تناقض‌ها و نسخه‌های قدیمی را حذف کنید.
4. پاسخ‌ها را با سؤال‌های واقعی آزمایش کنید و به منابع هر پاسخ دقت کنید.
5. دستورالعمل را طوری بنویسید که دستیار در نبود اطلاعات، صادقانه اعتراف کند.

برای جزئیات بیشتر، راهنمای عملی آماده‌سازی پایگاه دانش را بخوانید.