RAG چیست و چطور باعث می‌شود ربات فقط از سایت شما پاسخ بدهد؟

مدل‌های زبانی دانش عمومی گسترده‌ای دارند، اما درباره کسب‌وکار شما چیزی نمی‌دانند. اگر مستقیم از آن‌ها بپرسید «هزینه ارسال به شیراز چقدر است؟» یا سکوت می‌کنند یا عددی می‌سازند. RAG راه‌حل این مسئله است.

بازیابی، سپس تولید

RAG مخفف Retrieval-Augmented Generation است: تولید پاسخ به کمک بازیابی. فرآیند دو مرحله دارد.

در مرحله اول، سیستم در محتوای شما دنبال بخش‌هایی می‌گردد که به پرسش کاربر مربوط‌اند. این جست‌وجو کلیدواژه‌ای نیست؛ معنایی است. یعنی اگر کاربر بنویسد «چقدر طول می‌کشد بسته برسد؟» متنی که نوشته «زمان تحویل سه تا پنج روز کاری است» پیدا می‌شود، حتی اگر هیچ کلمه مشترکی نداشته باشند.

در مرحله دوم، آن متن‌ها همراه با پرسش به مدل زبانی داده می‌شود با یک دستور روشن: فقط بر اساس این متن‌ها پاسخ بده.

چرا این ترتیب مهم است

چون مرز دانش ربات را شما تعیین می‌کنید، نه مدل. هر چیزی که در محتوای بازیابی‌شده نباشد، وارد پاسخ نمی‌شود. این یعنی ربات نمی‌تواند درباره قیمتی که اعلام نکرده‌اید یا خدماتی که ارائه نمی‌دهید، اظهار نظر کند.

نقش قطعه‌بندی

محتوای سایت مستقیم به مدل داده نمی‌شود. اول به قطعه‌های کوچک‌تر تقسیم می‌شود تا بازیابی دقیق باشد. اگر قطعه‌ها خیلی بزرگ باشند، متن نامرتبط وارد پاسخ می‌شود؛ اگر خیلی کوچک باشند، جمله از بافت خود جدا می‌افتد و معنا را از دست می‌دهد. تنظیم این اندازه یکی از تفاوت‌های کیفی بین پیاده‌سازی‌های مختلف است.

آنچه کاربر می‌بیند

خروجی خوب RAG فقط یک پاسخ نیست؛ منبع هم دارد. وقتی زیر پاسخ نوشته شده «برگرفته از صفحه شرایط ارسال»، کاربر می‌تواند راستی‌آزمایی کند. همین یک جزء کوچک، تفاوت بین رباتی که به آن اعتماد می‌شود و رباتی که نمی‌شود را می‌سازد.