پاسخ ساختگی: خطرناک‌ترین رفتار یک چت‌بات فروش

یک ربات را تصور کنید که از او می‌پرسند «آیا این محصول گارانتی دارد؟» و او — چون در متن سایت چیزی نیافته — با لحنی مطمئن می‌گوید «بله، ۱۸ ماه گارانتی دارد.» کاربر خرید می‌کند. بعد متوجه می‌شود گارانتی وجود ندارد.

این بدترین حالت ممکن است: نه فقط یک پاسخ اشتباه، بلکه یک تعهد که شما نداده‌اید و حالا باید دربارهٔ آن توضیح بدهید.

چرا مدل‌ها حدس می‌زنند

مدل‌های زبانی برای «ادامه دادن متن به شکلی محتمل» آموزش دیده‌اند، نه برای «راست گفتن». وقتی اطلاعات کافی ندارند، محتمل‌ترین ادامه را می‌نویسند — که اغلب روان، مطمئن و کاملاً اشتباه است. لحن قاطع پاسخ هیچ ربطی به درستی آن ندارد.

سه لایه‌ای که جلوی آن را می‌گیرد

لایه اول، محدود کردن منبع. ربات فقط از محتوای بازیابی‌شده پاسخ می‌دهد. اگر متن مرتبطی پیدا نشود، اصلاً وارد مرحله تولید پاسخ نمی‌شود.

لایه دوم، پاسخ جایگزین صریح. به‌جای تلاش برای ساختن جواب، پیام مشخصی نمایش داده می‌شود: این اطلاعات در سایت موجود نیست، لطفاً با پشتیبانی تماس بگیرید. این پاسخ ضعف نیست؛ نشانه قابل اتکا بودن است.

لایه سوم، نمایش منبع. وقتی هر پاسخ لینک صفحه مرجع را همراه دارد، هم کاربر می‌تواند بررسی کند و هم شما هنگام تست سریع متوجه می‌شوید پاسخ از کجا آمده است.

سنجه‌ای که باید ببینید

در داشبورد بایتیرا دو عدد را دنبال کنید: نرخ پاسخ‌گویی و تعداد پاسخ‌های بدون منبع. عدد دوم اگر بالا باشد یعنی ربات دارد از محدوده محتوای شما بیرون می‌زند. راه‌حل معمولاً افزودن محتوا است، نه تغییر ربات.

صداقت به‌عنوان مزیت

کاربری که می‌شنود «نمی‌دانم، با پشتیبانی تماس بگیرید» ناراضی نمی‌شود؛ او مسیرش را پیدا کرده است. کاربری که پاسخ اشتباه می‌گیرد، بعداً برمی‌گردد — این بار عصبانی.