کارهایی که هوش مصنوعی هنوز خوب انجام نمی‌دهد

هوش مصنوعی در نوشتن، خلاصه کردن و توضیح دادن بسیار تواناست، اما در چهار جا هنوز نباید به آن تکیه کرد: محاسبه دقیق، اطلاعات تازه یا خصوصی، قضاوت در موارد مرزی و تشخیص اینکه پاسخ خودش درست است یا نه. خبر خوب این است که برای هر کدام راه‌حل ساده‌ای وجود دارد: عدد را نرم‌افزار حساب کند، اطلاعات را از منبع زنده بگیرید و تصمیم را انسان بگیرد. شناختن این مرزها شما را از پروژه‌هایی که از ابتدا به نتیجه نمی‌رسند نجات می‌دهد.

پنج مرزی که باید بشناسید

۱. حساب و منطق چندمرحله‌ای

مدل زبانی متن را پیش‌بینی می‌کند، نه اینکه عملیات ریاضی را اجرا کند. جمع یک فاکتور ده‌قلمی، محاسبه مالیات یا تبدیل واحد ممکن است درست به نظر برسد ولی در یک رقم اشتباه باشد. به همین دلیل بسیاری از سیستم‌های جدی، محاسبه را به یک ابزار یا کد جداگانه می‌سپارند و مدل فقط نتیجه را بیان می‌کند.

۲. اطلاعات تازه و خصوصی

دانش مدل تا تاریخ مشخصی است و هر چیزی بعد از آن، یا هر چیزی که هرگز عمومی نبوده، برایش وجود ندارد. قیمت امروز، موجودی انبار، وضعیت سفارش یا ساعت کاری جدید شما را نمی‌داند، مگر اینکه در همان درخواست به او داده شود. دلیل فنی این موضوع را در توضیح کارکرد مدل زبانی بزرگ آورده‌ایم.

۳. قضاوت در موارد مرزی

مدل می‌تواند سیاست مرجوعی شما را بخواند و دقیق توضیح دهد. اما اینکه برای این مشتری خاص، با این سابقه و در این شرایط، استثنا قائل شوید یا نه، قضاوت است و قضاوت مسئولیت می‌خواهد. مسئولیتی که مدل نمی‌تواند بپذیرد.

۴. اطمینان کاذب

خطرناک‌ترین محدودیت این است که لحن مدل ربطی به درستی‌اش ندارد. یک پاسخ کاملاً اشتباه با همان قاطعیتی نوشته می‌شود که پاسخ درست. هیچ نشانه‌ای در خود متن نیست که بگوید کدام است. وقتی این رفتار در چت‌بات فروش رخ دهد، به پاسخ ساختگی و تعهدی ناخواسته تبدیل می‌شود.

۵. ثبات پاسخ

یک سؤال را دو بار بپرسید، ممکن است دو جواب کمی متفاوت بگیرید. برای ایده‌پردازی این مزیت است؛ برای متن قرارداد یا پاسخ رسمی به مشتری، نه.

محدودیت‌ها و راه‌حل‌ها در یک نگاه

یک نمونه: فروشگاه آنلاین لوازم آرایشی

فرض کنید یک فروشگاه آنلاین لوازم آرایشی دارید و می‌خواهید چت‌بات به سؤال مشتری‌ها جواب بدهد. سه سؤال رایج را با این مرزها بسنجیم:

• «این کرم برای پوست چرب مناسبه؟» جوابش در توضیح محصول نوشته شده است. این کار زبانی است و مدل، اگر به محتوای شما محدود باشد، به‌خوبی از پسش برمی‌آید.
• «این رژ لب الان موجوده؟ قیمتش چنده؟» این اطلاعات متغیر است. اگر مدل از حافظه جواب بدهد، ممکن است محصولی را پیشنهاد کند که تمام شده. راه‌حل، ثبت محصولات، قیمت و موجودی در یک کاتالوگ محصول است تا ربات فقط محصولات واقعی و موجود را پیشنهاد کند. جزئیات این روش را در پیشنهاد محصول توسط چت‌بات بخوانید.
• «بسته رو باز کردم ولی رنگش بهم نمیاد، پس می‌گیرید؟» ربات می‌تواند سیاست مرجوعی را توضیح دهد، اما تصمیم درباره کالای بازشده با شماست. پیامی مثل «برای بررسی مرجوعی با پشتیبانی تماس بگیرید» مشتری را به مسیر درست می‌برد.

پیش از سپردن کار به هوش مصنوعی: گام‌به‌گام

• گام ۱: خروجی کار را مشخص کنید. متن است، عدد است یا تصمیم؟ متن برای هوش مصنوعی مناسب است؛ عدد و تصمیم نیاز به لایه دیگری دارند.
• گام ۲: هزینه اشتباه را بسنجید. اگر یک پاسخ غلط فقط یک کپشن بی‌مزه است، ریسک کم است. اگر قیمت یا تعهد است، راستی‌آزمایی لازم است.
• گام ۳: منبع اطلاعات را تعیین کنید. اطلاعاتی که مدل نیاز دارد از کجا می‌آید؟ سایت، کاتالوگ، یا فایل داخلی؟ اگر منبعی نیست، اول آن را بسازید.
• گام ۴: لایه راستی‌آزمایی بگذارید. محدود کردن به منبع مشخص، نمایش منبع، بازبینی انسانی، یا ترکیبی از این‌ها.
• گام ۵: مسیر خروج تعریف کنید. وقتی مدل جوابی ندارد یا موضوع نیاز به انسان دارد، مشتری کجا برود؟ این پیام را از قبل بنویسید.
• گام ۶: با موارد سخت تست کنید. سؤال‌های عددی، سؤال‌هایی که جوابشان جایی نوشته نشده و درخواست‌های استثنا.

اشتباه‌های رایج در برخورد با این محدودیت‌ها

• اعتماد کامل. سپردن قیمت‌گذاری، محاسبه یا تصمیم حساس به مدل بدون هیچ کنترلی.
• کنار گذاشتن کامل. دیدن یک خطا و نتیجه گرفتن اینکه هوش مصنوعی به درد نمی‌خورد. بیشتر خطاها با محدود کردن منبع و تعریف مسیر خروج قابل‌کنترل‌اند.
• انتظار حل با پرامپت. هیچ پرامپتی به مدل قیمت امروز یا موجودی انبار شما را یاد نمی‌دهد. داده را باید خودتان برسانید.
• فراموش کردن به‌روزرسانی منبع. اگر قیمت در سایت قدیمی باشد، حتی بهترین سیستم هم قیمت قدیمی را اعلام می‌کند.

اگر تازه می‌خواهید هوش مصنوعی را وارد کسب‌وکارتان کنید، راهنمای انتخاب اولین کار برای خودکارسازی را هم ببینید.

پرسش‌های رایج

آیا این محدودیت‌ها با نسخه‌های جدیدتر مدل‌ها برطرف می‌شوند؟

بعضی بهتر می‌شوند؛ مثلاً دقت استدلال در نسخه‌های جدید معمولاً بیشتر است. اما دو مورد ذاتی‌اند: مدل از اطلاعات خصوصی و لحظه‌ای کسب‌وکار شما خبر ندارد و نمی‌تواند مسئولیت تصمیم را بپذیرد. این دو همیشه به داده زنده و انسان نیاز دارند.

پس هوش مصنوعی برای چه کارهایی مطمئن است؟

برای کارهای زبانی که منبعش را خودتان داده‌اید: پاسخ به سؤال از روی محتوای سایت، خلاصه کردن، بازنویسی و پیش‌نویس متن. هر جا خروجی متن است و منبع روشن، مدل عملکرد خوبی دارد.

چطور بفهمم پاسخ مدل درست است؟

از خود متن نمی‌شود فهمید. منبع پاسخ را بررسی کنید؛ سیستمی که صفحه مرجع را زیر هر پاسخ نشان می‌دهد، این کار را برای شما و مشتری ساده می‌کند.