کارهایی که هوش مصنوعی هنوز خوب انجام نمی‌دهد

فروشندگان درباره قابلیت‌ها حرف می‌زنند. مرزها را باید خودتان بدانید.

حساب و منطق چندمرحله‌ای

مدل‌ها در محاسبات دقیق ضعیف‌اند، چون کارشان پیش‌بینی متن است نه اجرای عملیات. برای هر جایی که عدد اهمیت دارد — قیمت، موجودی، مالیات — محاسبه باید در کد انجام شود و مدل فقط نتیجه را بیان کند.

اطلاعات تازه

دانش مدل تا زمان مشخصی است. هر چیزی که بعد از آن رخ داده، برایش وجود ندارد مگر اینکه در همان درخواست به او بدهید. برای اطلاعات متغیر — قیمت، موجودی، وضعیت سفارش — همیشه باید داده زنده تزریق شود.

قضاوت در موارد مرزی

مدل می‌تواند سیاست مرجوعی شما را بخواند و توضیح دهد. اما تصمیم اینکه برای این مشتری خاص، در این شرایط خاص، استثنا قائل شوید یا نه، قضاوت است — و قضاوت مسئولیت می‌خواهد.

اطمینان کاذب

خطرناک‌ترین محدودیت این است که لحن مدل ربطی به درستی‌اش ندارد. یک پاسخ کاملاً اشتباه با همان قاطعیتی نوشته می‌شود که یک پاسخ درست. هیچ سیگنالی در خود متن نیست که به شما بگوید کدام است.

نتیجه‌گیری عملی

هر جا اشتباه هزینه واقعی دارد، یک لایه راستی‌آزمایی لازم است: یا محدود کردن به منبع مشخص، یا بازبینی انسانی، یا هر دو.