مدل زبانی بزرگ چطور کار می‌کند؟ توضیحی بدون ریاضیات

مدل زبانی بزرگ (LLM) سیستمی است که یاد گرفته با دیدن یک متن، محتمل‌ترین ادامه آن را بنویسد؛ تکه به تکه، تا پاسخ کامل شود. مدل پایگاه داده‌ای از حقایق ندارد که در آن جست‌وجو کند، بلکه الگوهای زبان را از حجم عظیمی از متن آموخته است. اگر همین یک نکته را بدانید، می‌فهمید کجا می‌توانید به آن تکیه کنید و کجا باید اطلاعات درست را خودتان کنارش بگذارید.

متن چطور به توکن تبدیل می‌شود؟

مدل کلمه نمی‌خواند؛ متن را به «توکن» می‌شکند. توکن قطعه‌ای از متن است که گاهی یک کلمه کامل است و گاهی بخشی از آن، یک علامت نگارشی یا حتی یک فاصله. مثلاً کلمه‌ای مثل «کتاب‌فروشی‌ها» ممکن است به چند توکن تقسیم شود.

این موضوع دو اثر عملی دارد:

• هزینه و سقف طول بر اساس توکن حساب می‌شود، نه کلمه. سرویس‌های هوش مصنوعی معمولاً بر اساس تعداد توکن ورودی و خروجی قیمت‌گذاری می‌کنند.
• متن فارسی در بسیاری از مدل‌ها توکن بیشتری مصرف می‌کند. چون بیشتر داده‌های آموزشی انگلیسی بوده، یک جمله فارسی معمولاً به توکن‌های بیشتری نسبت به معادل انگلیسی‌اش تقسیم می‌شود.

مدل چطور یاد می‌گیرد؟

آموزش مدل معمولاً دو مرحله اصلی دارد.

در مرحله پیش‌آموزش، مدل میلیاردها جمله را می‌بیند و بارها تمرین می‌کند که توکن بعدی را حدس بزند. هر بار که اشتباه می‌کند، پارامترهای درونی‌اش (میلیاردها عدد) کمی تنظیم می‌شوند. نتیجه، مدلی است که دستور زبان، سبک نوشتن و بسیاری از دانسته‌های رایج را در قالب الگو در خود دارد.

در مرحله تنظیم برای گفت‌وگو، مدل با نمونه‌هایی از پرسش و پاسخ خوب و بازخورد انسانی آموزش می‌بیند تا دستورها را دنبال کند و مثل یک دستیار جواب بدهد، نه مثل کسی که فقط متن را ادامه می‌دهد.

نکته مهم: وقتی آموزش تمام شد، دانش مدل ثابت می‌ماند. هر چیزی که بعد از تاریخ جمع‌آوری داده‌ها اتفاق افتاده یا هرگز در اینترنت نوشته نشده (مثل قیمت امروز محصولات شما) برای مدل وجود ندارد. همین توضیح می‌دهد چرا مدل درباره موضوعات پرتکرار دقیق است و درباره جزئیات نادر یا تازه، ممکن است اشتباه کند.

یک پاسخ چطور ساخته می‌شود: گام‌به‌گام

• گام ۱: تبدیل به توکن. پرسش شما، به‌علاوه دستورهای سیستم و بخشی از گفت‌وگوی قبلی، به توکن تبدیل می‌شود.
• گام ۲: محاسبه احتمال‌ها. مدل برای هر توکن ممکن در واژگانش یک احتمال حساب می‌کند: چقدر محتمل است که این توکن بعدی باشد.
• گام ۳: انتخاب یک توکن. بر اساس این احتمال‌ها و تنظیمی به نام «دما»، یک توکن انتخاب می‌شود.
• گام ۴: افزودن و تکرار. توکن انتخاب‌شده به انتهای متن اضافه می‌شود و کل فرایند برای توکن بعدی تکرار می‌شود.
• گام ۵: توقف. این چرخه تا وقتی ادامه دارد که مدل توکن پایان را انتخاب کند یا به سقف طول برسد.

دما: بین دقت و تنوع

دما تعیین می‌کند مدل چقدر به محتمل‌ترین گزینه بچسبد. دمای پایین یعنی پاسخ‌های قابل پیش‌بینی و تکرارپذیر؛ دمای بالا یعنی تنوع و خلاقیت بیشتر و البته خطای بیشتر. برای پاسخ‌گویی به مشتری دمای پایین مناسب است؛ برای ایده‌پردازی شعار تبلیغاتی، کمی بالاتر.

پنجره متن: حافظه کوتاه‌مدت مدل

مدل فقط چیزی را می‌بیند که در همان درخواست به او داده شده است. این محدوده «پنجره متن» نام دارد و سقف مشخصی بر حسب توکن دارد. مدل حافظه دائمی ندارد؛ اگر یک چت‌بات گفت‌وگوی قبلی را «یادش می‌ماند»، به این دلیل است که برنامه آن گفت‌وگو را دوباره در درخواست بعدی می‌فرستد.

اصطلاحات کلیدی در یک نگاه

یک نمونه: فروشگاه پوشاک آنلاین

فرض کنید صاحب یک فروشگاه پوشاک آنلاین هستید و از یک مدل زبانی می‌خواهید برای مانتوی تازه‌تان توضیح محصول بنویسد. اگر فقط بنویسید «برای مانتوی کتان آبی توضیح بنویس»، مدل متنی روان تحویل می‌دهد، اما ممکن است جنس آستر، سایزبندی یا شیوه شست‌وشو را از خودش بسازد، چون این‌ها محتمل‌ترین ادامه برای چنین متنی هستند.

حالا اگر مشخصات واقعی را در همان درخواست بگذارید (جنس پارچه، سایزهای موجود، دستور شست‌وشو) و بگویید «فقط از این اطلاعات استفاده کن»، خروجی هم روان است و هم درست. تفاوت در مدل نیست؛ در چیزی است که در پنجره متن قرار داده‌اید. نکته‌های بیشتر درباره نوشتن این دستورها را در راهنمای پرامپت‌نویسی مؤثر آورده‌ایم.

ابزارهایی مثل تولید محتوا با هوش مصنوعی و چت‌بات‌های مبتنی بر RAG همین منطق را خودکار کرده‌اند: اطلاعات درست را پیش از نوشتن، به مدل می‌دهند.

اشتباهات رایج در استفاده از مدل زبانی

• استفاده از مدل به‌عنوان منبع حقیقت. مدل ابزار زبانی است. قیمت، موجودی، قوانین و آمار را از منبع معتبر بیاورید.
• اعتماد به لحن مطمئن. پاسخ اشتباه با همان قاطعیت پاسخ درست نوشته می‌شود؛ متن هیچ نشانه‌ای از درستی یا نادرستی خود ندارد.
• سپردن محاسبه دقیق به مدل. جمع فاکتور یا محاسبه مالیات را به نرم‌افزار بسپارید و فقط بیان نتیجه را به مدل.
• فرض اینکه مدل گفت‌وگوهای قبلی را به خاطر دارد. هر چیزی که لازم است، باید در همان درخواست باشد.

فهرست کامل‌تر این مرزها را در مطلب کارهایی که هوش مصنوعی هنوز خوب انجام نمی‌دهد بخوانید.

پرسش‌های رایج

آیا مدل زبانی واقعاً «می‌فهمد» چه می‌گوید؟

مدل الگوهای معنایی زبان را به شکلی بسیار پیچیده آموخته و می‌تواند استدلال‌های ساده را دنبال کند، اما فهم آن مثل انسان نیست و از تجربه یا منبعی برای راستی‌آزمایی استفاده نمی‌کند. در عمل، آن را نویسنده‌ای توانا در نظر بگیرید که باید اطلاعات درست را در اختیارش بگذارید.

چرا یک سؤال را دو بار می‌پرسم و دو جواب متفاوت می‌گیرم؟

چون انتخاب هر توکن تا حدی تصادفی است و این تصادف با دما کنترل می‌شود. با دمای پایین‌تر پاسخ‌ها یکدست‌تر می‌شوند.

آیا مدل از گفت‌وگوهای من یاد می‌گیرد؟

خود مدل در حین گفت‌وگو تغییر نمی‌کند. اینکه ارائه‌دهنده سرویس داده‌های شما را برای آموزش‌های بعدی نگه می‌دارد یا نه، به سیاست همان سرویس بستگی دارد؛ پیش از ارسال اطلاعات حساس، شرایط آن را بخوانید.