واژه‌نامهٔ هوش مصنوعی

مرحلهٔ «یادگیریِ» مدل؛ به‌روزرسانیِ وزن‌ها با داده. بسیار سنگین‌تر از استنتاج.

مرحلهٔ «پاسخ‌دادنِ» مدل (در برابرِ «آموزش»)؛ فقط محاسبهٔ روبه‌جلو.

جایگزینِ ساده‌ترِ RLHF که حلقهٔ یادگیریِ تقویتی را با یک تابعِ طبقه‌بندی جایگزین می‌کند.

وزن‌های آموخته‌شدهٔ مدل؛ معیارِ تقریبیِ ظرفیت. مثلاً «۷ میلیارد» (۷B).

استانداردِ بازِ Anthropic (۲۰۲۴) برای اتصالِ یکدستِ عامل‌ها به داده و ابزار — «USB-C برای هوش مصنوعی».

بیشینهٔ توکنی که مدل هم‌زمان «در ذهن» نگه می‌دارد (ورودی + خروجی).

معماریِ شبکهٔ عصبی (۲۰۱۷) با سازوکارِ «توجه» که پایهٔ همهٔ مدل‌های زبانیِ امروز است.

نگاشتِ متن به بردارِ عددی در «فضای معنا»؛ نزدیکیِ بردارها ≈ نزدیکیِ معنا. پایهٔ جست‌وجوی معنایی و RAG.

بازآموزیِ وزن‌های مدل با دادهٔ شما؛ برای تغییرِ مهارت و سبک. قوی اما پرهزینه.

سازوکاری که به مدل اجازه می‌دهد وزن دهد هر کلمه به کدام کلمه‌های دیگر «توجه» کند.

واحدِ پردازشِ مدل؛ تکه‌ای از کلمه. هر توکن انگلیسی ≈ ۰٫۷۵ کلمه. هزینه و سرعت بر اساسِ توکن سنجیده می‌شود.

روشی که هنگامِ پاسخ، اسنادِ مرتبط را بازیابی و به مدل تزریق می‌کند؛ دانشِ به‌روز و قابلِ‌استناد بدونِ تغییرِ مدل.

یافتنِ نزدیک‌ترین بردارها (معنا‌های مشابه) در یک پایگاه‌دادهٔ برداری.

حافظهٔ کارتِ گرافیک (GPU) که مدل باید در آن جا شود. قاعدهٔ سرانگشتی: fp16 ≈ ۲ بایت بر پارامتر.

«دایلِ خلاقیت» مدل؛ مقدارِ بالاتر = خروجیِ متنوع‌تر و کم‌قطعیت‌تر.

سامانه‌ای که هدف می‌گیرد، برنامه می‌ریزد، ابزار به‌کار می‌برد و چندمرحله‌ای اقدام می‌کند.

نمایشِ وزن‌ها با دقتِ کمتر (مثلاً ۸ یا ۴ بیت) برای کاهشِ حافظه و افزایشِ سرعت، با افتِ ناچیزِ کیفیت.

مدلی که با پیش‌بینیِ «توکنِ بعدی» متن تولید می‌کند؛ پایهٔ ابزارهایی مثل ChatGPT.

رویکردِ پژوهشیِ متا که به‌جای توکن، «مفهوم» (تعبیهٔ کل جمله) را پیش‌بینی می‌کند و زبان‌مستقل است.

هنرِ «درست پرسیدن» از مدل با تکنیک‌هایی مثل زنجیرهٔ تفکر و few-shot.

سخت‌افزارِ موازیِ موردنیازِ هوش مصنوعی؛ نمونه‌های دیتاسنتری: A100، H100، H200.

افزودنِ یک «آداپتورِ» کوچکِ آموزش‌پذیر به مدلِ منجمد؛ ارزان، قابل‌تعویض و قابل‌ادغام.

روشِ هم‌ترازیِ مدل با ترجیحِ انسان؛ هستهٔ مدل‌های دستورپذیر مثل InstructGPT.