رگرسیونِ چندجمله‌ای می‌تواند در ورودی xغیرخطی باشد ولی نسبت به ضرایب همچنان خطی بماند. برای نمونه،مدلِ w0+w1×x+w2×x²با سه ضریبِ آزاد،یک ترکیبِ خطی از سه ستونِ۱،xوx²است. ساختنِ این ستون‌ها با آموزشِ یک شبکهٔ عصبی یا انتخابِ خودکارِ بهترین درجه یکی نیست.
از پنج xبه ماتریسِ پایه
پنج ورودیِ اصیل −۲،−۱،۰،۱،۲و پاسخ‌های۵،۲،۱،۲،۵را برای تمرین ساخته‌ایم. برای درجهٔ۱هر ردیف[۱,x]و برای درجهٔ۲هر ردیف[۱,x,x²]است. مثلاً ورودی−۲به[۱,−۲,۴]تبدیل می‌شود. ستونِ۱عرض از مبدأ را داخلِ طراحی قرار می‌دهد؛ دوباره یک عرض از مبدأِ اضافه برازش نمی‌کنیم.
| x | پایهٔ درجه۲ | yساختگی |
|---|---|---|
| −۲ | [۱,−۲,۴] | ۵ |
| −۱ | [۱,−۱,۱] | ۲ |
| ۰ | [۱,۰,۰] | ۱ |
| ۱ | [۱,۱,۱] | ۲ |
| ۲ | [۱,۲,۴] | ۵ |
دو برازشِ واقعی روی همین داده
کد مجموعِ مربعِ باقیمانده‌ها را بدونِ جریمه کمینه می‌کند. برای درجهٔ۱ضرایب[۳,۰]وپیش‌بینیِ ثابت۳به دست می‌آید. باقیمانده‌های y−predictionبرابر۲،−۱،−۲،−۱،۲وSSEبرابر۱۴است. برای درجهٔ۲ضرایب[۱,۰,۱]به دست می‌آیند وهر پنج پاسخِ ساختگی بازتولید می‌شوند؛ SSEآموزش صفر است.
ضرایب در JSONنتیجهٔ محاسبه‌اند،نه وزن‌های دستیِ اعلام‌شده. معادلهٔ نرمال و حذفِ گاوسی با Fractionحل شده و عمودبودنِ بردارِ باقیمانده بر ستون‌های طراحی دقیقاً کنترل شده است. این حل‌کننده برای ماتریسِ کوچک و معتبرِ همین مثال است؛ توصیهٔ استفاده از معادلهٔ نرمال با ممیزشناور برای مسئلهٔ بزرگ یا بدشرط نیست. scikit-learnدر این تمرین اجرا نشده است.
چرا هنوز «خطی» می‌گوییم؟
اگر xثابت باشد،خروجی نسبت به بردارِ وزن‌ها خطی است: خروجیِ وزنِ u+vبرابر جمعِ خروجی‌های uوvاست. کد یک کنترلِ دقیقِ این رابطه هم دارد. منحنی‌شدن در محورِ xاین خاصیت را از بین نمی‌برد. در دادهٔ چندویژگی،ستون‌های برهم‌کنش مانند x1×x2هم می‌توانند واردِ پایه شوند؛ این مثال عمداً فقط یک ورودی دارد.
برازشِ یک خط نحوۀ محاسبهٔ شیب را توضیح می‌دهد؛ مسئلهٔ این صفحه تغییرِ فضایِ ویژگی به ماتریسِ پایه است. لازم نیست برای هر درجه یک عنوانِ جدا و محتوایِ تکراری بسازیم؛ همین قرارداد را می‌توان تغییر داد و نتیجه را دوباره دید.
صفرشدنِ خطای آموزش چه چیزی را نمی‌گوید؟
برای x=۳،خطِ درجهٔ۱عدد۳و منحنیِ درجهٔ۲عدد۱۰می‌دهد. پاسخِ مشاهده‌شده‌ای برای این نقطه نداریم و هردو برون‌یابی‌اند. عدد۱۰را صرفاً به دلیلِ SSEصفر،پیش‌بینیِ تأییدشده ننامید. انتخابِ درجه به دادهٔ اعتبارسنجی وکنترلِ بیش‌برازش نیاز دارد.
همچنین مقیاسِ بزرگِ xبا توان‌های بالاتر می‌تواند حلِ عددی را دشوار کند؛ این کدِ دقیق شاهدِ پایداریِ حل‌کننده‌های دیگر نیست. اگر هدفِ عملیِ شما پاسخ‌گویی یاپیگیریِ مشتری است،ابتدا خروجیِ قابل مشاهده و معیارِ پذیرش را در راهکارهای اپرا روشن کنید؛ این آموزش ارائهٔ سرویسِ رگرسیونِ چندجمله‌ای توسط اپرا را اعلام نمی‌کند.
فایل تمرین و منبع
ساختِ ماتریسِ پایه و حلِ دقیقِ دو برازشِ کوچک · ماتریس،ضرایب،پیش‌بینی و باقیماندهٔ هر نقطه
- مستند اصلی PolynomialFeatures؛ ستونِ پایه و include_bias
- مرجع اصلی مدلِ خطی روی توابعِ پایه؛ این کد اجرای کتابخانه نیست
منابع در ۳ نوامبر ۲۰۲۶ خوانده شدند؛ این تاریخ، تاریخ انتشار منبع نیست. مثال‌ها و فایل‌های این راهنما آموزشی و ساختهٔ تحریریه‌اند.