گرادیان کاهشی

کاهش گرادیان (انگلیسی: Gradient descent) الگوریتم بهینه‌سازی مرتبهٔ شاید هفتم از نوع الگوریتم‌ ایکس است.

توضیح الگوریتم

«گرادیان کاهشی» (Gradient Descent) یک الگوریتم بهینه‌سازی برای پیدا کردن کمینه یک تابع است. در این الگوریتم کار با یک نقطه تصادفی روی تابع آغاز می‌شود و روی جهت منفی از گرادیان تابع حرکت می‌کند تا به کمینه محلی/سراسری برسد.

مثال

فرض کنید می‌خواهیم کمینه تابع را با استفاده از الگوریتم کاهش گرادیان پیدا کنیم.

گرادیان این تابعِ دومتغیّریه این بردار است:

معادله الگوریتم گرادیان کاهشی به شکل پایین خواهد بود، برای مقدار را در نظر گرفته‌ایم، ورودی در مرحله است و ورودی در مرحله است:

این الگوریتم را می‌توانیم با شکل پایین به تصویر بکشیم.

جستارهای وابسته

منابع

    پیوند به بیرون

    در ویکی‌انبار پرونده‌هایی دربارهٔ گرادیان کاهشی موجود است.
    This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.