شبکه عصبی

[sanaz61]

سلام دوستان
من دارم یه شبکه عصبی طراحی می کنم. برای آموزش وزن ها باید از روش گرادیان نزولی استفاده کنم ولی خیلی از این روش سر در نمیارم. میشه کمکم کنید که چه طور باید کد نویسی گرادیان نزولی رو تو مطلب انجام بدم؟ ممنون می شم.

[zahrazt]

با سلام
دوست عزیز، گرادیان نزولی یه روش برای پیدا کردن بهینه محلی هستش. برای این کار باید، با استفاده از متغییر هایی که داری به معادله درجه دو تولید کنی، بعد حالت ایده آل اینه که مشتق این معادله صفر بشه. سعی می کنی اون متغیر اصلیت رو طوری تغییر بدی که مشتق این معادله به صفر نزدیک بشه.
تغییرات مقدار این معادله رو هر دفعه بررسی می کنی و اگر تغییری که دفعه قبل دادی باعث بهبود نتایجت شده (یعنی معادله بیشتر به صفر نزدیک شده) در همون جهت تغییر ایجاد می کنی ، اما اگر تغییری که دادی شرایط رو برات بد کرده در جهت معکوس تغییر ایجاد می کنی.
میران ایجاد تغییر می تونه ثابت با متغییر باشه.
در مرورد مطلب چیزی نمی دونم، شرمنده!