پرسپترون چند لایه - بخش دوم

توضیحات

شبکه های عصبی چند لایه پرسترون / جلوسو : Multi layers Perceptron(MLP)/Feedforward Neural Network (FFNN) b. بخش دوم i. ادامه نکات ابتکاری در آموزش شبکه های MLP 1. نرمالسازی ورودی، انواع آن و رابطه آن با تقسیم داده ها به آموزش و آزمون 2. مقداردهی اولیه به وزنها 3. اثر ضریب یادگیری در لایه ها و محو شدن گرادیان Gradient Vanishing ii. روشهای آموزش گرادیان نزولی با همگرایی سریعتر 1. ترم ممنتوم Momentum ، فرمول و توصیف گرافیکی 2. ترم نستروف Nestorov ، فرمول و توصیف گرافیکی 3. ضریب یادگیری تطبیقی Adaptive learning rate 4. RMS PROP : Root Mean Square Propagation 5. ADAM: Adaptive Moment optimization 6. AdaGrad: adaptive gradient 7. مقایسه الگوریتمهای فوق و نمایش کارایی با انیمیشن