پروژه شبکه عصبی

شرح پروژه

به نام خدا
تمرین دوم شبکه عصبی

مجموعه داده‌ی ارقام دست‌نویس انگلیسی (MNIST) را در نظر گیرید، چند نمونه از داده‌ها را همراه با برچسب آن نمایش دهید.

منحنی تابع خطا در مرحله‌ی آموزش را رسم کنید. با توجه به تابع خطا آیا داده‌های مورد استفاده برای آموزش این شبکه کافیست؟ دقت شبکه به ازای کلاس‌های مختلف در مرحله‌ی تست چند درصد است؟

به شبکه‌ی پیاده‌سازی شده در فایل ضمیمه‌ی تمرین، اگر مقدار خطای Categorical Cross Entropy را اضافه کرده تا برای هر اجرای آموزش این مقدار محاسبه شود.
 الف) منحنی خطا در مرحله آموزش را نشان دهید. 

  مقدار واقعی،   مقدار پیش‌بینی شده.  تعداد کلاس‌ها
ب) با توجه به منحنی خطا آیا عملکرد شبکه نسبت به قبل تغییری کرد؟ توضیح دهید.

با تغییر دادن مقادیر مربوط به تعداد داده‌های آموزش و ارزیابی، تعداد اجرا و تعداد نورون‌های لایه‌ی میانی، شبکه را Underfit  (کم برازش) کنید و نمودار مربوط به آن را همراه با مقادیر مشخص شده گزارش کنید. نمودار مربوط به مقدار خطا و مقدار دقت رسم شود.

یک لایه‌ی دیگر به شبکه اضافه کنید و با استفاده از لایه‌ی میانی جدید و پارامترهای سوال قبل شبکه را  Overfit (بیش برازش) کنید.
توجه: برای اضافه کردن یک لایه‌ی دیگر باید مقدار گرادیان برای پارامتر‌های آن محاسبه شود. از کد زیر برای محاسبه‌ی گرادیان‌های لایه‌ی میانی استفاده کنید.
dZ3 = A3 - one_hot_Y
dW3 = 1 / m * dZ3.dot(A2.T)
db3 = 1 / m * np.sum(dZ3)
dZ2 = W3.T.dot(dZ3) * ReLU_deriv(Z2)
dW2 = 1 / m * dZ2.dot(A1.T)
db2 = 1 / m * np.sum(dZ2)
dZ1 = W2.T.dot(dZ2) * ReLU_deriv(Z1)
dW1 = 1 / m * dZ1.dot(X.T)
db1 = 1 / m * np.sum(dZ1)

دلایل بیش‌برازش و کم‌برازش و راه‌های مقابله با آن‌ها را بنویسید و از آن برای پیدا کردن مقادیر بهینه استفاده کنید.

با پارامترهای بهینه، برای آموزش از چند نرخ یادگیری استفاده کنید و نمودار دقت و خطا را رسم کنید ( برای مثال در ۵۰۰ اجرای اول ، ۵۰۰ اجرای دوم  و ۵۰۰ اجرای سوم ).

با توجه به آن‌که سرعت همگرایی شبکه ( آموزش شبکه) به تابع خطا در مرحله‌ی آموزش وابسته است، آموزش شبکه‌ای که در اختیار شما قرار گرفت را به گونه‌ای تغییر دهید که به ازای n تکرار از تابع خطای E1 و در ادامه از تابع خطای E2 استفاده کند به‌گونه‌ای که عملکرد شبکه در مرحله‌ی آموزش تغییر قابل توجهی از خود نشان دهد.

نشان دهید که ترتیب اعمال داده در مرحله آموزش در سرعت یادگیری موثر است. (نمره‌ی امتیازی)

مهارت ها و تخصص های مورد نیاز

درباره کارفرما

کاربر513074

عضویت دو سال پیش

1 پروژه ثبت شده ،

0 پروژه در حال انجام ،

0 پروژه آماده دریافت پیشنهاد ،

نرخ پذیرش پیشنهاد 0%