فرمولاسیون ماکزیمم واریانس
بحث PCA
و بحث Kernel
ورودی مساله : N تا داد ها ی D بعدی
یک زیر فضا را می خواهیم بدست بیاوریم که بعد داده های جدید از بعد داده های اصلی
کمتر باشد.
پراکندگی داده های تصویر شده حداگثر شود
Max ( Variance )
بردار U فقط جهتش مهم بود
برای تصویر داده روی بردار ، داده را در بردار ضرب می کنیم
اگر اندازه یک برداری بزرگ باشد ، داده را که ضرب میکنیم مقدار بزرگتری بدست می آید
اگر فضای تصویر M بعدی را در نظر بگیریم
تصویر خطی بهینه ای که برای آن واریانس داده های تصویر شده بیشینه شود.
————————————————
Kernel Method
ابزار خیلی پر کاربرد در مسایل غیر خطی
در مساله که داده ها در فضا قرار گرفته اند که با یک خط نمی توانیم جدا کنیم
مثل دو تا شکل ماه که ترکیب شده اند
از یک سری منحنی های غیر خطی باید استفاده کنیم که Kernel این امکان را فراهم
میکند
Kernel داده ها را به فضایی با بعد بالاتر تصویر می کند (فضای وِیژگی)
Motivations – Kernet Definiation – Mercer’s Theorem – Kernel Matrix – Kernel
Construction
یکسری Classifier خطی داریم ، یکسری Label داریم
کلاس ضربدر و کلاس دایره
شکل سمت چپ کلاس اولیه است
اگر خطی جدا می شد روش های SVM می شد استفاده کرد
به دنبال راهی می گردیم که به صورت خطی بتوانیم جدا کنیم
داده ها را از فضای ۲ بعدی به فضای ۳ بعدی تبدیل می کنیم
روش شکل تبدیل یافته سمت راست می توانیم classifier خطی بزنیم
فضای توسعه یافته را فی می گوییم
اگر بتوانیم دو تا فی را پشت سر هم بنویسیم به جایش می توانیم تابع کرنل را جایگزین کنیم
جلسه حضوری پنج شنبه ۷ آذر
مهلت تمرین تا جمعه ۸ آذر