باشگاه دانشجویی کارشناسی ارشد دانشگاه امیرکبیر

درخت تصمیم

FCL

خوشه بندی فازی
با استفاده از روال های آموزشی یک سری قوانین را تشخیص می دهند

ژنتیک و شبکه عصبی درابتدا باید در یک بازه آموزشی Learn شوند و if then rule ها را بسازند

درخت تصمیم : فرض کنیم ماشینی طراحی کردیم که می خواهد سیب ها را از پرتقال ها
جدا کند بر اساس ۴ مشخصه ( قند – رنگ – سفتی – وزن چگالی)

از این چهار خصوصیت ، دو خصوصیت برتر را مشخص می کنیم ( بهره اطلاعاتی )

مثلا خصوصیت سفتی بهره اطلاعاتی بیشتری دارد

سپس خصوصیتی که بهره اطلاعاتی بعدی را دارد شاخه های بعدی را تشکیل می دهند

بر این اساس درخت ایجاد شده بدست می آید

حالا بر اساس برگ های درخت Rule ها ایجاد شده اند

احتمال درست بودن هریک از برگ ها به صورت فازی مشخص می شوند

حالا که بر اساس داده های Train درخت تصمیم را ساختیم
مرحله بعدی داده های Test را به آن می دهیم

ممکن است بعضی از اطلاعات به صورت Crisp باشد و برخی دیگر به صورت Fuzzy

– اگر تعداد خصوصیت ها زیاد باشد درخت تصمیم خیلی بزرگ می شود

از تکنیک های هرس باید استفاده کنیم
و یا راهکار feature Selection استفاده می کنیم

—————-
برای تمرین یک سری داده بیاورد که از روی آن درخت تصمیم بسازیم

—————–
انواع درخت های تصمیم خیلی زیاد هستند ( C4 , C5 , Kart, ID3

در اینجا از درخت تصمیم نوع FID3 استفاده می کنیم

هرخصوصیت را A1 تا An می گیریم
هر خصوصیت می تواند چند تا مقدار داشته باشد A1mو A2m و A3m

بهره اطلاعاتی با از A1 تا An می سنجیم (می توان با استفاده از آنتروپی شانون بهره اطلاعاتی را سنجید)
و همچنین با روش زیر : کاردینالیتی مجموعه های فازی – که کل مقادیر تعلق را با هم جمع می کنیم )

به ازای هر کلاس Ti را تعریف می کنیم که به آن می گوییم اطلاعات ترکیبی تکمیلی

Cardinality

بهره اطلاعاتی : میزان اطلاعاتی که با توجه به آن خصوصیت بدست می آید

در این جدول مثال ۴ خصوصیت داریم که
برای A1 سه حالت داریم
برای A2 سه حالت داریم
برای A3 دو حالت داریم
و برای A4 دو حالت داریم
برای خروجی B1 هم سه حالت داریم

در این جدول مثلا ۱۰۰۰ رکورد اطلاعات داریم که با ۳۰۰ تای آن درخت تصمیم را می سازیم ( شکل می دهیم ) و با ۴۰۰ تای آن تست می کنیم

ابتدا ریشه درخت را بر اساس خصوصیتی که بهره اطلاعاتی بیشتری دارد می سازیم
پس در اولین مرتبه بهره اطلاعاتی I(B|A1) و I(B|A2) و I(B|A3) و I(B|A4) را محاسبه می کنیم

ماکزیمم آن ها را به عنوان ریشه درخت در نظر میگیریم
هرس :
می توانیم شاخه های درخت را هرس کنیم
معیار هرس : اگر درصد یکی از کلاس ها یک مقداری کمتری بود( minimum support ) دیگر آن شاخه را ادامه نمی دهیم

اگر بدون هرس کردن بخواهیم درخت تصمیم را بسازیم خیلی بزرگ می شود

هر چقدر بخواهیم دقیق تر باشد بتا را بیشتر می کنیم
اگر فرکانسی جواب با f نمایش می دهیم کمتر از ۰/۲۵ باشد ادامه نمی دهیم

گفتیم که به ازای تک تک برگ های درخت تصمیم قانون بوجود می آید
در این درخت مثال ۲۷ قانون بدست آوردیم

شیوه بدست آوردن Bi را اینجا آورده شده است

خلاصه درس مبانی محاسبات نرم – ۹۳/۰۲/۲۷

فصل۱۱ :
Fusion of Fuzzy system

نرون های تک یاخته ای
ارتباط بین نرون ها شکل های مختلفی را تشکیل میدهد

رفتار تابعی داخل نرون ها قابل بررسی هستند
خروجی های شبکه عصبی می توانند با خروجی قابل انتظار برابر باشد

شبکه عصبی MLP Multilayer Percpetron

شبکه های عصبی می تواند تمام الگو ها را شناسایی کند

اسلاید ۱۳ Convergence problem
اسلاید ۱۴ و ۱۵
امکان پیاده سازی شبکه های عصبی با متلب

اسلاید ۱۸ :
ارتباط شبکه عصبی با منطق فازی
– شبکه عصبی امکان یادگیری دارد ولی منطق فازی امکان یادگیری ندارد
– با استفاده از شبکه عصبی یک سری ار دانش هایی که کامل مشخص
نیست امکان represent را به ما می دهد
شبکه های عصبی شکل لغت های زبانی می توانند به خودشان بگیرند
شبکه های فازی امکان یادگیری را ندارد
Fuzzy Network= Fusion
۱) یک فازی سیستم را با مجموعه شبکه عصبی supervised ترکیب
می کنیم
۲) شبکه های عصبی را با استفاده از فازی می سازیم
۳)درجه عضویت های فازی را می توانیم با شبکه های عصبی شناسایی کنیم
۴) فازی سیستم ها را می توانیم پشت سر هم بیاوریم
—————————————————-
Neural Fuzzy
معمولا ترکیبی از خصوصیات شبکه عصبی و فازی سیستم است

یک سری نود نیاز داریم که زبان فازی را بتوانند ترجمه کنند
پس input variable ها را به صورت شبکه عصبی تعریف می کنیم
linguestic term ها را به عنوان ورودی داریم

اسلاید ۲۴ :
در لایه L1 نرون های شبکه عصبی را داریم

اسلاید ۲۵ : پیک سیستم neural Fuzzy معروف در لایه اول همه
Acivation ها خطی هست
و در لایه دوم lingustic term داریم
در لایه سوم – درباره مقدم ها کار می کنیم ، از قوانینی که برای یکپارچه
سازی قوانین فازی داشتیم استفاده می کنیم

در این حالت وزن های سیناپسی بین مرحله دوم و سوم را مقایسه می
توانیم بکنیم
در لایه چهارم – بخش تالی با توجه به ورودی های فازی ، خروجی را می
توانیم
در لایه پنجم هم می توانیم defuzzification انجام دهیم

————————-
آموزش درشبکه های neuro fuzzy
با استفاده از ابزار های مختلف ، فرم خطا را محاسبه می کنیم

تفاوت بین مرکز ها و تفاوت بین پهنه چپ
نوع اول : اگر بتوانیم به صورت حقیقی مقدار استفاده کنیم ارتوابع خطی
می توانیم استفاده کنیم

نوع دوم : تشخیص توپولوژی های شبکه عصبی که با منطق فازی پیاده
سازی می کنیم ( مثلا چند تا نرون لازم داریم )

اسلاید ۳۴ : شبکه عصبی های در هم تنیده داریم

fuzzy classifier های مناسب کدام هستند ؟
fuzzy rule ها
.
.
.

اسلاید ۳۷ :
مجموعه دیتای تست
سومین نوع :
شبکه هایی که بتوانین membership function را خوب تعریف کنیم

گام اساسی :
دلتا ها با توجه به خصوصیت فازی بودن آنها تقسیم بندی آنها هم فازی
هست
در هر بخش یک شبکه عصبی به کار برده می شود تا بتواند rule های آن
بخش را داشته باشد

یک شبکه عصبی ۳ لایه می تواند تمام neural fuzzy ها را پیاده سازی
کند
——————–
اسلاید ۴۷ :
آخرین نوع Fusion با استفاده از شبکه عصبی ، سیستم فازی را ارزیابی
کنیم

structure of the emulator

FLC
– ورودی ها defuzzification interface
– خروجی ها
قوانین کنترلی
—————
اینترفیس فازی گشایی
– Mean of Maximum Method ( MOM)
– Center of Area Method (COA) ترکیب درجه عضویت ها
مساحت محصور بین …
– Bisector of Area ( BOA)
اگر هردو مساحت سفید و مشکی برابر باشد z0 مساوی می شود

برخی زمان ها ممکن است به صورت زمان پرتی سیستم باشد
که از lookup table ها استفاده می کنیم

control Variable ها در یک ستون جدول و input Variable
ها در ستون دیگر می گذاریم

طراحی پروسیژر فازی کنترل های منطقی FLC

۱- determination of state variables and Control
Variables
۲- determination of interface method
۳- روش های مختلفی را می توانیم پیاده سازی کنیم
۴- گسسته سازی و یا پیوسته سازی بهتر است ؟
۵- بخش بندی فضای متغیر ها
۶- شکل توابع فازی ، نوع اعداد فازی مهم هستند
۷- روی پایگاه دانش چه قوانینی را پیاده سازی کرده ایم
۸- استراتژی های مختلفی را می توانیم مشخص کنیم
۹ – با هر سیستم کنترلی احتیاج به تست دارد
۱۰- ساخت lookup table از خروجی های متغیرهای کنترل

Fuzzy Expert Systems

می تواند دانش بشری را در غالب فازی به خدمت بگیرد

Knowledge Base
Input interface
output Interface

ماژول Schaduler – بر اساس ارتباظ

تفاوت FLC با FXS
فازی کنترل ها به زبان سیستم ها نزدیکند
fuzzy expert system به زبان انسان نزدیکند و کنترل مرکزی
داریم

اسلاید ۲۸ :
تشابه FLC با FXS
در هر دو
موتور استنتاج
پایگاه دانش وجود دارد….

Interface Engine ( Decision Making Logic )

در حوزه اسنتتاج تمرکز بر این است که بتوانند در حوزه ورودی ها
بتوانند ارزیابی کنند و بهترین تصمیم را اتخاذ کنند

اسلاید ۳۱ :
Linguistic Approximation
اسلاید ۳۲:
Scheduler
مدیریت و کنترل همه فرایند ها را انجام میدهد
تعداد بسیار زیادی ممکن است rule داشته باشیم که هر کدام در جایگاه خودشان اهمیت پیدا می کند که این کار Scheduler است

پروژه خودتان را بر اساس fuzzy expert system معرفی کنید