برای شما بازدید کننده محترم این مقاله کامل را تهیه کرده ایم.

روش های استخراج ویژگی و روش های خطی و غیر خطی دسته بندی 17 ص

قسمتی از متن :

‏Dec. 28

‏Feature Extraction

17

Islamic Azad University of Mashhad

Faculty of Engineering

Department of Computer Engineering-Artificial Intelligence

‏

Pattern Recognition

Fifth Report

Feature Extraction

‏

Presenter:

Seyed Majid Ghafouri

Majid.Ghafouri@Gmail.com

Supervisor:

Dr. Rahati

1386/11/4

‏Dec. 28

‏Feature Extraction

2

‏1) ‏چکیده:

‏ ‏در این تمرین‏ روش‏ ‏های استخراج ویژگی و‏ ‏روش‏ ‏های خطی و غیر خطی‏ دسته‏ ‏بندی‏ ‏را مورد مطالعه قرار می‌دهیم‏.‏ ‏در ابتدا‏ روش‏ ‏های مختلف استخراج ویژگی که از آن جمله PCA‏، LDA‏، روش قاب بندی و چند روش دیگر هستند را و سپس برای ویژگی‏ ‏های استخراج شده از‏ ‏روش‏ ‏های‏ دسته‏ ‏بندی‏ خطی بیزین و SVM‏ خطی و سپس روش‏ ‏های غیر‏‌‏خطی RBF‏ ، MLP‏ و همچنین SVM‏ غیر‏‌‏خطی ‏بر‏ا‏ی‏ دسته‏ ‏بندی استفاده ‏ شده‏‌‏ ‏ا‏ست‏. ‏بسته ‏به ‏روش ‏شناسایی ‏بکار ‏گرفته ‏شده، ‏معمولا ‏ویژگی‏ ‏هاي ‏متفاوتی ‏از ‏دنباله ‏نقاط ‏استخراج ‏می ‏شود. ‏در ‏اکثر ‏روش ‏هاي ‏موجود‏ ‏استخراج ویژگی‏، ‏ویژگی‏ ‏ها ‏از ‏روي ‏مختصات ‏نقاط ‏نمونه‏ ‏برداري ‏شده ‏ورودي ‏استخراج ‏می‏ ‏شو‏ن‏د‏. از مجموعه ی ویژگی های استخراج شده معمولاً تعدادی مفید تر و موثرترند. ما برای تشخیص و انتخاب ویژگی های تاثیرگذارتر از یک الگوریتم ژنتیک استفاده کرده ایم.‏ ‏اما پس از استخراج و انتخاب‏ ویژگی‏ ‏ها‏ نوبت به دسته بندی می رسد.‏ در ابتدا از چند دسته بند خطی استفاده کرده ایم.‏ به راحتی می‏‌‏توان نشان داد که ناحیه‏‌‏های تصمیم‏‌‏گیری یک ماشین خطی محدودند‏ ‏و این محدودیت انعطاف‏‌‏پذیری و دقت دسته‏‌‏بند را کاهش می‏‌‏دهد. ‏مسایل بسیاری وجود دارد که توابع جداساز خطی برای داشتن حداقل خطا در آنها کافی نیستند.‏ علاوه بر این مرزهای تصمیم‏‌‏گیری که کلاسها را از یکدیگر تفکیک می‏‌‏کنند ممکن است همیشه خطی نباشند و پیچیدگی مرزها گاهی اوقات نیاز به استفاده از سطح‏‌‏های کاملاً غیر خطی‏ را ‏دارند.‏ ‏بنابراین در ادامه ی کار از چند دسته بند غیرخطی نیز استفاده نمودیم. ‏در استفاده از شبکه‏‌‏های عصبی چندلایه، شکل غیر خطی بودن از مجموعه‏‌‏ی آموزش فرا گرفته می‏‌‏شود. در روشهای RBF ‏ و SVM‏ غیرخطی مشکل‏ اصلی انتخاب توابع‏ هسته‏ غیر خطی مناسب است.

‏2) مقدمه

‏ ‏ ‏اولین الگوریتم دسته‌بندی در سال 1936 توسط Fisher‏ ارایه شد و معیارهای آن برای بهینه بودن، کم کردن خطای دسته‌بندی کننده‌های الگو‌های آموزشی بود. بسیاری از استراتژی‌های موجود نیز از همین روش پیروی می‌کنند. ‏در ساده‏‌‏ترین شکل ممکن‏،‏ دسته بند‏‌‏های خطی می‌توانند دو دسته‌ی متفاوت را تفکیک کنند‏.‏ با توجه به این موضوع مساله‌ای را جدایی‌پذیر خطی می‌نامند که با یک ابرصفحه بتوان محدوده‌ی تصمیم را به ‏دو ‏گروه تقسیم‏‌‏بندی کرد. در عمل می‏‌‏توان دسته بند‌های خطی‌ای را طراحی کرد که بیش از دو گروه را از هم تفکیک کنند. این عمل را با‏ ‏تنظیم محدوده‌های تصمیم متعدد و آزمون‌های چندگانه بر اساس شرایط موجود می‌توان انجام داد. ما در این مساله یک دسته بندی با 26 کلاس را داریم.

‏ ‏ ‏در روش بیزین احتمال شرطی تعلق بررسی می‌شود‏. به این ترتیب که الگوی مورد نظر به دسته‌ای تخصیص داده می‏‌شود که احتمال شرطی تعلق بردار مشخصه‌ی الگو به آن دسته ازتمام دسته‌های دیگر بیشتر باشد.‏ روش بیزین به طور کلی می تواند برای کارایی بسیار مطلوب بهینه شوند. این روش مزایای دیگری نیز دارد که استفاده‌ی از آن را توجیه می‌کند. این روش می‌تواند با چند فرض ساده در مورد داده‌ها کاملاً به شکل روشهای ساده‌ی خطی عمل کند، به علاوه این کار می‌تواند به گونه‌ای انجام شود که در پایان، مدل قطعی بدون هیچ گونه رجوع به آمار به دست آید. در روش بیزین مشکل کار تعریف احتمالات شرطی مورد نظر قاعده‌ی بیز است.‏

‏ ‏ یک محقق روسی به نام Vladimir Vapnik‏ در سال 1965 گام مهمی در طراحی دسته‌بندها برداشت [1]‏ و نظریه‌ی

تصاویری از چند صفحه نخست فایل :

توجه فرمایید بدلیل تهیه ی تصویر با نرم افزار های خارجی متن نمایش داده شده در تصاویر ممکن است دارای اشکالاتی در نمایش برخی حروف باشد که در فایل اصلی بدون مشکل است