روش ترکیب طبقه‌بند مبتنی بر الگوریتم ژنتیک چندهدفه با به‌کارگیری معیارهای خطای طبقه‌بندی، پراکندگی، گوناگونی و تراکم

نویسندگان

دانشگاه آزاد اسلامی - واحد شهرکرد - دانشکده فنی و مهندسی - گروه مهندسی کامپیوتر

چکیده

ترکیب طبقه‌بندها، یک روش مؤثر در یادگیری ماشینی است که در آن با ترکیب نتایج چند طبقه‌بند سعی می‌گردد تقریب بهتری از یک طبقه‌بند بهینه فراهم شود. برای آنکه ترکیب نتایج طبقه‌بندها مفید واقع شود باید طبقه‌بندهای پایه ضمن برخورداری از کارایی قابل قبول، دارای خطاهای متفاوتی باشند. همچنین بایستی قاعده مناسبی برای ترکیب خروجی طبقه‌بندهای پایه به کار گرفته شود. روش‌های متعدد ترکیب طبقه‌بندها ارائه شده است که می‌توان به روش‌های کیسه کردن، رأی‌گیری و روش تقویتی اشاره نمود. در این مقاله یک روش برای ترکیب نتایج طبقه‌بندها پیشنهاد شده است که در مرحله ترکیب طبقه‌بندهای پایه از جمع وزن‌دار خروجی طبقه‌بندها استفاده شده است. وزن‌ها با استفاده از الگوریتم ژنتیک چندهدفه با بهینه‌سازی هم‌زمان چهار معیارهای خطای طبقه‌بندی، پراکندگی، گوناگونی و تراکم تخمین زده می‌شوند. نتایج آزمایش‌ها روی مجموعه دادگان UCI نشان داد که روش پیشنهادی باعث افزایش دقت سیستم طبقه‌بندی ترکیبی نسبت به دیگر روش‌های متداول ترکیب می‌شود.

کلیدواژه‌ها


عنوان مقاله [English]

Multi Objective Genetic Algorithm Based Ensemble Classifier Using Classification Error, Sparsity, Diversity and Density Criterion

نویسندگان [English]

  • B. Zamani Dehkordi
  • Z. Nekouei
Department of Computer Engineering, Faculty of Engineering and Science, Shahrekord Branch, Islamic Azad University, Shahrekord, Iran
چکیده [English]

Ensemble classifier is an effective method in machine learning that attempted to provide a better approximation of an optimal classifier with combination of some classifiers results. To achieve better performance, the base classifiers should have acceptable efficiency and different classification error, also a suitable method used to combine their results. Various ensemble classification methods such as bagging, voting and strengthening methods have been presented. In this paper, we proposed the ensemble classifier based on weighted mean of the base classifiers output. The weights were estimated using a multi-objective genetic algorithm with taking classification error, sparsity, diversity and density criterion. The results of implementations on UCI datasets show that the proposed method causes more increasing classification accuracy related to other traditional ensemble classifiers.

کلیدواژه‌ها [English]

  • Ensemble classifier
  • multi-objective genetic algorithm
  • classification error
  • sparsity
  • diversity
  • Density