جنگل تصمیم تجمیعی از شبکه‌های RBF با رویکرد ترکیبی خوشه‌بندی ویژگی برای طبقه‌بندی داده‌های پُربعد

نویسندگان: Shadi Abpeykar، Mehdi Ghatee و Hadi Zare

منتشرشده در: Computational Statistics & Data Analysis، جلد 131، مارس 2019، صفحات 12–36.

چکیده:

طبقه‌بندی داده‌های پُربعد به‌دلیل نفرین ابعاد، بار محاسباتی سنگین و کاهش دقت الگوریتم‌ها چالش‌برانگیز است. برای کاهش این آثار، در پردازش از رویکردهای انتخاب ویژگی استفاده می‌شود که می‌توانند زیرمجموعه‌ای کارآمد از ویژگی‌ها را تعیین کنند. بااین‌حال، بیشتر این روش‌ها تنها به یک زیرمجموعه از ویژگی‌های غیرتکراری شامل بهترین ویژگی‌ها دست می‌یابند. به‌عنوان جایگزین، می‌توان از رویکردهای خوشه‌بندی برای یافتن پُراطلاعات‌ترین خوشه‌های ویژگی به‌جای تولید تنها یک زیرمجموعه استفاده کرد. روش موسوم به خوشه‌بندی ترکیبی ویژگی (HFC) می‌تواند دقت طبقه‌بندی را بیشینه کند و هم‌زمان میزان ویژگی‌های افزونه را در هر خوشه پایین نگه دارد. الگوهای هر خوشه به‌وسیلهٔ یک درخت عصبی طبقه‌بندی می‌شوند که در گره‌های خود از تابع پایهٔ شعاعی (RBF) استفاده می‌کند. در هر درخت عصبی، رویکردی سلسله‌مراتبی برای انتقال دانش وزن‌های سیناپسی از گرهٔ RBF والد به هر فرزند پیشنهاد می‌شود. برای تجمیع نتایج، یک شبکهٔ دروازه‌بان بر جنگلِ این درخت‌های عصبی اعمال می‌شود. با ارزیابی دقت طبقه‌بندی و پیچیدگی محاسباتی بر مجموعه‌داده‌های پُربعد می‌توان نشان داد که راهکار پیشنهادی از طبقه‌بندهای پیشرفته عملکرد بهتری داشته است. افزون بر این، پیچیدگی محاسباتی و همگرایی این روش به‌صورت نظری اثبات شده و تحلیل مقاومت آن در شرایط نویزی انجام می‌شود.

نکات برجسته

• پیشنهاد یک روش تجمیعی جدید برای طبقه‌بندی مجموعه‌داده‌های پُربعد در زمانی معقول.
• استفاده از روش HFC برای خوشه‌بندی ویژگی‌ها با بیشینه‌سازی دقت و کمینه‌سازی افزونگی، بر پایهٔ یک الگوریتم ژنتیک اصلاح‌شده.
• توسعهٔ جنگلی از درخت‌های عصبی با گره‌های RBF بر ویژگی‌های همهٔ خوشه‌ها.
• انتقال دانش وزن‌های سیناپسی RBF برای تسریع آموزش گره‌های RBF بعدی.
• ساخت یک شبکهٔ دروازه‌بان برای تجمیع نتایج درخت‌های عصبی و بهبود دقت.