انتخاب ویژگی ها بصورت بهینه در طبقه بندی متون در الگوریتم نایو بیز

به منظور تسریع فرایند یادگیری کلاسیفایر ها و کاهش اندازه ویژگی ها، انتخاب اتوماتیک ویژگی ها حائز اهمیت بالایی می باشد. در این مقاله روشی جدید و کارا بر اساس نظریه اطلاعاتی به منظور انتخاب ویژگی ها ارائه شده است که سعی بر این دارد ویژگی ها را بر اساس میزان اهمیت و مقدار تمایز گزاری بین کلاس ها رتبه بندی نماید. در ابتدا دو شاخص Kullback-Leibler divergence و Jeffreys divergence را بررسی خواهیم کرد و میزان نتیجه را بر روی خطاهای نوع اول و نوع دوم کلاسیفایر میسنجیم، سپس معیار تمایز جدیدی به نام JMH-divergence برای سنجش میزان تمایز گزاری روی توزیع های چند کلاسه معرفی خواهیم نمود. در این مقاله دو روش موجود انتخاب ویژگی MD و MD-X2 را توسعه خواهیم داد. نتایج بدست آمده بیانگر کارایی روشهای ارائه شده می باشد.

Keywords:

انتخاب ویژگی ها , طبقه بندی متون , تمایز گزاری بین کلاس های انتخابی , بهبود انتخاب ویژگی ها , الگوریتم نایوبیز