مقایسه ای بر رویکردهایی از یادگیری ماشین برای تشخیص رکوردهای تکراری در پایگاه داد ههای بزرگ

مسئله تشخیص داده های تکراری مشکلی است که در اغلب منابع داده وجود دارد. در انبار داده ها، که از پایگاه داده های مختلف و ناهمگن ایجاد می شود این مشکل حادتر می شود. با تشخیص رکورد تکراری ، کیفیت داده ها افزایش می یابد. بنابر این برای شناسایی تکرار، باید شباهت رکوردها محاسبه شود. روش های متفاوتی برای حذف داده های تکراری وجود دارد که در همه این روش ها، باید الگوریتمی وجود داشته باشد که تشخیص دهد دو یا چند رکورد، نمایش های تکراری از یک موجودیت می باشند. از این رو متدها و استراتژی های متفاوتی برای تخمین میزان شباهت بین فیلدها و رکوردها جهت فیلترینگ رکوردها مطرح شده است. در این مقاله برای مقایسه شباهت های متعدد، از رویکردهایی که بر روش های نظارت بر یادگیری ماشین برای تطبیق رکوردها تکیه دارند، استفاده می شود.با توجه به معیارهای ارزیابی تعریف شده، عملکرد تمامی الگوریتم های مذکور در یادگیری نظارتی و بدون نظارت بر روی مجموعه داده Cora مورد بررسی قرار گرفته است. با توجه به این که F-measure الگوریتم های یادگیری بدون نظارت دارای مقدار بالاتری هستند بنابر این الگوریتم های یادگیری بدون نظارت نسبت به الگوریتم های مذکور در یادگیری نظارتی دارای عملکرد بهتری می باشند. الگوریتم FDD با F-measure برابر 93/3 در بین تمامی الگوریتم های مذکور در هر دو یادگیری دارای بیشترین مقدار می باشد، بنابر این کارایی بهتری دارد.

Keywords:

تشابه فیلد , تطابق رکورد , تشخیص تکرارا , یادگیری نظارتی , یادگیری بدون نظارت , طبقه بندی svm