توسعه یک الگوریتم جانمایی بلاک ها در سیستم هادوپ ناهمگن با توجه به مشخصات نودها و نوع کارها

پیشرفت در فنآوری شبکه های رایانه ای و منابع محاسباتی در مقیاس بزرگ منجر به ایجاد خوشه های محاسباتی است که می توانندحجم زیادی از اطلاعات را در خود ذخیره و پردازش کنند. سیستم هادوپ، اجرا و تسهیم بسیاری از وظایف در یک مرکز داده مشترکرا فراهم می کند. هادوپ با فرض این مهم که تمام منابع پردازشی یکسان و وظایف داده های محلی دارند، سیاست خاصی در موردانتخاب گره اعمال نمی کند. در صورتی که اگر گره ها ناهمگن باشند، متوسط زمان اجرا از یک گره به گره دیگر متفاوت خواهد شد؛ بهویژه وقتی که داده محلی نباشد. در این تحقیق سعی شده است، تا هنگام تقسیم فایل ورودی به بلاک های داده ای یکسان توسط هادوپ،بلاک ها براساس میانگین وزنی گره ها، توزیع شود. و همچنین با دسته بندی گره ها و انتقال یک رونوشت به هر یک از این دسته ها علاوهبر متوسط زمان اجرا و محلی بودن، قابلیت اعتماد و توازن فضای خالی ذخیره سازی خوشه را در سیستم افزایش داد.

Keywords:

پردازش داده , نگاشت کاهش , خوشه ناهمگن , هادوپ , جانمایی بلاک