Hadoop এ DistCp কি?
Hadoop এ DistCp কি?

ভিডিও: Hadoop এ DistCp কি?

ভিডিও: Hadoop এ DistCp কি?
ভিডিও: পেশা হিসেবে ডেটা সাইন্স বেছে নিলে কি কি যোগ্যতা থাকা দরকার? || Choosing Data Science as a Profession 2024, নভেম্বর
Anonim

DistCp (ডিস্ট্রিবিউটেড কপি) বৃহৎ আন্তঃ/ইন্ট্রা-ক্লাস্টার কপি করার জন্য ব্যবহৃত একটি টুল। এটি ব্যবহার করে মানচিত্র কমাতে এর বিতরণ, ত্রুটি পরিচালনা এবং পুনরুদ্ধার এবং রিপোর্টিংকে প্রভাবিত করতে। এটি ফাইল এবং ডিরেক্টরিগুলির একটি তালিকাকে ম্যাপ করার জন্য ইনপুটে প্রসারিত করে, যার প্রত্যেকটি উত্স তালিকায় নির্দিষ্ট করা ফাইলগুলির একটি পার্টিশন কপি করবে।

একইভাবে কেউ জিজ্ঞাসা করতে পারে, Discp কি ওভাররাইট করে?

আমি কিছু বিশদ বিবরণ এবং ব্যাখ্যা করা উচিত distcp - ওভাররাইট ইচ্ছাশক্তি ওভাররাইট ফাইলের আকার মেলে বা না হোক। এটি hdfs-nn2-এর সমস্ত ফাইল আপডেট করবে যা hdfs-nn1 থেকে আকারে মেলে না, সেইসাথে যেকোন বহিরাগত ফাইল মুছে ফেলবে।

একইভাবে, Hadoop FS কমান্ড কি? ফাইল সিস্টেম ( এফএস ) শেল বিভিন্ন শেল মত অন্তর্ভুক্ত আদেশ যে সরাসরি সঙ্গে যোগাযোগ হাডুপ বিতরণকৃত ফাইল সিস্টেম ( এইচডিএফএস ) সেইসাথে অন্যান্য ফাইল সিস্টেম যে হাডুপ সমর্থন করে, যেমন স্থানীয় এফএস , HFTP এফএস , S3 এফএস , এবং অন্যদের.

এইভাবে, আমি কীভাবে এক এইচডিএফ থেকে অন্য এইচডিএফে ডেটা স্থানান্তর করব?

হাডুপ fs cp - সবচেয়ে সহজ একটি থেকে ডেটা অনুলিপি করার উপায় উৎস ডিরেক্টরি থেকে অন্য . ব্যবহার হাডুপ fs -cp [উৎস] [গন্তব্য]। হাডুপ fs copyFromLocal - প্রয়োজন ডেটা অনুলিপি করুন স্থানীয় ফাইল সিস্টেম থেকে এইচডিএফএস ? ব্যবহার হাডুপ fs -copyFromLocal [উৎস] [গন্তব্য]।

আমি কিভাবে একটি ক্লাস্টার থেকে অন্য ক্লাস্টারে অনুলিপি করব?

ফাইল কপি করা হচ্ছে মধ্যে ক্লাস্টার . আপনি পারেন ফাইল কপি করুন বা বিভিন্ন মধ্যে ডিরেক্টরি ক্লাস্টার hadoop distcp কমান্ড ব্যবহার করে। আপনাকে অবশ্যই একটি শংসাপত্র অন্তর্ভুক্ত করতে হবে ফাইল আপনার মধ্যে অনুলিপি অনুরোধ তাই উৎস ক্লাস্টার আপনি উৎস থেকে প্রমাণীকৃত কিনা তা যাচাই করতে পারেন ক্লাস্টার এবং লক্ষ্য ক্লাস্টার.

প্রস্তাবিত: