কী দ্বারা হ্রাস করা হয়?
কী দ্বারা হ্রাস করা হয়?

ভিডিও: কী দ্বারা হ্রাস করা হয়?

ভিডিও: কী দ্বারা হ্রাস করা হয়?
ভিডিও: কোন সংখ্যাকে নির্দিষ্ট অনুপাতে হ্রাস বা বৃদ্ধি করণ 2024, নভেম্বর
Anonim

স্পার্ক RDD reduceByKey ফাংশন প্রতিটির মান একত্রিত করে চাবি একটি সহযোগী ব্যবহার করে হ্রাস করা ফাংশন এর স্বজ্ঞাত অর্থ হল, উপাদানের ক্রম নির্বিশেষে একাধিক পার্টিশন সহ RDD ডেটার একই সেটে পুনরাবৃত্তিমূলকভাবে প্রয়োগ করা হলে এই ফাংশনটি একই ফলাফল দেয়।

তারপর, groupByKey এবং reduceByKey মধ্যে পার্থক্য কি?

groupByKey () শুধুমাত্র একটি কী এর উপর ভিত্তি করে আপনার ডেটাসেটকে গোষ্ঠীভুক্ত করতে হয়। reduceByKey () গ্রুপিং + একত্রিতকরণের মতো কিছু। reduceByKey আমরা যখন বড় ডেটা সেট চালাতে পারি তখন ব্যবহার করা যেতে পারে। aggregateByKey() যৌক্তিকভাবে একই reduceByKey () কিন্তু এটি আপনাকে ফলাফল ফেরাতে দেয় ভিন্ন টাইপ

এছাড়াও জেনে নিন, স্পার্ক এ কর্ম কমানো হয় কেন? স্পার্ক কমানো অপারেশন হল একটি কর্ম অপারেশন ধরনের এবং এটি সমস্ত লাইন আপ অলস নির্দেশাবলীর জন্য একটি সম্পূর্ণ DAG নির্বাহকে ট্রিগার করে। স্পার্ক আরডিডি হ্রাস করা ফাংশন নির্দিষ্ট কম্যুটেটিভ এবং অ্যাসোসিয়েটিভ বাইনারি অপারেটর ব্যবহার করে এই RDD-এর উপাদানগুলিকে হ্রাস করে। স্পার্ক কমানো অপারেশন প্রায় অনুরূপ হ্রাস করা স্কালায় পদ্ধতি।

উপরে, Pairrdd কি?

স্পার্ক কী/মান জোড়া ধারণকারী RDD-তে বিশেষ অপারেশন প্রদান করে। এই RDD গুলিকে পেয়ার RDD বলা হয়। পেয়ার RDDগুলি অনেক প্রোগ্রামে একটি দরকারী বিল্ডিং ব্লক, কারণ তারা এমন ক্রিয়াকলাপগুলিকে প্রকাশ করে যা আপনাকে প্রতিটি কী-তে সমান্তরালভাবে কাজ করতে বা নেটওয়ার্ক জুড়ে ডেটা পুনরায় গোষ্ঠীভুক্ত করতে দেয়। পেয়ারআরডিডি KEY/VALUE জোড়া।

reduceByKey একটি কর্ম?

reduce() একটি সংগ্রহকে আউটপুট করে যা নির্দেশিত অ্যাসাইক্লিক গ্রাফে (DAG) যোগ করে না তাই একটি হিসাবে প্রয়োগ করা হয় কর্ম . যাহোক, reduceByKey () একটি RDD ফেরত দেয় যা DAG-তে অন্য একটি স্তর/রাষ্ট্র, তাই একটি রূপান্তর।

প্রস্তাবিত: