2019-05-27 14:22:06 3067瀏覽
關于hadoop相信對大數據開發技術感興趣的小伙伴應該有所了解吧,本篇文章扣丁學堂大數據培訓小編給讀者們分享一下非大數據的項目能否用hadoop及其相關方面內容的解析,感興趣的小伙伴就隨小編來了解一下吧。
1、非大數據的項目能否用hadoop?
非大數據項目是否可以用Hadoop的關鍵問題在于是否有海量數據的存儲,計算,以及分析挖掘等需求,如果現有系統已經很好滿足當前需求那么就沒有必要使用Hadoop,沒有必要使用并不意味這不能使用Hadoop,很多傳統系統能做的Hadoop也是可以做的,例如使用HDFS來代替LINUXNFS,使用MapReduce來代替單服務器的統計分析相關任務,使用Hbase代替Mysql等關系數據庫等,在數據量不大的情況下通常Hadoop集群肯定比傳統系統消耗更多的資源。
2、hadoopmapreduce和第三方資源管理調度系統如何集成?
Hadoop的調度器設計的一個原則就是可插拔式調度器框架,因此是很容易和第三方調度器集成的,例如公平調度器FairScheduler和容量調度器CapacityScheduler,并配置mapred-site.xml的mapreduce.jobtracker.taskscheduler以及調度器本身的配置參數,例如公平調度器控制參數則需要編輯fair-scheduler.xml進行配置,同時可以進一步深入學習第9章Hadoop作業調度系統,在這一章中會詳細介紹各種第三方調度器以及使用配置方法。
最后想要了解更多關于大數據方面內容的小伙伴,請關注扣丁學堂大數據培訓官網、微信等平臺,扣丁學堂IT職業在線學習教育平臺為您提供權威的大數據視頻,大數據培訓后的前景無限,行業薪資和未來的發展會越來越好的,扣丁學堂老師精心推出的大數據在線視頻教程課定能讓你快速掌握大數據從入門到精通開發實戰技能。扣丁學堂大數據學習群:209080834。
【關注微信公眾號獲取更多學習資料】 【掃碼進入Python全棧開發免費公開課】