日本搞逼视频_黄色一级片免费在线观看_色99久久_性明星video另类hd_欧美77_综合在线视频

國內(nèi)最全I(xiàn)T社區(qū)平臺(tái) 聯(lián)系我們 | 收藏本站
阿里云優(yōu)惠2
您當(dāng)前位置:首頁 > 服務(wù)器 > Storm基本原理

Storm基本原理

來源:程序員人生   發(fā)布時(shí)間:2015-03-10 08:07:17 閱讀次數(shù):3244次

原文地址:http://storm.apache.org/documentation/Rationale.html


過去的10年見證了數(shù)據(jù)處理領(lǐng)域的1次革命。MapReduce,Hadoop和其它相干的技術(shù)使得我們可以存儲(chǔ)與處理的數(shù)據(jù)到達(dá)了過去想都不敢想的量級(jí)。不幸的是,這些數(shù)據(jù)處理技術(shù)其實(shí)不能用于實(shí)時(shí)系統(tǒng)。本身這些技術(shù)也不是為了用于實(shí)時(shí)系統(tǒng)而生的。我們也沒有任何方式可以將Hadoop改造以用于實(shí)時(shí)系統(tǒng);實(shí)時(shí)數(shù)據(jù)處理與批處理截然不同。

但是大范圍實(shí)時(shí)數(shù)據(jù)處理的需求與日俱增,缺少1個(gè)“實(shí)時(shí)的Hadoop”已成為數(shù)據(jù)處理領(lǐng)域最大的缺憾。

Storm彌補(bǔ)了這個(gè)缺憾。

在Storm出現(xiàn)之前,通常你需要手工建立1個(gè)隊(duì)列節(jié)點(diǎn)與工作節(jié)點(diǎn)的網(wǎng)絡(luò)來進(jìn)行實(shí)時(shí)數(shù)據(jù)處理。工作節(jié)點(diǎn)處理隊(duì)列中的消息,更新數(shù)據(jù)庫,發(fā)送消息到另外一個(gè)隊(duì)列以進(jìn)行進(jìn)1步的處理。這樣的方式有許多問題:

  1. 編碼枯燥。你需要花費(fèi)很多時(shí)間去做配置,消息要發(fā)送到哪,怎樣部署隊(duì)列節(jié)點(diǎn),怎樣部署工作節(jié)點(diǎn)。而你真正關(guān)心的實(shí)時(shí)處理邏輯只占你代碼的1小部份。
  2. 系統(tǒng)脆弱。容錯(cuò)性太差,你需要自己去注意每個(gè)隊(duì)列節(jié)點(diǎn)和工作節(jié)點(diǎn)的狀態(tài)。
  3. 不容易擴(kuò)大。當(dāng)單個(gè)節(jié)點(diǎn)的消息吞吐量太高時(shí),你需要對(duì)消息進(jìn)行切分。對(duì)其他工作節(jié)點(diǎn)則需要進(jìn)行重新配置,這樣才能將消息發(fā)送給新的節(jié)點(diǎn)。其中引入的節(jié)點(diǎn)變更都有可能失敗。

雖然在處理大量消息時(shí),隊(duì)列節(jié)點(diǎn)與工作節(jié)點(diǎn)這樣的處理方式運(yùn)轉(zhuǎn)得不是太好,但消息處理無疑是實(shí)時(shí)計(jì)算的基本范式。問題是應(yīng)當(dāng)怎樣樣才能讓消息處理可以做到不丟數(shù)據(jù),可以處理超大范圍的數(shù)據(jù),并且可以很簡(jiǎn)單的來使用和運(yùn)維?

Storm可以解決這些問題。

Storm的重要性

Storm暴露了1系列的原語用于實(shí)時(shí)計(jì)算。就像MapReduce極大的簡(jiǎn)化了并行批處理程序的編寫,Storm的原語也極大的簡(jiǎn)化了并行實(shí)時(shí)計(jì)算程序的編寫。

Storm的關(guān)鍵特性:

  1. 使用處景非常廣泛。Storm可以用于處理消息,更新數(shù)據(jù)庫(流式處理),對(duì)數(shù)據(jù)流進(jìn)行連續(xù)查詢并將結(jié)果流式的返回給客戶端(連續(xù)計(jì)算),散布式RPC等等。少許的原語滿足了大量的使用需求。
  2. 擴(kuò)大性。Storm可以擴(kuò)大到每秒鐘可處理大量的消息。要擴(kuò)大1個(gè)拓?fù)洌阒恍枰砑訖C(jī)器并修改拓?fù)涞脑O(shè)置就能夠。作為例子,Storm的1個(gè)初始利用,在具有10個(gè)節(jié)點(diǎn)的集群上面,每秒鐘可以處理1,000,000條消息,其中還包括了每秒鐘幾百次的數(shù)據(jù)庫訪問。通過使用ZooKeeper,Storm的集群可以擴(kuò)大到1個(gè)更大的范圍。
  3. 可靠性。1個(gè)實(shí)時(shí)系統(tǒng)必須能夠保證所有的數(shù)據(jù)都被成功處理,如果沒法保證將會(huì)限制它的使用處景。Storm可以保證每條消息都被處理。這是Storm與其他系統(tǒng),比如S4,最大的不同。
  4. 魯棒性。Hadoop是出了名的難管理,而Storm不1樣。讓用戶盡量不費(fèi)力氣的來管理Storm集群是Storm項(xiàng)目的1個(gè)目標(biāo)。
  5. 容錯(cuò)性。當(dāng)計(jì)算進(jìn)程中產(chǎn)生了故障,如果有必要的話Storm會(huì)重新分配任務(wù)。Storm會(huì)確保計(jì)算任務(wù)1直進(jìn)行下去,除非你去終止它。
  6. 編程語言無關(guān)性。具有魯棒性與擴(kuò)大性的實(shí)時(shí)處理系統(tǒng)不應(yīng)當(dāng)局限在單1的平臺(tái)上。可使用任何的語言來定義Storm的拓?fù)溥壿嫼徒M件,這使得幾近所有人都可使用Storm。
生活不易,碼農(nóng)辛苦
如果您覺得本網(wǎng)站對(duì)您的學(xué)習(xí)有所幫助,可以手機(jī)掃描二維碼進(jìn)行捐贈(zèng)
程序員人生
------分隔線----------------------------
分享到:
------分隔線----------------------------
關(guān)閉
程序員人生
主站蜘蛛池模板: av网站入口 | 亚洲久久网| 国产一区二区三区精品在线观看 | 久久精品亚洲精品 | 欧美人交a欧美精品 | 精品国产麻豆 | 国产一区二区免费视频 | 久久久蜜桃av | 麻豆一级 | 日韩国产精品一区 | 68精品久久久久久欧美 | 亚洲免费国产视频 | 伊人精品| 亚洲午夜在线观看 | 精品9999 | 久久小草 | wwwxx国产 | 国产欧美精品一区二区色综合朱莉 | 国产精品久久久久久久午夜片 | 国产自产21区| 毛片毛片毛片毛片毛片毛片毛片毛片毛片毛片 | 亚洲精品97 | 日韩视频精品在线 | 成人看片 | 二区三区在线 | 国产免费一区 | 久久中文字幕一区二区 | 国产精品精品 | 久久精品国产精品 | 亚洲二区在线视频 | 国产理论一区二区三区 | 久久久免费精品 | 国产免费专区 | 成人区精品一区二区 | 中国黄色片网站 | 国产精品午夜一区 | 6080av| 91精品国产综合久久男男 | 金瓶狂野欧美性猛交xxxx | 日韩欧美在线免费观看视频 | 精品国产91 |