7.和歷史數(shù)據(jù)處理合二為一實(shí)時(shí)數(shù)據(jù)和歷史數(shù)據(jù)的處理要合二為一。實(shí)時(shí)數(shù)據(jù)在緩存里,歷史數(shù)據(jù)在持久化存儲(chǔ)介質(zhì)里,而且可能依據(jù)時(shí)長(zhǎng),保留在不同存儲(chǔ)介質(zhì)里。系統(tǒng)應(yīng)該隱藏背后的存儲(chǔ),給用戶和應(yīng)用呈現(xiàn)的是同一個(gè)接口和界面。無(wú)論是訪問(wèn)新采集的數(shù)據(jù)還是十年前的老數(shù)據(jù),除輸入的時(shí)間參數(shù)不同之外,其余應(yīng)該是一樣的。8.數(shù)據(jù)持續(xù)穩(wěn)定寫(xiě)入需要保證數(shù)據(jù)能持續(xù)穩(wěn)定寫(xiě)入。對(duì)于物聯(lián)網(wǎng)系統(tǒng),數(shù)據(jù)流量往往是平穩(wěn)的,因此數(shù)據(jù)寫(xiě)入所需要的資源往往是可以估算的。但是變化的是查詢、分析,特別是即席查詢,有可能耗費(fèi)很大的系統(tǒng)資源,不可控。因此系統(tǒng)必須保證分配足夠的資源以確保數(shù)據(jù)能夠?qū)懭胂到y(tǒng)而不被丟失。準(zhǔn)確的說(shuō),系統(tǒng)必須是一個(gè)寫(xiě)優(yōu)先系統(tǒng)。需要對(duì)數(shù)據(jù)支持靈活的多維度分析。重慶奧暢物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)監(jiān)測(cè)
高效分布式必須是高效的分布式系統(tǒng)。物聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)量巨大,*中國(guó)而言,就有5億多臺(tái)智能電表,每臺(tái)電表每隔15分鐘采集一次數(shù)據(jù),***全國(guó)智能電表就會(huì)產(chǎn)生500多億條記錄。這么大的數(shù)據(jù)量,任何一臺(tái)服務(wù)器都無(wú)能力處理,因此處理系統(tǒng)必須是分布式的,水平擴(kuò)展的。為降低成本,一個(gè)節(jié)點(diǎn)的處理性能必須是高效的,需要支持?jǐn)?shù)據(jù)的快速寫(xiě)入和快速查詢。2.實(shí)時(shí)處理必須是實(shí)時(shí)處理的系統(tǒng)。互聯(lián)網(wǎng)大數(shù)據(jù)處理,大家所熟悉的場(chǎng)景是用戶畫(huà)像、推薦系統(tǒng)、輿情分析等等,這些場(chǎng)景并不需要什么實(shí)時(shí)性,批處理即可。但是對(duì)于物聯(lián)網(wǎng)場(chǎng)景,需要基于采集的數(shù)據(jù)做實(shí)時(shí)預(yù)警、決策,延時(shí)要控制在秒級(jí)以內(nèi)。如果計(jì)算沒(méi)有實(shí)時(shí)性,物聯(lián)網(wǎng)的商業(yè)價(jià)值就大打折扣。北京智慧城市物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)報(bào)價(jià)價(jià)格***全國(guó)智能電表就會(huì)產(chǎn)生500多億條記錄。這么大的數(shù)據(jù)量,任何一臺(tái)服務(wù)器都無(wú)能力處理。
物聯(lián)網(wǎng)就是物物相連的互聯(lián)網(wǎng)。這有兩層意思:其一,物聯(lián)網(wǎng)的**和基礎(chǔ)仍然是互聯(lián)網(wǎng),是在互聯(lián)網(wǎng)基礎(chǔ)上的延伸和擴(kuò)展的網(wǎng)絡(luò);其二,其用戶端延伸和擴(kuò)展到了任何物品與物品之間,進(jìn)行信息交換和通信,也就是物物相息。物聯(lián)網(wǎng)通過(guò)智能感知、識(shí)別技術(shù)與普適計(jì)算等通信感知技術(shù),廣泛應(yīng)用于網(wǎng)絡(luò)的融合中,也因此被稱為繼計(jì)算機(jī)、互聯(lián)網(wǎng)之后世界信息產(chǎn)業(yè)發(fā)展的第三次浪潮。物聯(lián)網(wǎng)是互聯(lián)網(wǎng)的應(yīng)用拓展,與其說(shuō)物聯(lián)網(wǎng)是網(wǎng)絡(luò),不如說(shuō)物聯(lián)網(wǎng)是業(yè)務(wù)和應(yīng)用。因此,應(yīng)用創(chuàng)新是物聯(lián)網(wǎng)發(fā)展的**,以用戶體驗(yàn)為**的創(chuàng)新2.0是物聯(lián)網(wǎng)發(fā)展的靈魂。大數(shù)據(jù)(bigdata),指無(wú)法在一定時(shí)間范圍內(nèi)用常規(guī)軟件工具進(jìn)行捕捉、管理和處理的數(shù)據(jù)整合,是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長(zhǎng)率和多樣化的信息資產(chǎn)。
需要高效的緩存功能。絕大部分場(chǎng)景,都需要能快速獲取設(shè)備當(dāng)前狀態(tài)或其他信息,用以報(bào)警、大屏展示或其他。系統(tǒng)需要提供一高效機(jī)制,讓用戶可以獲取全部、或符合過(guò)濾條件的部分設(shè)備的***狀態(tài)。5.需要實(shí)時(shí)流式計(jì)算。各種實(shí)時(shí)預(yù)警或預(yù)測(cè)已經(jīng)不是簡(jiǎn)單的基于某一個(gè)閾值進(jìn)行,而是需要通過(guò)將一個(gè)或多個(gè)設(shè)備產(chǎn)生的數(shù)據(jù)流進(jìn)行實(shí)時(shí)聚合計(jì)算,不只是基于一個(gè)時(shí)間點(diǎn)、而是基于一個(gè)時(shí)間窗口進(jìn)行計(jì)算。不僅如此,計(jì)算的需求也相當(dāng)復(fù)雜,因場(chǎng)景而異,應(yīng)容許用戶自定義函數(shù)進(jìn)行計(jì)算。6.需要支持?jǐn)?shù)據(jù)訂閱。與通用大數(shù)據(jù)平臺(tái)比較一致,同一組數(shù)據(jù)往往有很多應(yīng)用都需要,因此系統(tǒng)應(yīng)該提供訂閱功能,只要有新的數(shù)據(jù)更新,就應(yīng)該實(shí)時(shí)提醒應(yīng)用。而且這個(gè)訂閱也應(yīng)該是個(gè)性化的,容許應(yīng)用設(shè)置過(guò)濾條件,比如只訂閱某個(gè)物理量五分鐘的平均值。準(zhǔn)確的說(shuō),系統(tǒng)必須是一個(gè)寫(xiě)優(yōu)先系統(tǒng)。
12.需要提供靈活的數(shù)據(jù)管理策略。一個(gè)大的系統(tǒng),采集的數(shù)據(jù)種類繁多,而且除采集的原始數(shù)據(jù)外,還有大量的衍生數(shù)據(jù)。這些數(shù)據(jù)各自有不同的特點(diǎn),有的采集頻次高,有的要求保留時(shí)間長(zhǎng),有的需要多個(gè)副本以保證更高的安全性,有的需要能快速訪問(wèn)。因此物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)必須提供多種策略,讓用戶可以根據(jù)特點(diǎn)進(jìn)行選擇和配置,而且各種策略并存。13.必須是開(kāi)放的。系統(tǒng)需要支持業(yè)界流行的標(biāo)準(zhǔn)SQL,提供各種語(yǔ)言開(kāi)發(fā)接口,包括C/C++,Java,Go,Python,RESTful等等,也需要支持Spark,R,Matlab等等,方便集成各種機(jī)器學(xué)習(xí)、人工智能算法或其他應(yīng)用,讓大數(shù)據(jù)處理平臺(tái)能夠不斷擴(kuò)展,而不是成為一個(gè)孤島。實(shí)時(shí)數(shù)據(jù)在緩存里,歷史數(shù)據(jù)在持久化存儲(chǔ)介質(zhì)里,而且可能依據(jù)時(shí)長(zhǎng),保留在不同存儲(chǔ)介質(zhì)里。溫州能源物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)哪家好
需要高效的緩存功能。絕大部分場(chǎng)景,都需要能快速獲取設(shè)備當(dāng)前狀態(tài)或其他信息,用以報(bào)警、大屏展示或其他。重慶奧暢物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)監(jiān)測(cè)
實(shí)時(shí)數(shù)據(jù)和歷史數(shù)據(jù)的處理要合二為一。實(shí)時(shí)數(shù)據(jù)在緩存里,歷史數(shù)據(jù)在持久化存儲(chǔ)介質(zhì)里,而且可能依據(jù)時(shí)長(zhǎng),保留在不同存儲(chǔ)介質(zhì)里。系統(tǒng)應(yīng)該隱藏背后的存儲(chǔ),給用戶和應(yīng)用呈現(xiàn)的是同一個(gè)接口和界面。無(wú)論是訪問(wèn)新采集的數(shù)據(jù)還是十年前的老數(shù)據(jù),除輸入的時(shí)間參數(shù)不同之外,其余應(yīng)該是一樣的。8.需要保證數(shù)據(jù)能持續(xù)穩(wěn)定寫(xiě)入。對(duì)于物聯(lián)網(wǎng)系統(tǒng),數(shù)據(jù)流量往往是平穩(wěn)的,因此數(shù)據(jù)寫(xiě)入所需要的資源往往是可以估算的。但是變化的是查詢、分析,特別是即席查詢,有可能耗費(fèi)很大的系統(tǒng)資源,不可控。因此系統(tǒng)必須保證分配足夠的資源以確保數(shù)據(jù)能夠?qū)懭胂到y(tǒng)而不被丟失。準(zhǔn)確的說(shuō),系統(tǒng)必須是一個(gè)寫(xiě)優(yōu)先系統(tǒng)。9.需要對(duì)數(shù)據(jù)支持靈活的多維度分析。對(duì)于聯(lián)網(wǎng)設(shè)備產(chǎn)生的數(shù)據(jù),需要進(jìn)行各種維度的統(tǒng)計(jì)分析,比如從設(shè)備所處的地域進(jìn)行分析,從設(shè)備的型號(hào)、供應(yīng)商進(jìn)行分析,從設(shè)備所使用的人員進(jìn)行分析等等。而且這些維度的分析是無(wú)法事先想好的,而是在實(shí)際運(yùn)營(yíng)過(guò)程中,根據(jù)業(yè)務(wù)發(fā)展的需求定下來(lái)的。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)需要一個(gè)靈活的機(jī)制增加某個(gè)維度的分析。重慶奧暢物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)監(jiān)測(cè)