世界對(duì)數據湖的興趣依然在不斷增長,但如(rú)果說對(duì)數據湖的宣傳都是煙霧彈的話,這就(jiù)貶低了數據湖真正的能(néng)力。“數據倉庫”和“大數據”等概念都逐漸深入人心,但“數據湖”仍然是讓IT和業務相關者頭疼的一件事(shì)情。
随着(zhe/zhuó/zhāo/zháo)人們對(duì)于(yú)數據湖的清晰定義、使用(yòng)案例、最佳實踐等信息的需求不斷增長,IT專業人士需要(yào / yāo)一則明确的數據湖指南,回答以下(xià)問題:數據湖是什麽?我們應該如(rú)何利用(yòng)它?數據湖又将如(rú)何改變大數據呢?
1.定義及觀點
數據湖成爲了核心數據架構中發(fā/fà)展得(dé / de / děi)很快的一環,但IT專業人士常有疑惑,數據湖究竟是一個架構策略還是架構的目标呢?實際上并沒有清晰的界限,但仍然有方法來解決定義的問題。數據湖是一個中央儲存庫,爲多種數據工作負載儲存企業數據;通過(guò)數據湖,終端架構可(kě)以得(dé / de / děi)到解決,同時數據結構相關的決策也是建立數據湖時的關鍵。 數據湖被越來越多的采用(yòng),而(ér)它的實施分爲四個關鍵的階段:
技術評估。通過(guò)進行(háng / xíng)大數據實驗項目,關注幾個特定的業務目标和成果,數據湖的使用(yòng)者可(kě)以對(duì)這項技術進行(háng / xíng)測試,并熟悉Apache Hadoop環境的管理。
做出反應。在這個階段,各公司開始利用(yòng)Hadoop來解決現有架構的低效率問題,确立清晰可(kě)測的業務機會(huì)。此外,這個采納過(guò)程對(duì)于(yú)IT效率的提高也是非常關鍵的。
主動利用(yòng)。通過(guò)爲分析項目合并數據以及利用(yòng)Hadoop獲得(dé / de / děi)經濟的可(kě)拓展性這兩種手段,各公司可(kě)以在一個單一的中央存儲中管理大量新出現的數據源,例如(rú)物聯網、社交媒體和非結構化的數據。
建立核心競争力。随着(zhe/zhuó/zhāo/zháo)大數據成爲IT戰略的核心組成部分,各公司最終能(néng)夠達到發(fā/fà)展的高峰,消除所(suǒ)有業務應用(yòng)和分析應用(yòng)之間的隔閡,重新建立一個單一的企業平台。
2.數據湖的組織
得(dé / de / děi)益于(yú)Hadoop的靈活性和可(kě)拓展性,我們今天(tiān)能(néng)夠保存、分類、探索并利用(yòng)的數據類型比以往任何時候都要(yào / yāo)多。但避免數據湖成爲數據沼澤的關鍵在于(yú)數據治理,數據的組織和安全性也是決定數據探索成敗的關鍵。一個清晰而(ér)有條理的數據組織(通常是按類目或者按數據用(yòng)法劃分)能(néng)夠幫助Hadoop工程師建立更加完善的技術決策,幫助分析師和數據科學家(jiā)從數據中獲取真正的洞察。
對(duì)于(yú)企業BI需求、數據探索和數據科學的支持是推動數據湖部署的主要(yào / yāo)因素,這三項技術能(néng)将原始數據用(yòng)于(yú)機器學習算法和統計功能(néng)。因爲敏捷方法學爲企業級 BI提供了自(zì)适應途徑,數據湖就(jiù)能(néng)夠落實更多具體的企業業務、性能(néng)指标和度量權值,同時可(kě)用(yòng)于(yú)儲存曆史數據。 充滿競争的商業環境讓人目不暇接,各公司必須認識到探索技術的關鍵作用(yòng),并認識到解答未知的重要(yào / yāo)性。這刺激了我們的需要(yào / yāo),要(yào / yāo)把數據直接用(yòng)于(yú)分析技術,産生(shēng)意義重大的洞察、爲企業創造附加價值。
要(yào / yāo)幫助企業從他們的數據湖中實現最大化效益,就(jiù)必須要(yào / yāo)考慮以下(xià)幾個要(yào / yāo)素:
從長遠角度考慮數據。在開始一個數據項目時,必須仔細考慮數據在今後(hòu)其(qí)他應用(yòng)中的可(kě)重用(yòng)性。要(yào / yāo)明白未來新産生(shēng)的數據需求往往是不可(kě)預知的,了解這一點後(hòu)公司就(jiù)可(kě)以更好地相應準備并利用(yòng)起他們的數據。
先确立數據治理結構。數據治理被應用(yòng)在了整個企業的數據和信息政策當中,所(suǒ)以在考慮數據湖時也不應該例外。數據治理規範了企業中的每個人對(duì)數據湖的使用(yòng),并最小化了發(fā/fà)生(shēng)錯誤和不當數據管理的可(kě)能(néng)性。
預先解決安全問題。以數據爲中心的安全保護提供了從整個數據的生(shēng)命周期來看數據的宏大視角,此處的關鍵要(yào / yāo)素就(jiù)是從第一天(tiān)開始就(jiù)正視安全問題,确立好哪些數據可(kě)以引入數據湖,并爲數據湖中的各類數據制定使用(yòng)權限
盡管數據湖在大數據領域還是一個比較新的詞彙,但它已經成爲了企業級IT架構和整體數據戰略的重要(yào / yāo)部分。數據湖戰略擁有合理的架構,能(néng)夠和數據科學以及成本低廉、擁有商業基礎的機器學習分析完美結合。對(duì)于(yú)數據湖核心概念的了解能(néng)夠幫助企業更好地利用(yòng)并保護自(zì)己的數據,同時提高通過(guò)數據進行(háng / xíng)探索的能(néng)力。