古詩詞大全網 - 成語解釋 - 數據治理的介紹

數據治理的介紹

從技術實施角度看,數據治理主要包含“理”“采”“存”“管”“用”這五個,即業務和數據資源梳理、數據采集清洗、數據庫設計和存儲、數據管理、數據使用。

數據資源梳理:數據治理的第壹個步驟是從業務的視角厘清組織的數據資源環境和數據資源清單,包含組織機構、業務事項、信息系統,以及以數據庫、網頁、文件和 API 接口形式存在的數據項資源,本步驟的輸出物為分門別類的數據資源清單。

數據采集清洗:通過可視化的 ETL 工具(例如阿裏的 DataX,Pentaho Data Integration)將數據從來源端經過抽取 (extract)、轉換 (transform)、加載 (load) 至目的端的過程,目的是將散落和零亂的數據集中存儲起來。

基礎庫主題庫建設:壹般情況下,可以將數據分為基礎數據、業務主題數據和分析數據。基礎數據壹般指的是核心實體數據,或稱主數據,例如智慧城市中的人口、法人、地理信息、信用、電子證照等數據。主題數據壹般指的是某個業務主題數據,例如市場監督管理局的食品監管、質量監督檢查、企業綜合監管等數據。而分析數據指的是基於業務主題數據綜合分析而得的分析結果數據,例如市場監督管理局的企業綜合評價、產業區域分布、高危企業分布等。那麽基礎庫和主題庫的建設就是在對業務理解的基礎上,基於易存儲、易管理、易使用的原則抽像數據存儲結構,說白了,就是基於壹定的原則設計數據庫表結構,然後再根據數據資源清單設計數據采集清洗流程,將整潔幹凈的數據存儲到數據庫或數據倉庫中。

元數據管理:元數據管理是對基礎庫和主題庫中的數據項屬性的管理,同時,將數據項的業務含義與數據項進行了關聯,便於業務人員也能夠理解數據庫中的數據字段含義,並且,元數據是後面提到的自動化數據***享、數據交換和商業智能(BI)的基礎。需要註意的是,元數據管理壹般是對基礎庫和主題庫中(即核心數據資產)的數據項屬性的管理,而數據資源清單是對各類數據來源的數據項的管理。

血緣追蹤:數據被業務場景使用時,發現數據錯誤,數據治理團隊需要快速定位數據來源,修復數據錯誤。那麽數據治理團隊需要知道業務團隊的數據來自於哪個核心庫,核心庫的數據又來自於哪個數據源頭。我們的實踐是在元數據和數據資源清單之間建立關聯關系,且業務團隊使用的數據項由元數據組合配置而來,這樣,就建立了數據使用場景與數據源頭之間的血緣關系。 數據資源目錄:數據資源目錄壹般應用於數據***享的場景,例如政府部門之間的數據***享,數據資源目錄是基於業務場景和行業規範而創建,同時依托於元數據和基礎庫主題而實現自動化的數據申請和使用。

質量管理:數據價值的成功發掘必須依托於高質量的數據,唯有準確、完整、壹致的數據才有使用價值。因此,需要從多維度來分析數據的質量,例如:偏移量、非空檢查、值域檢查、規範性檢查、重復性檢查、關聯關系檢查、離群值檢查、波動檢查等等。需要註意的是,優秀的數據質量模型的設計必須依賴於對業務的深刻理解,在技術上也推薦使用大數據相關技術來保障檢測性能和降低對業務系統的性能影響,例如 Hadoop,MapReduce,HBase 等。

商業智能(BI):數據治理的目的是使用,對於壹個大型的數據倉庫來說,數據使用的場景和需求是多變的,那麽可以使用 BI 類的產品快速獲取需要的數據,並分析形成報表,像派可數據就屬於專業的BI廠商。

數據***享交換:數據***享包括組織內部和組織之間的數據***享,***享方式也分為庫表、文件和 API 接口三種***享方式,庫表***享比較直接粗暴,文件***享方式通過 ETL 工具做壹個反向的數據交換也就可以實現。我們比較推薦的是 API 接口***享方式,在這種方式下,能夠讓中心數據倉庫保留數據所有權,把數據使用權通過 API 接口的形式進行了轉移。API 接口***享可以使用 API 網關實現,常見的功能是自動化的接口生成、申請審核、限流、限並發、多用戶隔離、調用統計、調用審計、黑白名單、調用監控、質量監控等等。