183.17.231.* 2020-01-19 14:01:10 |
數據分析過程的主要活動由識別信息需求、收集數據、分析數據、評價并改進數據分析的**性組成。
數據倉庫的目的是構建面向分析的集成化數據環境,為企業提供決策支持(Decision Support)。數據倉庫本身并不“生產”任何數據,同時自身也不需要“消費”任何的數據,數據來源于外部,并且開放給外部應用,這也是為什么叫“倉庫”,而不叫“工廠”的原因。
01數據倉庫的特點
面向主題的,按照一定的主題進行組織,主題是指用戶使用數據倉庫進行決策時所關心的重點方面,后面會重點舉例說明。
數據倉庫是集成的,數據倉庫的數據有來自于分散的操作型數據,將所需數據從原來的數據中抽取出來,進行加工和集成之后,進入數據倉庫。
數據倉庫是不可更新的,數據倉庫主要是為決策分析供數據,所涉及的操作主要是數據的查詢;
02數據倉庫有如下要求
效率足夠高:數據倉庫的分析數據一般分為日、周、月、季、年等,可以看出,日為周期的數據要求的效率**。
數據質量:由于數據倉庫流程通常分為多個步驟,包括數據清洗,轉換,裝載等,那么由于臟數據會導致數據失真,就可能導致做出錯誤的決策。
可擴展性:主要體現在數據建模的合理性。
數據倉庫的基本架構主要包含的是數據流入流出的過程,可以分為三層——數據獲取、數據倉庫、數據應用:
數據分析必不可少之數據倉庫_大數據視頻_數據分析視頻_數據管理視頻_課課家
數據倉庫從各數據源獲取數據及在數據倉庫內的數據轉換和流動都可以認為是ETL(抽取Extra,轉化Transfer,裝載Load)的過程。ETL是數據倉庫的流水線,也可以認為是數據倉庫的血液,它維系著數據倉庫中數據的新陳代謝,而數據倉庫日常的管理和維護工作的大部分精力就是保持ETL的正常和穩定。
03數據倉庫
1.數據獲取
對于網站數據倉庫而言,點擊流日志是一塊主要的數據來源,它是網站分析的基礎數據;當然網站的數據庫數據也并不可少,其記錄這網站運營的數據及各種用戶操作的結果,其他是網站內外部可能其它各類對于公司決策有用的數據。
2.數據倉庫
2.1數據模型:
數據模型是抽象描述現實世界的一種工具和方法,是通過抽象的實體及實體之間聯系的形式,來表示現實世界中事務的相互關系的一種映射。在這里,數據模型表現的抽象的是實體和實體之間的關系,通過對實體和實體之間關系的定義和描述,來表達實際的業務中具體的業務關系。
數據倉庫模型是數據模型中針對特定的數據倉庫應用系統的一種特定的數據模型
通過上圖,我們能夠很容易的看出在整個數據倉庫的建模過程中,我們需要經歷一般四個過程:
業務建模:生成業務模型,主要解決業務層面的分解和程序化。
領域建模:生成領域模型,主要是對業務模型進行抽象處理,生成領域概念模型。
邏輯建模:生成邏輯模型,主要是將領域模型的概念實體以及實體之間的關系進行數據庫層次的邏輯化。
物理建模:生成物理模型,主要解決,邏輯模型針對不同關系型數據庫的物理化以及性能等一些具體的技術問題。
因此,在整個數據倉庫的模型的設計和架構中,既涉及到業務知識,也涉及到了具體的技術,我們既需要了解豐富的行業經驗,同時,也需要一定的信息技術來幫助我們實現我們的數據模型,最重要的是,我們還需要一個非常適用的方法論,來指導我們自己針對我們的業務進行抽象,處理,生成各個階段的模型。
2.2數據主題:
數據模型的建設,維度的選擇,是為了滿足數據主題的需求。數據主題通常就是業務需求的提煉。
2.3數據報表:
報表幾乎是每個數據倉庫的必不可少的一類數據應用,將聚合數據和多維分析數據展示到報表,提供了最為簡單和直觀的數據。
這里的數據匯總指的是基于特定需求的簡單匯總(基于多維數據的聚合體現在多維數據模型中),簡單匯總可以是網站的總Pageviews、Visits、Unique Visitors等匯總數據,也可以是Avg.time on page、Avg.time on site等平均數據,這些數據可以直接地展示于報表上。
2.4數據集市和開放API
數據集市(Data Mart),也叫數據市場,可以理解為字段非常多的寬表,比如銷售表,除了包含訂單和金額等必需的字段,還包含可能使用的產品信息集合、用戶信息集合、甚至銷售人員的信息,是數據倉庫的核心組成部分。
提升數據準確性:因為建立面向主題的數據表之后,不用再根據需求的不同,建立不同的結果表,自然發生錯誤的幾率會大大降低
提升效率:由于是面向主題的,所以需要的任何數據都可以從數據集市表直接簡單獲取。
開放API,指對外開放的查詢等接口。
數據質量中心:
元數據管理
元數據(meta Date),其實應該叫做解釋性數據,或者數據字典,即數據的數據。主要記錄數據倉庫中模型的定義、各層級間的映射關系、監控數據倉庫的數據狀態及ETL的任務運行狀態。一般會通過元數據資料庫(metadata Repository)來統一地存儲和管理元數據,其主要目的是使數據倉庫的設計、部署、操作和管理能達成協同和一致。
大數據分析必不可少之數據倉庫.中琛魔方大數據(www.zcmorefun.com)表示識別信息需求是確保數據分析過程**性的首要條件,可以為收集數據、分析數據提供清晰的目標。識別信息需求是管理者的職責管理者應根據決策和過程控制的需求,提出對信息的需求。就過程控制而言,管理者應識別需求要利用那些信息支持評審過程輸入、過程輸出、資源配置的合理性、過程活動的優化方案和過程異常變異的發現。 |