作者: 永洪BI??來源: 永洪科技??時間:2020年01月20日
在我們?nèi)粘V谱鲌蟊矸治鲞^程中,總會遇到各種問題。比如,報表底層數(shù)據(jù)日益增多、報表加載超慢,這些情況該怎么解決?
數(shù)據(jù)庫是最常見的能處理大數(shù)據(jù)的計算方案,而永洪能利用數(shù)據(jù)庫來完成數(shù)據(jù)計算。但是,有些報表的計算較為復雜,使用SQL實現(xiàn)會非常困難,這時,我們就會采用永洪報表呈現(xiàn)的直觀計算方式來完成數(shù)據(jù)的計算,這種方式導致后臺要直接處理大數(shù)據(jù),不僅性能低下,而且很容易造成報表加載時間過長。
今天這篇文章,主要介紹永洪數(shù)據(jù)集市數(shù)據(jù)集,這種方式提供強大、便捷的數(shù)據(jù)處理方式,用戶可以輕松應對大數(shù)據(jù)量場景下報表加載過慢的問題。
將查詢結果按天增量導入永洪集市并對集市文件按天打上索引,永洪報表在處理邏輯時只會掃描查詢?nèi)掌趦?nèi)的數(shù)據(jù)。
1、設置參數(shù)
創(chuàng)建一個名為TEST_YH的SQL數(shù)據(jù)集,在查詢條件中加上參數(shù)<etd_date_lm>,此參數(shù)為動態(tài)獲取昨日日期,后續(xù)會提到。
2、新建作業(yè)
在調(diào)度作業(yè)中新建任務,其中類型設置為:增量導入數(shù)據(jù),數(shù)據(jù)集為上一步創(chuàng)建的TEST_YH的SQL數(shù)據(jù)集,文件夾為存放文件的名稱,最后我們選擇追加數(shù)據(jù)。
在任務最下方的腳本中設置可以動態(tài)獲取昨天日期的參數(shù)<etd_date_lm>參數(shù),setMeta("search_data_index",formatDate(a,"yyyy-MM-dd")) 是用來給數(shù)據(jù)集市文件設定屬性的,在數(shù)據(jù)集市數(shù)據(jù)集中可通過過濾條件查看這個屬性。
file = formatDate(a,"yyyy-MM-dd") 是創(chuàng)建一個數(shù)據(jù)集市文件的文件名。
3、生成文件
在調(diào)度任務中運行此作業(yè),就可以生成文件了。
我們還可以進一步在管理系統(tǒng)下監(jiān)控預警中的數(shù)據(jù)集市文件信息統(tǒng)計中進一步查看上一步生成的文件。
4、讀取數(shù)據(jù)
創(chuàng)建數(shù)據(jù)集市數(shù)據(jù)集,在文件夾中選擇之前生成的文件,文件過濾中根據(jù)需求選擇前臺傳遞的時間參數(shù)。
以上就是關于永洪數(shù)據(jù)集市數(shù)據(jù)集的使用介紹,永洪科技強大的產(chǎn)品功能,可以輕松應對大數(shù)據(jù)量下的報表使用。關于產(chǎn)品使用有什么問題,可在永洪服務平臺進行咨詢或在社區(qū)論壇進行相關搜索與提問。
?