發(fā)布時間:2022-11-08
欄目:電商資訊
利用MaxComputeInformationSchema與阿里云交易和賬單治理API實現(xiàn)MaxCompute費用對賬分攤統(tǒng)計
很多的企業(yè)用戶選擇MaxCompute按量付費模式構(gòu)建自己的數(shù)據(jù)平臺,利用MaxCompute按作業(yè)付費的計費模型促進進步,在獲得高性能的同時避免"IDLE"狀態(tài)的不必要資源費用支出發力,僅為實際使用付費。
那么在一個規(guī)模比較大的公司迎來新的篇章,企業(yè)購買了MaxCompute服務(wù)智能設備,會支撐企業(yè)內(nèi)部的不同部門、個人來使用MaxCompute來開展數(shù)據(jù)處理分析蓬勃發展。為了更好地識別數(shù)據(jù)平臺使用方的周期性花費成本特點,優(yōu)化數(shù)據(jù)資源的使用,就有必要對作業(yè)的費用進行統(tǒng)計重要性,從而確認不同人員或歸屬部門的作業(yè)數(shù)量又進了一步、作業(yè)費用、作業(yè)時長多元化服務體系、作業(yè)資源使用量等指標規劃。基于這些指標進行成本分攤大幅拓展、作業(yè)優(yōu)化等治理工作發行速度。
阿里云交易和賬單系統(tǒng)包含了MaxCompute產(chǎn)品的費用信息及費用明細更加堅強,通過關(guān)聯(lián)交易和賬單系統(tǒng)的計費明細與MaxCompute項目的作業(yè)明細或某時間段的賬單費用與時俱進,可以獲得使用用戶、作業(yè)明細信息(如提交人賬號初步建立、作業(yè)SQL內(nèi)容綜合運用、作業(yè)資源使用大小等信息)與計費明細或賬單費用間的關(guān)系,從而開展分析的方法。
本文將介紹假如自動化實現(xiàn)MaxCompute按量付費項目的作業(yè)費用統(tǒng)計實事求是,您也可以通過阿里云交易和賬單系統(tǒng)API獲取其他需要的費用信息進行探討,擴展分析場景。
1服務水平、獲得MaxCompute項目歷史作業(yè)明細
MaxComputeInformation_Schema服務(wù)是MaxCompute產(chǎn)品的開放元數(shù)據(jù)服務(wù)最新,通過Information_Schema提供的一組視圖,用戶可以自助地查詢訪問到項目內(nèi)的準實時的table,column,function等全量元數(shù)據(jù)信息處理方法,同時也提供了項目內(nèi)近期的作業(yè)歷史明細重要作用,供使用者自助查詢使用。
通過元數(shù)據(jù)服務(wù)Information_Schema里面的作業(yè)歷史表tasks_history視圖習慣,可以查詢到準實時的項目作業(yè)歷史明細充足。包括:項目名稱、任務(wù)名稱的積極性、Instanceid綠色化發展、開始時間、結(jié)束時間使命責任、任務(wù)復(fù)雜度效果、任務(wù)CPU使用情況等字段。
備注:Information_Schema目前正在灰度中合規意識,即將全面開放長期間。
2、獲取作業(yè)的計費明細數(shù)據(jù)
用戶可以通過費用中心賬號總覽消費記錄去查詢具體的消費情況現場。
同時高端化,格式阿里云交易和賬單治理OpenAPI為用戶提供治理阿里云產(chǎn)品售賣和財資能力,通過該api可以程序化獲取MaxCompute作業(yè)計費明細數(shù)據(jù)我有所應。
調(diào)用QueryUserOmsData接口(阿里云的賬單系統(tǒng)OMS)提單產,可以查詢到具體計量信息編號、數(shù)據(jù)分類至關重要、存儲發展空間、SQL讀取量、公網(wǎng)上下行流量等字段信息有所應。
3足了準備、關(guān)聯(lián)計費明細與作業(yè)明細
通過表關(guān)聯(lián),查詢到需要計算的數(shù)據(jù)結(jié)果
這些數(shù)據(jù)可以通過作業(yè)ID與計費明細數(shù)據(jù)進行關(guān)聯(lián)后著力提升,您就獲取各個作業(yè)明細的費用信息(例如,SQL費用=數(shù)據(jù)掃描量*復(fù)雜度)深刻內涵,從而可以開展不同視角的分析。
需要強調(diào)的是:MaxCompute的計費都是以阿里云費用中心的出賬結(jié)果及費用明細為準融合。
1.查詢元數(shù)據(jù)服務(wù)里面的作業(yè)歷史表tasks_history
例如深入闡釋,您登錄訪問的當前項目為myproject1,在myproject1中完成的事情,可以通過查詢INFORMATION_SCHEMA.tables獲得當前myproject1中所有表的元數(shù)據(jù)信息物聯與互聯。
INFORMATION_SCHEMA同時包含了作業(yè)歷史視圖穩定,可以查詢到當前項目內(nèi)的作業(yè)歷史信息,使用時注重添加日期分區(qū)進行過濾供給,例如優勢與挑戰。
查詢歷史表字段屬性
如下如所示:
2.使用阿里云交易和賬單治理API獲取費用明細和分攤統(tǒng)計
方法1:手工下載上傳方式
(一)首先在MaxCompute中創(chuàng)建結(jié)果輸出表OMS表,建表語句如下:
方法一:手動從視圖下載oms賬單具體費用解決方案,將數(shù)據(jù)上傳(tunnelupload)到odps對應(yīng)輸出表
手動下載步驟:s://help.aliyun.com/product/87964.html?spm=a2c4g.750001.list.245.5e907b138Ik9xM
進入阿里云用戶中心:s://usercenter2.aliyun.com/home
返回舊版
費用中心>消費記錄>使用記錄
選擇產(chǎn)品類型創造,填寫使用期間,計算粒度,導(dǎo)出CSV格式
把oms數(shù)據(jù)定期取下來貢獻法治,然后上傳到odps中創(chuàng)建的結(jié)果輸出表(OdpsFeeDemo)
tunneluploadC:UsersDesktopaa.txtproject.tablename;
(二)進行表關(guān)聯(lián)設備製造,將很終結(jié)果存儲在上面創(chuàng)建的MaxComputeFee中
方法2:程序化API下載費用明細數(shù)據(jù)&上傳到MaxCompute后分析
(一)在odps創(chuàng)建oms表OdpsFeeDemo,參考如下:
通過API下載OMS系統(tǒng)數(shù)據(jù)并上傳到odps對于表格中
代碼參考如下:
1)服務(wù)啟動類Application
2)從odps接收數(shù)據(jù)ReceiveData
3)將接收數(shù)據(jù)上傳到MaxCompute項目里建好的oms表高質量,類名:OdpsServer
4)配置文件
5)現(xiàn)在將數(shù)據(jù)上傳到odps里面對應(yīng)的表相對簡便,然后進行關(guān)聯(lián)
--------------------------------------
本文作者:圣遠

原文鏈接:s://yq.aliyun.com/articles/713562?utm_content=g_
文章地址:http://61py.com/article/online/13154.html

- 1互聯(lián)網(wǎng)對傳統(tǒng)企業(yè)的沖擊有多大
- 2美團再因不正當競爭敗訴新反法互聯(lián)網(wǎng)專條首次適用外賣領(lǐng)域!
- 32021互聯(lián)網(wǎng)十件大事對不起賈躍亭你只能排第四
- 4互聯(lián)網(wǎng)宣傳做的就是用戶體驗
- 5互聯(lián)網(wǎng)創(chuàng)業(yè)到底需要怎樣的能力
- 6適合上班族的25個副業(yè)(適合上班族的互聯(lián)網(wǎng)副業(yè))
- 7互聯(lián)網(wǎng)的世界沒有永遠的敵人只有永遠的利益
- 8押唄進駐天線貓助力互聯(lián)網(wǎng)數(shù)碼產(chǎn)品寄存行業(yè)經(jīng)濟持續(xù)發(fā)展
- 9互聯(lián)網(wǎng)公司如何做好品牌定位
- 102021年互聯(lián)網(wǎng)金融發(fā)展回顧冬去春欲來改弦當更張