[摘要]spec(standardperformanceevaluationcorporation，標(biāo)準(zhǔn)性能評(píng)估組織)近期公布了最新一批spec cloud®iaas 2018測(cè)試成績(jī)，浪潮云海os創(chuàng)造…
spec(standardperformanceevaluationcorporation，標(biāo)準(zhǔn)性能評(píng)估組織)近期公布了最新一批spec cloud®iaas 2018測(cè)試成績(jī)，浪潮云海os創(chuàng)造新的最高紀(jì)錄，在全部四項(xiàng)關(guān)鍵指標(biāo)中均獲得第一，成為全球性能、擴(kuò)展性等綜合性技術(shù)水平最高的云平臺(tái)軟件，為未來(lái)智算中心的建設(shè)提供全球領(lǐng)先水準(zhǔn)的系統(tǒng)平臺(tái)。
spec cloud測(cè)試基準(zhǔn) 對(duì)現(xiàn)實(shí)最好的模擬
spec cloud®iaas 2018 benchmark是spec開(kāi)發(fā)的評(píng)估基于大數(shù)據(jù)場(chǎng)景下的云基準(zhǔn)標(biāo)準(zhǔn)測(cè)試(spec cloud iaas 2018是spec的第二個(gè)基準(zhǔn)測(cè)試套件來(lái)衡量云計(jì)算的性能，以原始2016版本為基礎(chǔ)，具有各種增強(qiáng)功能和新的主要指標(biāo))，采用yahoo的ycsb與hibench的k-means模擬實(shí)際的工作負(fù)載。主要測(cè)試的是iaas云平臺(tái)性能，選用兩類最重要的和最具代表性的負(fù)載：云平臺(tái)上運(yùn)行io密集型和計(jì)算密集型負(fù)載，通過(guò)加壓測(cè)試數(shù)據(jù)面性能、可擴(kuò)展性以及控制面性能來(lái)得到測(cè)試結(jié)果。
io密集型負(fù)載測(cè)試：ycsb是yahoo公司的一個(gè)用來(lái)對(duì)云服務(wù)進(jìn)行基礎(chǔ)測(cè)試的工具，spec cloud®iaas 2018通過(guò)創(chuàng)建nosql(cassandra)實(shí)例實(shí)現(xiàn)ycsb架構(gòu)。其測(cè)試項(xiàng)包括吞吐量、插入響應(yīng)時(shí)間、讀取響應(yīng)時(shí)間、平均應(yīng)用實(shí)例(application instance)配置時(shí)間。
計(jì)算密集型負(fù)載測(cè)試：k-means算法是機(jī)器學(xué)習(xí)中常用的一種聚類算法。spec cloud®iaas 2018基準(zhǔn)測(cè)試使用hibench k-means實(shí)現(xiàn)計(jì)算密集型測(cè)試。其測(cè)試項(xiàng)包括完成時(shí)間、每個(gè)應(yīng)用實(shí)例運(yùn)行的hadoop迭代計(jì)數(shù)、平均應(yīng)用實(shí)例配置時(shí)間。
spec cloud具體測(cè)什么
spec cloud®iaas 2018具有完善技術(shù)測(cè)試框架，是云計(jì)算性能測(cè)試的基準(zhǔn)，是企業(yè)級(jí)客戶云產(chǎn)品選型的重要參考標(biāo)準(zhǔn)。測(cè)試框架主要指標(biāo)包含如下4個(gè)方面：
1. 復(fù)制的應(yīng)用實(shí)例數(shù)：復(fù)制的應(yīng)用實(shí)例數(shù)表示在測(cè)試結(jié)束時(shí)已完成至少一個(gè)有效應(yīng)用的實(shí)例總數(shù)?？倧?fù)制數(shù)是k-means與ycsb的應(yīng)用實(shí)例總和，但二者任何一項(xiàng)的有效應(yīng)用實(shí)例不能超過(guò)總數(shù)的60%%u3002
2. 性能得分：性能得分是所有有效應(yīng)用實(shí)例的得分總和，代表了所有應(yīng)用在云環(huán)境的總體表現(xiàn)。它是spec cloud®iaas 2018規(guī)范的ycsb和k-means性能得分的總和。
3. 相對(duì)可擴(kuò)展性：相對(duì)的伸縮度是當(dāng)多個(gè)應(yīng)用實(shí)例同時(shí)運(yùn)行，云環(huán)境未引入其他負(fù)載時(shí)，每個(gè)應(yīng)用實(shí)例能提供與baseline階段的應(yīng)用實(shí)例相同運(yùn)行水平的百分比。相對(duì)可擴(kuò)展性是io密集型負(fù)載和計(jì)算密集型負(fù)載兩種負(fù)載的相對(duì)可伸縮度的平均值，它以百分比表示，結(jié)果越高代表相對(duì)可擴(kuò)展性越好。
4. 平均實(shí)例的配置時(shí)間：平均實(shí)例的配置時(shí)間表示有效應(yīng)用實(shí)例中，所有實(shí)例的平均配置時(shí)間。每個(gè)實(shí)例的配置時(shí)間都是從創(chuàng)建實(shí)例請(qǐng)求開(kāi)始到cbtool驅(qū)動(dòng)可以ssh到實(shí)例的時(shí)間間隔。
根據(jù)公布的測(cè)試結(jié)果，基于浪潮nf5280m5雙路服務(wù)器基礎(chǔ)計(jì)算平臺(tái)，浪潮云海os平均虛擬機(jī)部署時(shí)長(zhǎng)僅為36秒，復(fù)制的應(yīng)用實(shí)例數(shù)達(dá)到18個(gè)，性能得分達(dá)到20.1分，相對(duì)可擴(kuò)展性達(dá)到85.5%%uff0c也就是說(shuō)，平臺(tái)可以隨著業(yè)務(wù)負(fù)載的提高保持近線性的擴(kuò)展性能，具備強(qiáng)大的彈性部署能力、極低的響應(yīng)時(shí)間，充分保證業(yè)務(wù)連續(xù)性。
精細(xì)優(yōu)化負(fù)載調(diào)度算法 提高大規(guī)模場(chǎng)景下虛擬機(jī)性能穩(wěn)定性及資源利用率
測(cè)試環(huán)境采用1個(gè)控制節(jié)點(diǎn)、9個(gè)計(jì)算節(jié)點(diǎn)的部署架構(gòu)，計(jì)算節(jié)點(diǎn)上通過(guò)虛擬機(jī)運(yùn)行實(shí)例，并在其中2臺(tái)虛擬機(jī)上分別運(yùn)行cbtool基準(zhǔn)測(cè)試工具與time-server服務(wù)(時(shí)間同步服務(wù))。
浪潮工程師基于ubuntu系統(tǒng)制作了cbtool鏡像、time-server 鏡像、hadoop鏡像及cassandra鏡像，其中hadoop鏡像與cassandra鏡像安裝了cloud-init、相應(yīng)的hadoop/cassandra應(yīng)用，并針對(duì)應(yīng)用報(bào)錯(cuò)對(duì)應(yīng)用的配置文件及相關(guān)代碼做了調(diào)整。另外，為了快速啟動(dòng)虛擬機(jī)修改grub為系統(tǒng)立即啟動(dòng)，并將hadoop鏡像與cassandra鏡像上傳到浪潮云海os環(huán)境。
在測(cè)試過(guò)程中，浪潮工程師分別通過(guò)限制每個(gè)計(jì)算節(jié)點(diǎn)運(yùn)行的虛擬機(jī)數(shù)量、分組調(diào)度、io密集型和計(jì)算密集型兩種業(yè)務(wù)的親和性策略等進(jìn)行參數(shù)的調(diào)優(yōu)，但效果都不明顯。通過(guò)對(duì)實(shí)際的負(fù)載進(jìn)行監(jiān)控，浪潮工程師發(fā)現(xiàn)負(fù)載對(duì)cpu、內(nèi)存及磁盤(pán)的調(diào)度不均衡，因此對(duì)調(diào)度算法進(jìn)行了優(yōu)化，調(diào)整了對(duì)于cpu、內(nèi)存及磁盤(pán)的調(diào)度權(quán)重。通過(guò)算法優(yōu)化，保證每個(gè)應(yīng)用實(shí)例的正常運(yùn)行前提下提高了整體的應(yīng)用實(shí)例數(shù)，為大規(guī)模場(chǎng)景高密度虛擬機(jī)管理提供實(shí)踐案例參考。
另外，通過(guò)對(duì)磁盤(pán)io進(jìn)行監(jiān)控，浪潮工程師發(fā)現(xiàn)在負(fù)載的情況下，虛擬機(jī)的磁盤(pán)io性能有所降低。根據(jù)多次定位分析，發(fā)現(xiàn)虛擬機(jī)后端與宿主機(jī)系統(tǒng)盤(pán)處于相同存儲(chǔ)的情況下會(huì)導(dǎo)致io性能降低，因此為了保證讀寫(xiě)不受宿主機(jī)系統(tǒng)盤(pán)干擾，選擇將虛擬機(jī)后端與宿主機(jī)系統(tǒng)盤(pán)分離部署。同時(shí)，為了保證應(yīng)用在云環(huán)境的整體表現(xiàn)，浪潮工程師對(duì)虛擬機(jī)規(guī)格(cpu、內(nèi)存、硬盤(pán))進(jìn)行多次調(diào)整，且關(guān)閉了kvm的內(nèi)存共享,防止因搶占導(dǎo)致性能降低，關(guān)閉了cpu預(yù)留和cpu綁定,防止cpu不能被充分利用，最終實(shí)現(xiàn)負(fù)載的情況下虛擬機(jī)的cpu、內(nèi)存、硬盤(pán)都能保持較高的利用率，提高了大規(guī)模場(chǎng)景下虛擬機(jī)性能穩(wěn)定性和資源利用率。
為了降低平均實(shí)例的配置時(shí)間，浪潮工程師增大了nova并發(fā)任務(wù)個(gè)數(shù)上限，并實(shí)現(xiàn)了鏡像緩存機(jī)制。其中，增大nova并發(fā)任務(wù)個(gè)數(shù)減少了虛擬機(jī)建的排隊(duì)時(shí)間，鏡像緩存解決了同一個(gè)鏡像創(chuàng)建多臺(tái)虛擬機(jī)的流程中頻繁地下載、刪除、再下載鏡像導(dǎo)致耗時(shí)嚴(yán)重的問(wèn)題，節(jié)約了鏡像下載到本地所消耗的時(shí)間，從而有效提高了創(chuàng)建虛擬機(jī)的速度，滿足客戶快速、批量創(chuàng)建虛擬機(jī)需求。
為了優(yōu)化并發(fā)場(chǎng)景，浪潮工程師還優(yōu)化了haproxy的線程數(shù)、連接池中保持打開(kāi)狀態(tài)的最大sql連接數(shù)、最大允許超出的連接數(shù)。
卓越線性擴(kuò)展能力 全面支持新型業(yè)務(wù)應(yīng)用上云
spec在評(píng)估了線程計(jì)數(shù)和操作計(jì)數(shù)后，選擇了40個(gè)線程計(jì)數(shù)和400萬(wàn)個(gè)操作計(jì)數(shù)作為spec cloud®iaas 2018 benchmark的基準(zhǔn)。其目標(biāo)是反映i/o性能的改進(jìn)，并使ycsb工作負(fù)載ai運(yùn)行周期時(shí)間與當(dāng)前云中的k-means工作負(fù)載保持平衡。
spec在擴(kuò)展階段，為每個(gè)應(yīng)用實(shí)例生成數(shù)據(jù)，插入的總記錄保持在1000000。默認(rèn)記錄長(zhǎng)度為1kb，數(shù)據(jù)大小為1gb。復(fù)制的有效數(shù)據(jù)大小至少為3 gb，跨越6個(gè)cassandra seeds。
k-means生成的數(shù)據(jù)集的大小約為415mb，運(yùn)行結(jié)束時(shí)數(shù)據(jù)的總大小約為900mb。使用hadoop的三副本復(fù)制，磁盤(pán)上的大小約為2.8gb。使用中等大小的實(shí)例，k-means完成時(shí)間和數(shù)據(jù)生成時(shí)間與每次運(yùn)行的ycsb完成時(shí)間和數(shù)據(jù)生成時(shí)間大致相同。
測(cè)試結(jié)果顯示，浪潮云海os可以高效完成i/o、計(jì)算等各類負(fù)載的調(diào)度，并且性能增長(zhǎng)還具有領(lǐng)先的線性擴(kuò)展能力，完全可以滿足用戶從傳統(tǒng)業(yè)務(wù)到新型大數(shù)據(jù)、人工智能等創(chuàng)新應(yīng)用的上云需求。
浪潮云海os在此次spec cloud®iaas 2018測(cè)試全部四項(xiàng)關(guān)鍵指標(biāo)中均獲得全球第一絕非偶然，是多年研發(fā)積累的體現(xiàn)：浪潮云海os在全球第二大開(kāi)源項(xiàng)目openstack中持續(xù)位居社區(qū)黃金會(huì)員，近幾個(gè)版本的社區(qū)貢獻(xiàn)排名穩(wěn)定在全球前十，在最新ussuri版本社區(qū)貢獻(xiàn)中國(guó)第一。2019年浪潮云海os實(shí)現(xiàn)了基于openstack rocky版本的全球最大規(guī)模單一集群實(shí)踐，通過(guò)國(guó)家級(jí)權(quán)威機(jī)構(gòu)測(cè)試認(rèn)證，被國(guó)際知名數(shù)據(jù)分析機(jī)構(gòu)globaldata評(píng)定為“very strong(超強(qiáng)勁)”級(jí)別。以云海os為代表的openstack作為上云首選已進(jìn)入大規(guī)模落地實(shí)踐期，助力用戶數(shù)字轉(zhuǎn)型、智能升級(jí)、融合創(chuàng)新基礎(chǔ)設(shè)施。
關(guān)于 spec
spec是由全球幾十所知名大學(xué)、研究機(jī)構(gòu)、it企業(yè)組成的第三方測(cè)試組織，擁有spec cpu、spec power、speccloud、spec ml等多項(xiàng)公開(kāi)的標(biāo)準(zhǔn)化測(cè)試規(guī)范和模型。并由spec網(wǎng)站上公開(kāi)測(cè)試結(jié)果，是全球企業(yè)級(jí)客戶進(jìn)行it產(chǎn)品、方案選型的主要技術(shù)依據(jù)。