站在CPU角度 你才能發(fā)現(xiàn)這個(gè)世界有多慢
經(jīng)常聽到有人說(shuō)磁盤很慢、網(wǎng)絡(luò)很卡,這都是站在人類的感知維度去表述的,比如拷貝一個(gè)文件到硬盤需要幾分鐘到幾十分鐘,夠我去吃個(gè)飯啦;而從網(wǎng)絡(luò)下載一部電影,有時(shí)候需要幾個(gè)小時(shí),我都可以睡一覺了。
本文引用地址:http://m.butianyuan.cn/article/201703/345682.htm最為我們熟知的關(guān)于計(jì)算機(jī)不同組件速度差異的圖表,是下面這種金字塔形式:越往上速度越快,容量越小,而價(jià)格越高。
這張圖只是給了我們一個(gè)直觀地感覺,并沒有對(duì)各個(gè)速度和性能做出量化的說(shuō)明和解釋。而實(shí)際上,不同層級(jí)之間的差異要比這張圖大的多。這篇文章就讓你站在 CPU 的角度看這個(gè)世界,說(shuō)說(shuō)到底它們有多慢。
希望你看完這篇文章能明白兩件事情:磁盤和網(wǎng)絡(luò)真的很慢,性能優(yōu)化是個(gè)復(fù)雜的系統(tǒng)性的活。
注:所有的數(shù)據(jù)都是來(lái)自網(wǎng)絡(luò)。所有的數(shù)據(jù)會(huì)因?yàn)闄C(jī)器配置不同,或者硬件的更新而有出入,但是不影響我們直覺的感受。
數(shù) 據(jù)
先來(lái)看看 CPU 的速度,就拿我的電腦來(lái)說(shuō),主頻是 2.6G,也就是說(shuō)每秒可以執(zhí)行 2.6*10^9個(gè)指令,每個(gè)指令只需要 0.38ns(現(xiàn)在很多個(gè)人計(jì)算機(jī)的主頻要比這個(gè)高,配置比較高的能達(dá)到 3.0G+)。我們把這個(gè)時(shí)間當(dāng)做基本單位 1s,因?yàn)?1s 大概是人類能感知的最小時(shí)間單位。
一級(jí)緩存讀取時(shí)間為 0.5ns,換算成人類時(shí)間大約是 1.3s,大約一次或者兩次心跳的時(shí)間。這里能看出緩存的重要性,因?yàn)樗乃俣瓤梢在s上 CPU,程序本身的 locality 特性加上指令層級(jí)上的優(yōu)化,cache 訪問的命中率很高,這最終能極大提高效率。
分支預(yù)測(cè)錯(cuò)誤需要耗時(shí) 5ns,換算成人類時(shí)間大約是 13s,這個(gè)就有點(diǎn)久了,所以你會(huì)看到很多文章分析如何優(yōu)化代碼來(lái)降低分支預(yù)測(cè)的幾率,比如這個(gè)得分非常高的 stackoverflow 問題。
二級(jí)緩存時(shí)間就比較久了,大約在 7ns,換算成人類時(shí)間大約是 18.2s,可以看到的是如果一級(jí)緩存沒有命中,然后去二級(jí)緩存讀取數(shù)據(jù),時(shí)間差了一個(gè)數(shù)量級(jí)。
我們繼續(xù),互斥鎖的加鎖和解鎖時(shí)間需要 25ns,換算成人類時(shí)間大約是 65s,首次達(dá)到了一分鐘。并發(fā)編程中,我們經(jīng)常聽說(shuō)鎖是一個(gè)很耗時(shí)的東西,因?yàn)樵谖⒉t里加熱一個(gè)東西需要一分鐘的話,你要在那傻傻地等蠻久了。
然后就到了內(nèi)存,每次內(nèi)存尋址需要 100ns,換算成人類時(shí)間是 260s,也就是4分多鐘,如果讀一些不需要太多思考的文章,這么久能讀完2-3千字(這個(gè)快閱讀的時(shí)代,很少人在手機(jī)上能靜心多這么字了)??雌饋?lái)還不算壞,不多要從內(nèi)存中讀取一段數(shù)據(jù),需要的時(shí)候很更多。到了內(nèi)存之后,時(shí)間就變得一個(gè)量級(jí),CPU 和內(nèi)存之間的速度瓶頸被稱為馮諾依曼瓶頸
一次 CPU 上下文切換(系統(tǒng)調(diào)用)需要大約 1500ns,也就是 1.5us(這個(gè)數(shù)字參考了其他文章)。
在 1Gbps 的網(wǎng)絡(luò)上傳輸 2K 的數(shù)據(jù)需要 20us,換算成人類時(shí)間是 14.4小時(shí),這么久都能把《星球大戰(zhàn)》六部曲看完了!可以看到網(wǎng)絡(luò)上非常少數(shù)據(jù)傳輸對(duì)于 CPU 來(lái)說(shuō),已經(jīng)很漫長(zhǎng)。而且這里的時(shí)間還是理論最大值,實(shí)際過程還要更慢一些。
SSD 隨機(jī)讀取耗時(shí)為 150us,換算成人類時(shí)間大約是 4.5天。換句話說(shuō),SSD 讀點(diǎn)數(shù)據(jù),CPU 都能休假,報(bào)團(tuán)參加周邊游了。雖然我們知道 SSD 要比機(jī)械硬盤快很多,但是這個(gè)速度對(duì)于 CPU 來(lái)說(shuō)也是像烏龜一樣。I/O 設(shè)備 從硬盤開始速度開始變得漫長(zhǎng),這個(gè)時(shí)候我們就想起內(nèi)存的好處了。盡量減少 IO 設(shè)備的讀寫,把最常用的數(shù)據(jù)放到內(nèi)存中作為緩存是所有程序的通識(shí)。像 memcached 和 redis 這樣的高速緩存系統(tǒng)近幾年的異軍突起,就是解決了這里的問題。
從內(nèi)存中讀取 1MB 的連續(xù)數(shù)據(jù),耗時(shí)大約為 250us,換算成人類時(shí)間是 7.5天,這次假期升級(jí)到國(guó)慶七天國(guó)外游了。
同一個(gè)數(shù)據(jù)中心網(wǎng)絡(luò)上跑一個(gè)來(lái)回需要 0.5ms,換算成人類時(shí)間大約是 15天,也就是半個(gè)月的時(shí)間。如果你的程序有段代碼需要和數(shù)據(jù)中心的其他服務(wù)器交互,在這段時(shí)間里 CPU 都已經(jīng)狂做了半個(gè)月的運(yùn)算。減少不同服務(wù)組件的網(wǎng)絡(luò)請(qǐng)求,是性能優(yōu)化的一大課題。
從 SSD 讀取 1MB 的順序數(shù)據(jù),大約需要 1ms,換算成人類時(shí)間是 1個(gè)月。也就是說(shuō) SSD 讀一個(gè)普通的文件,如果要等你做完,CPU 一個(gè)月時(shí)間就荒廢了。盡管如此,SSD 已經(jīng)很快啦,不信你看下面機(jī)械磁盤的表現(xiàn)。
磁盤尋址時(shí)間為 10ms,換算成人類時(shí)間是 10個(gè)月,剛好夠人類創(chuàng)造一個(gè)新的生命了。如果 CPU 需要讓磁盤泡杯咖啡,在它眼里,磁盤去生了個(gè)孩子,回來(lái)告訴它你讓我泡的咖啡好了。機(jī)械硬盤使用 RPM(Revolutions Per Minute/每分鐘轉(zhuǎn)速) 來(lái)評(píng)估磁盤的性能:RPM 越大,平均尋址時(shí)間更短,磁盤性能越好。尋址只是把磁頭移動(dòng)到正確的磁道上,然后才能讀取指定扇區(qū)的內(nèi)容。換句話說(shuō),尋址雖然很浪費(fèi)時(shí)間,但其實(shí)它并沒有辦任何的正事(讀取磁盤內(nèi)容)。
從磁盤讀取 1MB 連續(xù)數(shù)據(jù)需要 20ms,換算成人類時(shí)間是 20個(gè)月。IO 設(shè)備是計(jì)算機(jī)系統(tǒng)的瓶頸,希望讀到這里你能更深切地理解這句話!如果還不理解,不妨想想你在網(wǎng)上買的東西,快遞送了將近兩年,你的心情是怎么樣的。
而從世界上不同城市網(wǎng)絡(luò)上走一個(gè)來(lái)回,平均需要 150ms(參考世界各地 ping 報(bào)文的時(shí)間CDN)。
虛擬機(jī)重啟一次大約要 4s 時(shí)間,換算成人類的時(shí)間是 3百多年。對(duì)于此,我想到了喬布斯要死命優(yōu)化 Mac 系統(tǒng)開機(jī)啟動(dòng)時(shí)間。
物理服務(wù)器重啟一次需要 5min,換算成人類時(shí)間是 2萬(wàn)5千年,快趕上人類的文明史了。5 分鐘人類都要等一會(huì)了,更別提 CPU 了,所以沒事不要亂重啟服務(wù)器啊,分分鐘終結(jié)一個(gè)文明的節(jié)奏。
評(píng)論