對(duì)于即將到來的雙11，高并發(fā)簡(jiǎn)直成為了一個(gè)魔咒。盡管在大促活動(dòng)前加班加點(diǎn)做測(cè)試，到了活動(dòng)當(dāng)天仍然是危機(jī)頻發(fā)，高并發(fā)的關(guān)鍵時(shí)刻又出亂子了，緊急排查故障，一個(gè)漏洞沒注意到就讓競(jìng)爭(zhēng)對(duì)手鉆了個(gè)空子，平臺(tái)損失嚴(yán)重，還有被媒體曝光的風(fēng)險(xiǎn)。
相信這個(gè)場(chǎng)景在雙十一階段并不少見。在超高并發(fā)量下，IT 系統(tǒng)如何才能挺住不崩？有沒有辦法可以提前預(yù)測(cè)到，并加筑好“防御堡壘”？
大多數(shù)同學(xué)被問到這個(gè)問題壓根兒沒什么思路去回答，不知道從什么地方說起，其實(shí)本質(zhì)就是沒經(jīng)歷過一些真正有高并發(fā)系統(tǒng)的錘煉罷了。
一、什么是高并發(fā)？
高并發(fā)（High Concurrency）是互聯(lián)網(wǎng)分布式系統(tǒng)架構(gòu)設(shè)計(jì)中必須考慮的因素之一，它通常是指，通過設(shè)計(jì)保證系統(tǒng)能夠同時(shí)并行處理很多請(qǐng)求。高并發(fā)意味著大流量，需要運(yùn)用技術(shù)手段抵抗流量的沖擊，這些手段好比操作流量，能讓流量更平穩(wěn)地被系統(tǒng)所處理，帶給用戶更好的體驗(yàn)。
高并發(fā)相關(guān)常用的一些指標(biāo)有響應(yīng)時(shí)間（Response Time），吞吐量（Throughput），每秒查詢率QPS（Query Per Second），每秒事務(wù)處理量TPS(Transaction Per Second)，并發(fā)用戶數(shù)等。
響應(yīng)時(shí)間：系統(tǒng)對(duì)請(qǐng)求做出響應(yīng)的時(shí)間。
吞吐量：?jiǎn)挝粫r(shí)間內(nèi)處理的請(qǐng)求數(shù)量。
QPS：每秒響應(yīng)查詢請(qǐng)求數(shù)。
TPS：每秒響應(yīng)事務(wù)請(qǐng)求數(shù)。
并發(fā)用戶數(shù)：同時(shí)承載正常使用系統(tǒng)功能的用戶數(shù)量。
我們常見的高并發(fā)場(chǎng)景有：淘寶的雙 11、春運(yùn)時(shí)的搶票、微博大 V 的熱點(diǎn)新聞等。
二、多大并發(fā)才算高并發(fā)呢？
很顯然，上面談到的高并發(fā)場(chǎng)景，并發(fā)量各不相同，那到底多大并發(fā)才算高并發(fā)呢？
首先，不能只看數(shù)字，要看具體的業(yè)務(wù)場(chǎng)景。信息流場(chǎng)景涉及復(fù)雜的推薦模型和各種人工策略，它的業(yè)務(wù)邏輯可能比秒殺場(chǎng)景復(fù)雜 10 倍不止。因此，不在同一個(gè)維度，沒有任何比較意義。
此外，各個(gè)高并發(fā)場(chǎng)景的業(yè)務(wù)特點(diǎn)完全不同：有讀多寫少的信息流場(chǎng)景、有讀多寫多的交易場(chǎng)景，那是否有通用的技術(shù)方案解決不同場(chǎng)景的高并發(fā)問題呢？
三、如何應(yīng)對(duì)高并發(fā)？
由于軟硬件環(huán)境、技術(shù)棧、以及產(chǎn)品邏輯都沒法做到完全一致，這些都會(huì)導(dǎo)致同樣的業(yè)務(wù)場(chǎng)景，就算用相同的技術(shù)方案也會(huì)面臨不同的問題。大的思路可以借鑒，別人的方案也可以參考，但是真正落地過程中，細(xì)節(jié)上還會(huì)有無數(shù)的坑。
下面給大家兩個(gè)小建議：
其一，購(gòu)買服務(wù)器。當(dāng)一個(gè)網(wǎng)站面對(duì)突發(fā)流量，不可能臨時(shí)改造架構(gòu)，最快的方式就是增加機(jī)器來線性提高系統(tǒng)的處理能力。
一支筷子容易斷，一把筷子就十分堅(jiān)固。既然一臺(tái)服務(wù)器搞不定，我們就多上幾臺(tái)服務(wù)器。這里的原理就是分流，把以前集中的壓力分散開來。
其二，設(shè)置負(fù)載平衡。負(fù)載平衡可以通過多種負(fù)載算法將請(qǐng)求轉(zhuǎn)發(fā)到不同云服務(wù)器上。在后端云服務(wù)器宕機(jī)時(shí)，會(huì)自動(dòng)將對(duì)應(yīng)節(jié)點(diǎn)從負(fù)載均衡的轉(zhuǎn)發(fā)列表中移出保證服務(wù)的高可用。
總之，面對(duì)高并發(fā)、大流量需要新購(gòu)服務(wù)器或設(shè)置負(fù)載平衡的朋友們，新網(wǎng)云將是您的不二選擇！
設(shè)置負(fù)載平衡，點(diǎn)擊進(jìn)入新網(wǎng)云：http://www.xinnet.com/cs/slb.html