文 / 王駿興
整理 / LiveVideoStack
大家好，我是Akamai售前技術顧問Jason Wang-王駿興，很榮幸今天有機會在LiveVideoStack的平台上進行分享，也感謝各位技術同行百忙之中前來參與。今天我演講的主要內容是短視頻出海的關鍵指標、挑戰以及應對，希望通過今天的分享能夠帶給大家一些收獲。
以上是今天分享的主要內容，首先會和各位分享一下過去在和客戶的交流以及日常過程當中Akamai所看到的網絡挑戰，其次是在短視頻行業中我們所觀察到與性能相關的關鍵指標，並進行關鍵指標的剖析以及進一步的探討，最後一部分會分享我個人及Akamai在網絡實戰中的經驗和建議。
希望今天的分享可以給各位帶來以上收獲，包括如何了解短視頻目標用戶的網絡情況，通過一定的方法論來確立短視頻的關鍵指標，探索指標之間是如何作用的，最後根據關鍵指標的觀察進行有目的性的優化。
1.複雜的網絡環境下的網絡挑戰
這裏我用了一個比較誇張的展示手法，不過也是不少人對于整體短視頻訪問鏈路的反映。在簡單的認知中，我們認爲用戶僅需拿起手機接入網絡，比如說連上WiFi或是開啓蜂窩網絡，即可從雲端獲取推送的短視頻內容。那麽對CDN以及雲存儲技術有所了解的人會知道，這裏的源數據也代表內容分發的緩存服務和雲存儲，但真相並非如此簡單。
在真實的訪問過程中，我們面對的不僅僅是單一的手機、WIFI網絡、蜂窩網絡等等。這裏簡單的列舉了我們可能會遇到的問題。第一就是手機類型，作爲短視頻從業人員我們都希望自己的APP以及網絡能夠跑在合適的設備上，比如說iOS陣營最新的iPhone 12，安卓陣營旗艦型的手機，通過“發燒級”的路由器發出網絡請求。但事實上，我們無法決定市場中的設備是否如我們所願，目標用戶可能使用的是號稱功能機的KaiOS phone或者安卓機中相對低端的機型，他的網絡設備是N年前的百兆路由器。更重要的是真實的萬維網如圖所示，鏈路是錯綜複雜的，這是at&t繪制的世界互聯網Topology，每一個骨幹中都延伸出衆多分支，最後用戶要訪問的短視頻數據源可能是在相對較遠的另一個數據端點。訪問過程中一旦有任何閃失，都可能此次訪問不成功，造成用戶體驗不佳等現象。如何讓用戶獲取更加的網絡體驗也是本次分享要探討的主要內容。
我們引用一個第三方移動網絡報告機構OpenSignal的調研報告，在這四幅圖中也列出了有代表性地、相對比較火熱的短視頻目標出海地區，比如兩印地區、中東地區，以及南美的主要地區。從下面的下載速度以及維度來看，不僅在國家之間網絡體驗有性能差異，在每個國家主要運營商之間也有巨大的反差。此刻我們可以想象印尼的一個場景，在我們出海的過程中，如果將國內短視頻的經驗之間照搬至印尼且不分用戶的網絡環境，照樣跑相同碼率的視頻，可想而知在Smartfren地區的用戶體驗將是災難性的。
其他網絡中的影響因素諸如DNS的影響，DNS解析是所有訪問中至關重要的第一步，DNS包括LDNS以及權威DNS，它們都在DNS解析中扮演及其重要的角色，這是我們在做性能分析中不可忽略的一部分。第二點是劫持，主要的劫持手段有HTTP劫持和DNS劫持，我們以DNS劫持爲例，運營商可以通過DNS劫持的方法對訪問內容進行指向本地Local Cache的方式，以此達到節省出網帶寬或跨網結算等目的。不過運營商畢竟不是短視頻內容本身的提供商，設置一個錯誤的邏輯將導致短視頻用戶無法訪問。我們可能還會考慮到短視頻用戶極致的體驗，最成熟的做法是使用CDN內容分發服務，將短視頻內容盡可能的緩存到靠近用戶的節點上，通過較小的時間來改善關視頻用戶的網絡體驗。
在今天的網絡傳輸中，我們大部分的請求都是跑在TCP之上，當選用了節點較少或者目標地區沒有覆蓋內容分發網絡（如圖2）。在傳統的C/S架構中，首次建連的三次握手，不理想的覆蓋將無法太好的改善用戶的時延以及丟包情況。那麽，就有可能因此影響用戶的各類體驗。
2.短視頻關鍵指標方法論
上述那麽多讓人頭疼並且不穩定的因素，作爲短視頻從業人員是不是感覺身體要被掏空。但是辦法總比困難多，就像我們爲了測量長度發明了度量單位和工具一樣，我們也可以邏輯以及因果關系來推敲出短視頻用戶體驗的關鍵指標。
在過去與客戶交流過程中，許多客戶經常會問Akamai“如何讓我的短視頻加載得更快，整體的業務更穩定。”這個答案歸根結底還是需要技術團隊制定出的衡量標准才能得出。這裏我提倡的是3Q方法論，總結爲三大類，QoE、QoS、QoP，特別強調一點本次所探討的衡量標准爲技術指標而非業務指標。因爲業務指標比如說日活、用戶留存等等，會受到用戶喜好、內容、熱門話題等影響，作爲技術人員來說，在短視頻性能優化過程中，我們需要有針對性的對性能相關指標進行關注和優化。
以上是3Q方法論中的一些細項，相信短視頻的夥伴們看到第一個QoE都會特別親切，這就是我每天都在接觸的一些指標。就如它的名字Quality of Experience用戶體驗質量一樣，每一項都與短視頻播放體驗息息相關。我們可以歸納QoE爲一個現象，比如卡頓比或者卡頓次數上去了，用戶體驗都會非常直觀地收到影響。我還列出了部分短視頻業界會使用Synthetic數據，但是建議有條件的朋友使用與用戶體驗直接相關聯的真實用戶數據，這樣我們所設立的指標會與QoE有直接的關系，畢竟我們所做的一切優化工作都是爲了用戶體驗更佳，而不是讓模擬數據變得更漂亮。
QoS就是我們使用的第三方服務質量監控，也就是Quality of Service，其中網絡相關的有DNS、CDN、源站的性能以及其可用數據。以CDN舉個例子，現在商用CDN報告平台中我們都可以看到諸如緩存命中率，帶寬點擊數、邊緣、源站、HTTP狀態碼等等，這些QoS數據在我們後續調優中，都扮演關鍵的角色。我們可以將QoS歸類爲産生現象的原因。
QoP就是Quality of Performance指性能指標，舉個例子右圖QoE和QoS是兩個不一樣的集合，QoS中的點擊數不一定和QoE有交集，不過失敗率一定和DNS服務狀態是有交集的，之間羅列的交集可以理解爲QoP，當找到QoE和QoS關聯時，我們調優目標也就浮出水面。這裏羅列幾個網絡中QoP的關鍵指標供大家參考，也算是抛磚引玉。各位在之後性能調優的會議中，也可以參考右圖的這種形式，定義出你們所理解的QoP，和技術團隊、服務商進行探討確立調優的方向。
上面闡述的3Q方法論，相信大家對這三大類的關鍵指標有了明確的認識，我也簡單地總結了QoP的關鍵項，供各位參考。其中每一項都是可以供大家進行單獨深入探討，就不多加贅述了，在最後我會分享幾個針對QoP應用優化示例，供大家參考。
3.從Akamai視角看待QoE
我想先分享一下Akamai不一樣的QoE視角，作爲全球規模最大且覆蓋最廣泛的內容分發提供商，Akamai平台上承載全球約三分之一的互聯網流量，優化互聯網體驗和保證互聯網安全性，一直是Akamai不變的信念之一。由于承載流量來自于各行各業，所以業務指標的需求也是多樣化的，爲了更好得提供參考建議，Akamai使用了多樣化的篩選條件。比如客戶的域名、ISP、地理位置、網絡類型、訪問協議類型等等，以此更加精確地命中我們所想要的結果。
我們承載的業務種類繁多，Akamai的網絡專家們最後將專注點放在了網絡中最重要的QoE指標上，比如說傳輸速度、傳輸時間、可用性等，結合前面描述的篩選條件，我們可以更直觀地爲Akamai平台內部調優或者中國出海用戶提供目標網絡中的表現情況以及確立調優目標。
我做了一個經典案例的分析，在案例中，Akamai爲客戶分析了當前業務所在目標國家的表現情況，做了吞吐速率的國家排名分析以及具有針對性的深度剖析目標國家運營商表現。這其實對于技術團隊制定未來技術優化方案、技術選型都具有極大的參考價值。除此之外，不僅僅是對客戶用例分析，Akamai內部對平台進行優化的前與後，我們都會通過KPI平台觀察優化手段部署之後所産生的性能價值。
在未來工作中，無論是通過3Q方法論或是其中的QoE、QoS分析亦或是Akamai QoE的建議，所有的理論都會經過一輪頭腦風暴以後落到實處，成爲我們短視頻用戶體驗優化方案。我想通過過去的一點經驗，和各位分享一下關于優化方案的最佳實踐和案例。
4.最佳實踐案例
4.1 最佳實踐案例——客戶端
第一個是客戶端和視頻內容的優化，我總結了幾個比較常見的關鍵要素，首先是合理應用連接。在過去的經驗中，我們都知道爲了減少客戶端與服務端的建連過程，保持長連接都可以讓用戶的加載體驗獲得極佳提升。在APP裏也是同理的，我們可以利用連接池的概念，讓每一次的請求都加載在已經建立的連接之上，讓TCP的三次握手或是TLS的協商，甚至是QUIC連接都不再成爲加載時間的瓶頸之一。
第二點就是碼率，在我們技術選型中，目標網絡情況是不容忽視的，比如說最開始提到的4個地區之間不同的網絡下載體驗，因地制宜選用最合適當地網絡情況的碼率至關重要。
其次是大家耳熟能詳的視頻編碼格式，隨著編碼格式的技術發展，H.265和VP9都爲節省存儲空間做出驚人貢獻。在保證相同視頻畫質的前提下，H.265和VP9對標自身上一代的編碼格式，都可以節省達50%的體積。應用到短視頻中，正確的編碼格式，可同時兼容短視頻用戶觀感和加載體驗。當然我們還是要兼顧到用戶設備的兼容性，這裏就不作展開。
在圖片格式上也同理，多圖的場景中，縮小每一個需要加載的個體，實現無縫銜接的加載體驗，也可以通過選擇正確的圖片格式來做到。圖1是Akamai視頻圖像優化方案的綜合示例，通過和顧客協商策略後，自動化地在邊緣網絡質量上和格式對比節選出最優的輸出。從示例中可以看到，圖像和視頻都得到字節數上的節約，以及質量上的保證。
4.2 最佳實踐案例——DNS
接下來就是與網絡息息相關的調優，對于DNS理解深刻的夥伴，可能會說DNS應該是有緩存的才對，權威DNS僅僅是做到少量的查詢，好像並不是這麽重要。不過在實際應用中，Akamai不止一次從客戶案例中看到優質權威DNS爲短視頻業務帶來的好處。在右圖的案例中，海外客戶使用了某家國內知名權威DNS服務商，以及Akamai權威DNS的對比。隨著用戶數量級的增長，叠代查詢的數量也隨之增加，叠代查詢的性能差異如此之大是完全不容忽視的。同時，由于權威DNS可以說掌握了整個訪問鏈的命脈，短時間之內短視頻的不可用也可能會導致DNS不可用，對用戶體驗帶來致命打擊。考慮到大部分短視頻出海業務都已經在國內有業務流量和穩定服務商，可能在運維層面不是這麽容易進行替換。針對海外情況，我們不妨可以嘗試使用國內外域名分離的方式區分服務商，除了可以獲取性能、可用性上的提升，也更便于技術人員管理、區分這兩塊的業務。
另外，關于DNS的調優還想提及一個DOH的方案，這也是最近探討比較火熱的方案。基于HTTPS我們可以更好地避免DNS汙染或是劫持的問題，另外我們在傳統的CDN調度中，是通過LocalDNS IP，用戶使用了LocalDNS IP來確認用戶的地理位置和網絡，以此判定最佳的網絡覆蓋。在DOH中，後端的Resolver可以攜帶ECS擴展字段，CDN調度系統也可以通過ECS字段來獲取用戶的准確IP信息，來避免LDNS設置錯誤讓用戶獲取到錯誤邊緣調度的情況。
當然，不同技術手段需要運用到不同的思維來實踐，建議APP采用異步調用的方式，避免HTTP請求和響應時間的延遲問題。我們都知道HTTP請求肯定比DNS請求延時高一點，就像充分利用鏈接一樣，我們可以采用提前預解析的方式，減少DNS在請求中所帶來的解析時間。同時還要注意一點，在我們考慮DOH方案時，一定要和所使用的CDN廠商確認他們的調度系統是否可以識別ECS擴展字段。
4.3 最佳實踐案例——服務端
關于服務端的調優，Akamai建議對擁塞算法以及傳輸協議進行有針對性的選擇，在過去20年網絡優化經驗中，Akamai不停地去叠代自身的擁塞控制算法達到最佳的網絡體驗效果。如上圖所示，Akamai觀察到，在不同的網絡環境下，每一種擁塞控制算法或是傳輸協議，都不是一招取勝的。在某一些網絡環境下，BBR的效果可能會不如QDK等，這種例子數不勝數。Akamai內部的Dynamic Protocol Optimization應運而生，我們采用機器學習的手段時刻針對網絡變化，推導出最適合當下網絡環境的擁塞控制算法和協議，讓最終用戶可以獲取到最優的傳輸體驗。
與用戶息息相關的緩存服務也是大有可爲，與QoP相關的緩存命中率以及回源速度，Akamai的見解是，除了多年平台自身積累的優化經驗以外，通過專屬緩存的方案，我們可以達到單文件30天內回源僅一次的方式，以及源站直連鏈路的方式，來大大縮減回源時間。與此同時，我們也減小了源站的回源壓力，以及公有雲帶寬成本。圖2是一個應用案例，這是我們平台對緩存命中率的展示，在經過與這家短視頻客戶多輪配合調優以及緩存架構的調整後，緩存命中率達到令人滿意的99%以上，結果是相當喜人的。相應這家短視頻客戶也觀察到自身監控的QoE關鍵指標的提升。
4.4 最佳實踐案例——動態傳輸
雖然大部分短視頻的應用重點都在于短視頻的播放跟體驗相關，不過在整體訪問過程中，動態請求也是決定用戶對APP響應速度的體驗，比如在動態加速回源拉取Feed流的過程中，任何性能瓶頸以及失敗的情況都是不可容忍的。在Akamai的見解來看，利用Akamai全球28萬台服務器的巨大網絡，來進行回源鏈路的探測和擇優是最優的方案。這不僅僅可以保障用戶始終跑在最優的鏈路上，也可以在鏈路波動時，切換備用鏈路來保證整體動態請求的可用性。右圖是一個實際使用的案例，用戶的源站是一個新加坡的源站，在印度的用戶跟新加坡源站之間，經過動態加速以後，産生近3倍的性能提升，同時丟包率也得到了一個不錯的改善。
4.5 最佳實踐案例——上傳場景
上面總結的幾點建議大多數圍繞下行鏈路所展開的，由于短視頻屬于UGC範疇，用戶在拍攝完視頻上傳的體驗也是不容忽視的，這裏也一樣建議夥伴們采用成熟的上傳技術來保障用戶的上傳體驗。在上傳場景中，Akamai的見解是借助于動態鏈路的擇優技術，以及內部私有化協議的方式進行多倍包複制。同時可以選擇部署Akamai的調優設備至目標機房中，讓我們上傳數據變得更快，更好地抵達用戶源站，以此來保證中間上傳鏈路的效果。
其實在出海過程中，網絡安全合規也是不容忽視的，最近我們也聆聽到很多的新聞，如果有機會Akamai的專家們在安全層面也可以爲各位分享一些獨到的見解。非常感謝各位的參與和聆聽，同時也希望通過今天的短視頻話題，可以給大家帶來一些收獲。不同的網絡環境下會有不一樣的網絡體驗，我們一定要了解如何對短視頻目標用戶的網絡有進一步的認識，去影響我們的技術選型。通過一定的方法論，來確定短視頻的關鍵技術指標具體有哪些。與技術團隊的夥伴們在頭腦風暴時，探索指標之間的因果關系以及它們之間是怎樣互相影響互相作用的。最後根據頭腦風暴的結果，掌握有哪些QoP指標是可以進行有針對性的調優，再根據這些QoP指標觀察進行有目的的優化過程。