12月23日，由中國計算機(jī)用戶協(xié)會指導(dǎo)，iTechClub（互聯(lián)網(wǎng)技術(shù)精英俱樂部）教育委員會主辦的國內(nèi)互聯(lián)網(wǎng)技術(shù)領(lǐng)域最專業(yè)、最具影響力的大型教育科技類行業(yè)盛會“2020中國教育科技大會”在北京召開。

作業(yè)幫基礎(chǔ)架構(gòu)負(fù)責(zé)人董曉聰受邀出席本次大會，并在“運(yùn)維安全——后疫情時代的在線教育挑戰(zhàn)”分會場分享作業(yè)幫如何通過基于云原生的多云建設(shè)，破解業(yè)務(wù)發(fā)展過程中存在的穩(wěn)定性、效率、成本、安全等方面問題，實(shí)現(xiàn)彈性、韌性、可觀測、自動化、可持續(xù)的在線架構(gòu)，以及通過技術(shù)改造帶來的一系列收益，以真實(shí)案例深刻闡述技術(shù)變革持續(xù)推動教育產(chǎn)業(yè)的加速迭代發(fā)展。

以業(yè)務(wù)為導(dǎo)向，深入布局基于云原生的多云建設(shè)

本屆大會以“新業(yè)態(tài)·新動能·新教育”為主題，互聯(lián)網(wǎng)教育科技領(lǐng)域的眾多專家學(xué)者、技術(shù)大咖在現(xiàn)場圍繞中國教育科技的現(xiàn)狀、發(fā)展、創(chuàng)新、變革、機(jī)遇等多方面問題展開深度剖析。作業(yè)幫作為通過充分運(yùn)用新技術(shù)不斷推動教育產(chǎn)業(yè)優(yōu)化升級的領(lǐng)先代表，其在云原生、多云架構(gòu)領(lǐng)域的新思考、新布局在大會現(xiàn)場受到各界高度關(guān)注。

目前，作業(yè)幫的核心業(yè)務(wù)主要包括作業(yè)幫主APP、作業(yè)幫直播課、作業(yè)幫口算、鴨鴨AI課、智能硬件喵喵機(jī)等多款教育產(chǎn)品。其中，作業(yè)幫主APP作為一款為K12學(xué)生提供全學(xué)段的學(xué)習(xí)輔導(dǎo)工具，目前月活用戶已過億，題庫超過3億，拍照搜題的圖片識別準(zhǔn)確率超過95%；而作業(yè)幫直播課作為一款為K12學(xué)生提供全時段在線輔導(dǎo)課程的產(chǎn)品，目前已累計服務(wù)學(xué)員超6500萬，直播課APP是其學(xué)生端，在其后還有龐大的教研、教學(xué)、輔導(dǎo)工程體系支撐，作為一款商業(yè)化產(chǎn)品，拉新、轉(zhuǎn)化、留存相關(guān)的營銷體系也是很重要的一環(huán)。

董曉聰在演講中表示，作業(yè)幫既有傳統(tǒng)流量型互聯(lián)網(wǎng)產(chǎn)品，也有教育全鏈條的產(chǎn)業(yè)應(yīng)用，正是基于企業(yè)業(yè)務(wù)的高速發(fā)展現(xiàn)狀，使得作業(yè)幫在穩(wěn)定性、資源成本、人員效率、安全等方面面臨著諸多新挑戰(zhàn)。

“在線教育擺在我們面前不是一個個冷冰冰的UV、PV數(shù)字，而是一個個正在求知的學(xué)生，我們的穩(wěn)定性一定要做到更好，所以作業(yè)幫很早就開始探索多云架構(gòu)。”董曉聰指出，作業(yè)幫作為一家以業(yè)務(wù)為導(dǎo)向的公司，通過云原生架構(gòu)，用基礎(chǔ)設(shè)施接管業(yè)務(wù)中大量非功能邏輯，實(shí)現(xiàn)彈性、韌性、可觀測性、自動化、可持續(xù)等特性。“基于云原生架構(gòu)，解決了部署問題，我們還在此之上實(shí)現(xiàn)了一套可以在云之間自由遷徙的多云架構(gòu)。”

容器技術(shù)部署模式升級，實(shí)現(xiàn)應(yīng)用和資源的解耦

目前，作業(yè)幫云原生架構(gòu)的全貌從大的層次來看，主要包含資源和應(yīng)用兩層。“虛機(jī)架構(gòu)中應(yīng)用和資源兩層耦合，而容器技術(shù)的出現(xiàn)真正實(shí)現(xiàn)了兩者的解耦。向下，提供了CRI、CNI、CSI、device plugin等一系列資源抽象能力；向上，實(shí)現(xiàn)運(yùn)行環(huán)境的編排調(diào)度。”董曉聰表示。容器技術(shù)帶來的部署模式升級，從根本上解決了虛機(jī)模式下的混部、資源碎片多種問題。

作業(yè)幫在運(yùn)行環(huán)境構(gòu)建這塊遵循云原生的主線原則。不僅通過每個容器一個應(yīng)用，避免使用特權(quán)容器，優(yōu)化構(gòu)建緩存等原則，實(shí)現(xiàn)了穩(wěn)定、安全、性能方面的要求。“我們的最佳實(shí)踐，對于PHP pod而言，有一個PHP主容器，以及通過socket通信的幾個邊車，配置通過configMap注入，數(shù)據(jù)庫密碼信息由secret加密存儲。Golang pod也比較類似，只是不再需要日志等邊車。”值得一提的是，作業(yè)幫也把前端模塊容器化，這樣可以一鍵拉起前后端項(xiàng)目，大幅提高研發(fā)效率。

此外，從集群視圖來看，在資源拓?fù)渖希瑢τ贑PU和異構(gòu)計算GPU而言，作業(yè)幫使用了常規(guī)流量+彈性部分的架構(gòu)方案。同時，作業(yè)幫根據(jù)網(wǎng)絡(luò)隔離域劃分集群，根據(jù)業(yè)務(wù)領(lǐng)域劃分NameSpace。

突破虛機(jī)架構(gòu)弊端，依托云原生升級服務(wù)治理體系

在介紹了容器技術(shù)的部署、運(yùn)行環(huán)境、集群等內(nèi)容后，董曉聰還重點(diǎn)剖析了應(yīng)用層的服務(wù)治理體系，作業(yè)幫在進(jìn)行了徹底的云原生改造后，其服務(wù)注冊發(fā)現(xiàn)機(jī)制已更換為coreDNS+service機(jī)制。

如何實(shí)現(xiàn)新老兩套機(jī)制的過渡呢？我們通過將名字服務(wù)的信息同步到k8s集群，創(chuàng)建endpoint指向虛機(jī)的service，進(jìn)而實(shí)現(xiàn)控制面的打通。

而從數(shù)據(jù)面來看，虛機(jī)請求容器通過使用service域名訪問東西向的ingress集群實(shí)現(xiàn)。容器集群因?yàn)榇蛲藬?shù)據(jù)，訪問虛機(jī)使用和容器一樣的鏈路即可。

此外，在服務(wù)感知維度，作業(yè)幫的整體調(diào)用鏈路從用戶端的APP、H5、小程序等，到網(wǎng)關(guān)層，再到業(yè)務(wù)應(yīng)用，最后到中間件。我們將這些鏈路的日志統(tǒng)一收集到kafka。目前kafka集群可以支撐近千萬的TPS，峰值平均延時在10s內(nèi)。除了性能指標(biāo)外，穩(wěn)定性也是作業(yè)幫的重要考核因素，通過多級緩存來保障數(shù)據(jù)不丟。在收斂了日志采集后，下游只需要訂閱kafka即可，既解決了大數(shù)據(jù)日志源的問題，也解決了Logging、tracing、metrics的相關(guān)問題。監(jiān)控不再需要運(yùn)行在業(yè)務(wù)機(jī)器上和應(yīng)用爭搶資源，應(yīng)用的入向和出向日志也能繪制出調(diào)用鏈路。

多云架構(gòu)賦能在線教育新業(yè)態(tài)，四大維度收益明顯

在容器技術(shù)解決了計算及其周邊的存儲、網(wǎng)絡(luò)的抽象及高可用保障之后，新的挑戰(zhàn)則是如何把多云聯(lián)通起來。傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用時代，只需要把多個云廠商聯(lián)通，但是在線教育新的業(yè)務(wù)形態(tài)下，作業(yè)幫則需要把主講、輔導(dǎo)老師的網(wǎng)絡(luò)環(huán)境也納入生產(chǎn)體系。

為此，作業(yè)幫選擇了使用了雙供應(yīng)商組網(wǎng)方案，采用BGP+ECMP實(shí)現(xiàn)線路負(fù)載均衡，故障秒級自動切換，由此真正搭建完畢高可用的多云網(wǎng)絡(luò)拓?fù)洹?/p>

在調(diào)用拓?fù)鋵用妫鳂I(yè)幫在不同云上部署的均是全量服務(wù)，只是流量比例不同，由此實(shí)現(xiàn)單云內(nèi)的流量閉環(huán)。

值得注意的是，作業(yè)幫在今年完成云原生和多云建設(shè)后，公司在四大維度的收益明顯。一是穩(wěn)定性顯著提升，不再有應(yīng)用間的相互影響，單設(shè)備故障的影響時長也從分鐘級別縮短到秒級別。SLA從99.95%提升到99.99%。二是運(yùn)維效率的大幅提高，真正將運(yùn)維規(guī)范在運(yùn)行環(huán)境得到了落地，擴(kuò)容效率從小時級別提升到分鐘級別。三是成本的優(yōu)化，既有運(yùn)行環(huán)境升級帶來的性能提升，也有碎片的更充分利用，以及不同業(yè)務(wù)之間的資源使用互補(bǔ)。四是多云部署效率得到大幅度提高，從之前的月級別縮短到現(xiàn)在的周級別，效率提升80%以上。

在演講最后，董曉聰也對未來提出更多展望，他表示，作業(yè)幫希望在明年和云廠商容器、EMR團(tuán)隊(duì)一起進(jìn)一步探索更大規(guī)模的在離線混合部署，并基于operate實(shí)現(xiàn)中間件服務(wù)的云原生改造，借助servicemesh實(shí)現(xiàn)跨語言的服務(wù)感知、流量管控方案，以及在全鏈路壓測與AIOps上進(jìn)行更多新探索。