速途網11月23日訊（報道：喬志斌）“螞蟻集團基于可信AI技術自研的、IMAGE智能風控體系中的“E”——“端云協同風控”能力已經覆蓋了99%的業務場景。”螞蟻集團機器智能部總經理、螞蟻安全實驗室學術帶頭人顧鳴，在前不久剛剛結束的2021年國際信息與通信安全會議（ICICS2021）中，首次對外宣布。

作為本次會議的特邀嘉賓，顧鳴就螞蟻集團在可信AI技術領域的研究實踐“IMAGE智能風控體系”做了專題報告。

他在報告中指出， “互聯網金融風控場景是天然的對抗博弈場，支付寶從未停止過與黑產及黑產背后的AI做斗爭”。在內容安全、反洗錢、反欺詐等領域中，螞蟻集團對AI模型決策過程及結果的可解釋性要求、對抵御黑產攻擊的魯棒性（Robustness）要求，已經達到了空前的高度。與此同時，隨著隱私保護和公平性訴求越來越成為社會發展中的主流思潮，相關領域的技術研發已經不僅僅停留在企業社會責任層面，而成為了企業發展的生命線。

盡管可信AI技術體系在整個螞蟻集團生態版圖中的應用極為廣泛，但作為支付寶最核心的智能風控中樞，“IMAGE智能風控體系”是螞蟻集團基于可信AI技術體系最完整的應用和實踐案例，全面踐行著隱私保護、可解釋性、魯棒性和公平性的技術理念。

以“IMAGE”中的“E”端云協同風控為例，該技術通過在用戶的智能終端上部署安全能力，實現隱私數據本地計算，在保護用戶隱私權益的前提下，為用戶提供數據及資金安全的有效防御。目前，該技術已經在支付寶99%的場景中上線。在剛剛過去的雙十一中，支付寶資損僅為百余元，資損率創下歷史新低；其中，端云協同風控能力覆蓋交易筆數近九成，立下汗馬功勞。

隱私保護的第三視角：端云協同

著名的人工智能研究學者吳恩達曾指出“AI=Data+Code”（人工智能=數據+代碼）。數據一直是人工智能發展中不可回避的話題。數據的使用，推動著機器學習等人工智能技術的迅速發展、為人類提供了優質服務和決策支持，但數據的不當使用也引發了社會各界對隱私保護的擔憂。

為促進人工智能技術的有序、良性發展，一方面，學術界和工業界積極研發了包括“多方安全計算”在內的、多種隱私計算相關技術，以幫助人工智能實現數據的“可用而不可見”，從而實現對數據的合理、合法、合規使用。另一方面，研究者們從未放棄對人工智能“如何減少數據依賴”的研究。

顧鳴在分享中指出，“IMAGE”智能風控系統中的“E”——“端云協同風控”（Edge to Cloud），則是隱私保護中的第三視角。“端云協同風控”將需求隱私數據計算在用戶智能終端（如手機）中進行計算，將不含隱私信息的決策結果輸送到云端，以實現“端云協同”的風控保障。“可信AI中的隱私保護是一個比隱私計算更大的概念，持續創新視角和解決方案，是踐行隱私保護的重點。將數據放在“端”上計算，卻不影響“云”提供的安全保障服務，這是對用戶隱私最有效的保護。”顧鳴強調。

目標與實現之間 隔著“八十一難”

其實早在2015年，螞蟻集團內部就已經啟動了首個“端特征”的研究項目，邁出了端云協同風控研究的第一步，但研發過程面臨著諸多挑戰。

例如，最初在智能終端（如手機）上，機器學習技術的研發及應用并不成熟，需要技術團隊打破傳統的建模方式，來解決諸如“端數據表征”等技術問題。同時，由于智能終端之間的巨大差異，能在蘋果手機上跑的模型，低端機卻未必跑得了。螞蟻安全實驗室的技術團隊就此提出了“動態千機千模”的方案，通過對模型的有效簡化和適配，選擇匹配用戶智能終端的風控模型下載計算；2021年創新了“AI算力網絡”，以實現“端”和“云”之間算力的全局化調配。

解決了計算能力的問題，還需要應對安全挑戰。畢竟，風控的核心是保護用戶的數據及資金安全。在端云協同的過程中，模型和信息的加密在智能終端上、決策也在智能終端上，一旦“端”被攻破，如果“云”不能及時獲知，風險控制將無從談起。

自2018端云協同風控上線以來，不僅為用戶提供了基于隱私保護的安全防御能力；也幫助支付寶在大促等流量高并發期，極大地緩解了風控計算壓力——計算壓力分流至“端”；更為“云”上風控模型提供了更大的響應和計算空間，為進一步降低資損率，提供了可能，可謂“三贏”。

起于應用、興于應用的可信AI

麥肯錫相關報告曾指出，人工智能技術的快速發展和應用落地，為人類社會帶來的生產力變革已經超越了歷次科技革命。而人工智能在推動和改變人類社會的同時，其安全和可信性也進一步引發了人們對AI的擔憂。顧鳴強調，“作為制約AI技術發展的瓶頸，安全和可信性研究無疑將成為未來三十年人工智能技術的關鍵環節。”伴隨著人工智能的廣泛應用而興起的“可信”問題，將是人工智能發展中突破瓶頸的“應用型命題”，只有堅持應用探索、充分實踐，才能將技術理念真正變成科技發展的護城河。