2025年7月26日下午，中國人工智能發展與安全研究網絡在上海世博中心金廳A成功舉辦“人工智能發展與安全”全體會議。上海市委常委、常務副市長吳偉、國家發展和改革委員會創新驅動發展中心主任霍福鵬出席并致辭。會議由清華大學文科資深教授、人工智能國際治理研究院院長薛瀾主持，來自清華大學、上海交通大學、多倫多大學、加州大學伯克利分校、牛津大學、中國信通院、中國電子信息產業發展研究院、中國電信集團、阿里巴巴集團、微軟公司等國內外科研院校、研究智庫和企業的近20位資深專家，圍繞人工智能發展與安全的前沿進展與應用實踐，深入探討如何安全地發展人工智能技術，如何促進成果共享、縮小智能鴻溝，如何為確保人工智能技術造福于全人類而開展國際合作，構建包容性的全球治理框架。

會議伊始，邀請諾貝爾和圖靈獎得主、多倫多大學教授杰弗里·辛頓與圖靈獎得主、清華大學交叉信息研究院、人工智能學院院長姚期智進行了一場高端對談。他們重點圍繞人工智能與神經科學、人工智能的“自我意識”、量子計算對人工智能發展的影響等前沿話題展開深度討論。他們談到，人工智能與合成生物學一樣，都是在創造“新的生命”，當前人工智能已經初步展現出很強的理解能力甚至“自我意識”，人們應該拋棄只有人類存在“意識”的固有思維。辛頓尤其強調，如何訓練對人類保持善意的人工智能，確?！爸悄芟蛏啤笔侨祟惐仨氷P注和解決的重要問題。

隨后，加拿大蒙特利爾大學教授約書亞·本吉奧和美國加州大學伯克利分校教授大衛·帕特森分別線上發言，分享了他們的獨到見解。本吉奧強調，過去幾年人們所見證的人工智能對社會的影響只是冰山一角，隨著其能力的不斷提升，安全風險也在同步增加，國際社會亟須加強合作，共同應對。帕特森分享了自己團隊的最近研究成果，他們發現人機協同時的能力優于人類與人工智能各自的單打獨斗，如果人類能把人工智能的應用聚焦于提升生產力，將獲得更多收益。

在隨后進行的專家討論環節，姚期智作為主持人邀請美國加州大學伯克利分校教授斯圖爾特·羅素、中國信息通信研究院院長余曉暉、英國皇家工程院院士約翰·麥克德米、清華大學交叉信息研究院副院長徐葳、奇安信集團合伙人鄔怡等專家，圍繞“AI與人類的和諧未來”問題展開研討。嘉賓們聚焦人工智能風險研判、評估及其治理的技術路徑等話題，談到人工智能與網絡等多領域的安全相互影響，需要在傳統安全防護手段的基礎上提升能力，呼吁加強跨學科協作，充分借鑒生物倫理、傳統工程安全等領域的經驗，構建“輔助博弈”框架，促使人工智能系統主動學習人類偏好而非簡單模仿行為，通過冗余驗證等“軟硬件結合”的方式降低人工智能風險等。

英國牛津大學布拉瓦尼克政府學院的創始院長林奈莉、上海交通大學文科資深教授季衛東、美國微軟公司前首席研究與戰略官克雷格·蒙迪、中國電子信息產業發展研究院黨委副書記胡國棟、中國電信集團網絡與信息安全首席專家劉紫千、阿里云智能集團副總裁劉湘雯等專家參加了薛瀾主持的討論，圍繞“人工智能發展與安全的全球治理”問題展開，在探討人工智能全球治理框架的同時，分享了中國人工智能發展與治理的最佳實踐。大家談到，智能體（Agent）的快速發展使得原本“點對點”的安全問題逐漸轉變為系統性安全風險，僅依靠行業自我監管很難有效應對。呼吁世界各國加強合作，通過建立類似國際原子能機構的專門機構等方式，形成具有廣泛共識的人工智能治理框架和標準規范，共同應對人工智能風險，?

最后，中國信息通信研究院、中國電子信息產業發展研究院、清華大學、上海人工智能實驗室4家網絡成員單位代表網絡聯合發布《中國人工智能安全承諾框架》，邀請中國電信集團、阿里巴巴、百度、MiniMax上海稀宇科技等相關企業代表發言，并開放邀請全球人工智能企業簽署?？蚣茉谙嚓P企業安全承諾基礎上新增針對加強安全治理國際合作和關于防范前沿人工智能安全風險的重要內容。

本場論壇論壇兼顧前沿議題與最佳實踐，旨在通過對風險治理技術路線、全球治理框架等現實問題的探討，結合中國有效實踐、安全承諾框架等實操內容的發布，推動全球人工智能治理從共識走向行動。論壇由清華大學人工智能國際治理研究院、中國電子信息產業發展研究院(賽迪研究院)、上海期智研究院、清華大學交叉信息研究院、中國信息通信研究院、上海人工智能實驗室等多家網絡成員單位共同承辦，現場注冊參會人數超過700人，CGTN等媒體全程直播，超過40萬觀眾在線參會。論壇取得圓滿成功，受到國內外專家和聽眾高度評價。