由清華大學戰略與安全研究中心承辦的2019世界和平論壇分會場之“人工智能：技術與治理”，于7月9日在京舉行。論壇就人工智能給人類帶來的影響、人工智能的發展方向、潛在風險和挑戰以及人工智能治理等議題進行了研討。

　　會議由清華大學戰略與安全研究中心主任傅瑩主持，多位國際國內知名專家和企業領袖出席論壇并發言。會上還發布了戰略與安全研究中心人工智能項目組的最新社會調研報告《中國青年視角下的人工智能風險與治理》。

　　(傅瑩主持分論壇)

　　近年來，人工智能逐漸成為國際社會廣泛關注的話題，人工智能技術的研發和應用帶來的機遇與挑戰、倫理與法規等問題，在不同領域和學科引發了熱烈的討論。傅瑩說，每一次科技的重大突破性發展，都會帶來潛在的風險與挑戰，人工智能被視為可能會影響人類未來的顛覆性技術，同時，制定相應規范的緊迫感也在上升。“中國在這一領域已經走在世界前列，剛剛發布了《人工智能北京共識》和《新一代人工智能治理原則——發展負責任的人工智能》，”傅瑩說：“但人工智能技術的影響不是局限在一國境內的，風險和挑戰也往往是跨境和跨界的，是世界性的，因此，國際社會需要通過對話和努力，共同探尋人工智能國際治理的路徑。”

　　中國科學院院士、清華大學人工智能研究院院長張鈸在演中談到人工智能的兩類安全挑戰：一類是由人工智能本身技術不夠成熟引發的問題;另一類是人工智能作為一項新技術的“雙刃劍”特點帶來的。他認為，需要從人的自律、規章制度、安全技術三個角度來思考應對措施。同時，他期待看到不同國家、不同學科、科研機構與行業之間的協同合作，以防止人工智能的濫用，使其最大程度服務于人類社會的福祉。

　　(中國科學院院士、清華大學人工智能研究院院長張鈸發表主旨講話)

　　電氣與電子工程師協會(IEEE)的約翰·哈文斯(John C. Havens)強調了制定人工智能領域“標準”的重要性。作為IEEE全球自動化及智能系統倫理倡議執行主任，他表示，好的標準應該容納廣泛參與，由各行各業的專家和從業人員、更多的年輕人以及不同國家和文化的人來共同制定。在約翰·哈文斯的論述的基礎上，黑斯廷斯中心顧問，耶魯大學生物倫理學跨學科中心科技與倫理學科主任溫德爾·瓦拉赫(Wendell Wallach)補充討論了如何將標準、規范和建議，真正落實到社會生產和生活中。

　　中國學者們在演講中回應了不久前發布的《人工智能北京共識》和《新一代人工智能治理原則——發展負責任的人工智能》，他們十分關注中國在該領域與國際社會的互動。

　　“美國、歐洲、日本這些世界主要的經濟體都出臺了自己的人工智能的戰略。”中國電子信息產業發展研究院(賽迪研究院)政策法規所所長欒群說：“但我相信我們也需要立足于中國文化的背景原則和規則。”作為《新一代人工智能治理原則》的主要設計者之一，中國科學院自動化研究所的類腦智能研究中心副主任曾毅表示，AI的全球治理原則，其宗旨歸根結底是以人為核心。“我們需要一種戰略性的設計來指導人工智能在未來30-40年的發展，”曾毅說：“我們需要將中國自身的哲學、思維和理念與世界分享，共同打造一個共享的未來。”

　　與曾毅所說的中國傳統哲學中的“和諧”觀念相呼應，香港中文大學系統工程與工程管理學系教授蒙美玲(Helen Meng)認為，“人類和人工智能可以實現一種‘共生’的關系，就像小丑魚和海葵一樣，他們互相依賴、互相保護。”基于人工智能與語言認知相關的項目研究，蒙美玲表達了人類可以通過AI打造“最優工具”，進而服務于社會福祉的積極展望。

　　會議進行了兩輪的小組座談，國際國內各行業共16位專家學者作為嘉賓，圍繞“人工智能”與“國際治理”展開了討論，并于與會的媒體、觀察員、學生和聽眾們進行了活躍的互動。

　　(格雷戈里·艾倫談如何讓人工智能朝著“安全”的方向發展)

　　對于人工智能技術本身的發展，各國專家學者提出了豐富多樣的觀點。新美國安全中心兼職高級研究員格雷戈里·艾倫(Gregory Allen)打了個比方，他說，電剛投入使用時，出現過許多問題，包括大量的事故和失火，人類不斷完善技術，尤其對電的安全給予了高度的重視和投入，現在電已經是非常安全的技術。因此，人們需要更多思考如何讓人工智能朝著“安全”的方向發展。馬孔·福斯特(Malcolm Forster)是復旦大學哲學學院特聘教授，他認為，描述人工智能技術本身的概念和語言，解釋這個技術的方式，應該便于人們獲取和理解。他相信在“理解”的基礎上才能制定更好的政策，實現更好的治理。清華大學人工智能研究院常務副院長孫茂松教授則表示，人工智能并不是“無所不能”的，“AlphaGo”也是在特定的條件，明確的邊界和單一的任務下才表現出優勢。他說，正如機器翻譯可以用在旅游中卻很少用于外交場合，《孫子兵法》的出其不意只能教給人卻無法教給機器，有很多事是人工智能做不到的。孫茂松認為，人工智能相關的討論很有價值，但政策和規范不宜超前。

　　人工智能與軍事相結合的問題也得到關注。斯德哥爾摩國際和平研究所的高級研究員司樂如(Lora Saalman)表示，人工智能的軍事化運用也是“雙刃劍”。它擁有的“機器學習”和“自主能力”既可以增加預警、防御、偵查、模擬能力，增強穩定性，也可以改善非戰略核武器和導彈系統，推動軍備競賽，加劇不對稱性，從而帶來不穩定性。布魯金斯學會外交政策項目客座研究員湯姆·斯特凡尼克(Tom Stefanick)則認為，現代AI并不大可能在可預見的未來改變大多數軍事系統，隨著持續性的在基礎人工智能、算法研究等方面的國際合作，AI的發展也不會帶來軍事方面的巨大差距。新美國安全中心高級研究員兼主任保羅·斯査瑞(Paul Scharre)則強調了“人”的重要性。他認為人類的大腦是最好、最先進的認知系統，在軍事決策中，人類應當保持對人工智能的控制，由人類而不是機器做決策。

　　網絡安全也是人們關注的問題。北京師范大學網絡法治國際中心執行主任吳沈括談到，新技術攻擊、新內容攻擊、新內容犯罪將是人工智能帶來的網絡安全挑戰。蘭德公司副首席技術官蘭德·沃茲曼(Rand Waltzman)則表達了對“黑客”問題的擔憂。他表示在AI領域三十多年的從業經驗體會是，最大的問題是防范AI黑客行為，這一話題雖然較少出現在相關討論中，但其風巨大，不可忽視。

　　結合企業創新經驗，地平線創始人兼 CEO余凱，以及騰訊信息安全執行委員會主任楊鵬，也分別以“計算的趨勢”和“科技向善”為關鍵詞進行了分享，表達了企業與研究機構共同努力，打造更加安全、可靠的人工智能技術的決心和希望。

　　(地平線CEO余凱介紹“計算的趨勢”)

　　會議還為青年提供了發聲的舞臺。在清華大學交叉信息研究院助理教授于洋的帶領下，清華大學電子工程系大三年級的騰龍和蔣建平兩位同學，發布了戰略與安全研究中心人工智能項目組的最新社會調研報告《中國青年視角下的人工智能風險與治理》。他們表示，相比較專家學者們對AI在政治、軍事、安全等領域的關注，青年群體更加關注AI對經濟和社會的影響。在他們的調查中，青年群體對人工智能與就業、消費、個人信息安全等問題有較高的關注。

　　(《中國青年視角下的人工智能風險與治理》社會調研報告發布)

　　在場的嘉賓、觀察員和聽眾也和發言的專家學者們進行了熱烈的討論，話題涵蓋與AI相關的政策、教育、環境等各個方面。會議主持人傅瑩感謝了所有參與會議與討論的來賓，以及投入該領域的青年人們，希望大家的研究和討論不斷深入。“清華大學主辦的這個論壇叫世界和平論壇，”傅瑩說，“盡管形勢波云詭譎，只要我們都相信和平，我們就有理由繼續努力前行。”