中評社北京9月2日電／8月29日，2019世界人工智能大會在上海舉行。外交部原副部長、清華大學戰略與安全研究中心主任傅瑩在世界人工智能大會治理論壇上發表“人工智能的治理與國際合作”為題的講話。以下為演講全文：
一、關於人工智能治理面臨的挑戰
進入21世紀的第二個十年，人工智能技術的應用進入快速發展的階段，隨著AlphaGo為代表的深度學習算法的成熟，人工智能技術出現大面積應用的趨勢。我最近訪問了一些企業，昨天在上海還看了三家企業，可以明顯地感受到我國人工智能產業所呈現出來的蓬勃發展態勢。可以期待，未來人類的生產和生活方式將發生更大的變化，生活將變得更加舒適和便利。
今年7月，我們在清華大學的世界和平論壇期間舉辦了三場論壇，邀請70多位國內外專家學者和企業家圍繞人工智能的風險和治理進行研討。大家比較一致的看法是，人工智能技術是一把“雙刃劍”，一方面帶來科技革命和產業升級的重要機會，另一方面，也帶來新的安全風險，在治理上人類將面臨與以往完全不同的難題。
例如，在立法上需要有新的思維。傳統的法律是要以社會基本共識為基礎的，因此往往要滯後於社會實踐。但是在人工智能技術上，我們恐怕沒有這樣奢侈的時間條件，因為這項技術的應用影響之快、之大，遠不同於傳統技術，治理的需求與技術的應用幾乎同步出現。
再比如，傳統立法者關注的是人與人之間的關係。而人工智能作為“非人行為體”，未來會越來越廣泛地參與人類活動，那麼，在人機共存，甚至人機衝突的情況下，如何面對和處置人類與機器的矛盾呢？“機器代替人”做決策的情況已經不是想象中的事，波音737-MAX的空難就是一個重要的警示。
人工智能的到來對就業模式的快速衝擊也是前所未有的。清華大學戰略與安全研究中心人工智能項目組的於洋老師牽頭做的《中國青年視角下的人工智能技術（AI）風險和治理》調查項目中，超過50%青年人表達的頭等關切是失業風險。如同以往的技術革命，人工智能將取代大量程式化的工作崗位，同時也會創造出新型崗位和就業機會。挑戰在於，如何才能讓人才結構的調整跑贏技術的更新迭代和產業結構的躍升？
不能忽視的還有在倫理規範方面的新問題。例如國際上討論比較多的人群歧視和對個人隱私的尊重和保護等問題。有外國人對我說，中國人不需要隱私保護，我認為這是偏見。我國立法高度重視對個人權利的維護。在本月全國人大常委會審議的民法典人格權編草案稿中，針對收集、處理自然人個人信息有明確規定，要求必須“征得該自然人或者其監護人同意”等，而且把個人生物識別信息也納入保護的範圍。
二、我國在創新制度和手段、推進人工智能治理方面加快部署
習近平總書記明確要求，“要加強人工智能發展的潛在風險研判和防範”，“要確保人工智能安全、可靠、可控”，“要整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。”
總書記的要求是我們推進人工智能治理的重要指導方針。黨中央和國務院對人工智能的部署採取的是發展和治理同步推進的方針。今年2月科技部牽頭組建了中國國家新一代人工智能治理專業委員會，6月該委員會發布了新一代人工智能治理8條原則，強調發展負責任的人工智能。工信部在2017年就頒布了《促進新一代人工智能健康發展三年行動計劃（2018-2020）》，其中也對治理提出要求。現在的重要任務是如何讓這些規則和要求落地，形成有利於我國人工智能健康成長的良性環境。上海在人工智能的研發和應用方面走在全國的前列，積極探索治理路徑，重視推進國際合作。在科技部和工信部的支持下，上海推動建立了國家人工智能創新應用先導區和國家新一代人工智能創新發展試驗區。可以期待，上海在人工智能治理的規則與制度的創新、開展國際合作方面也將走在全國的前列。
考慮到這個新興領域自身獨特的性質，我們一方面要加快對立規和立法的研究，另一方面也要依靠科學界和企業界採取負責任的態度和行為。如果科學家在每一項新技術的研發中都能思考其負面風險，如果製造商在每一個新技術的應用中同步構建風險管理的解決辦法，那麼，對這方面的挑戰就不難找到應對辦法，其立法和規範也就不難走出新的路徑。
目前很多人工智能企業希望有法律責任和範圍的清晰界定，認為這樣更有利於企業的發展，他們在採取一些自律措施的同時，也期待國內整體規則環境和基礎條件更快得到完善。
|
