在機器人“三大法則”的限制下，人類與機器人和諧相處，但在一起離奇的兇殺案發(fā)生后，警探調(diào)查發(fā)現(xiàn)機器人產(chǎn)生了自我意識，隨時可能成為人類的“公敵”……近年來，隨著通用人工智能迅速發(fā)展，二十年前上映的電影《我，機器人》中的恐怖劇情，成為現(xiàn)實的概率正逐漸增加。但對于人工智能國際治理的具體準則，國際社會仍未達成共識。

清華大學文科資深教授、國家新一代人工智能治理專業(yè)委員會主任薛瀾

2024年3月7日，中共中央政治局委員、外交部部長王毅在全國兩會記者會上表示，人工智能進入爆發(fā)式發(fā)展的關鍵階段。我們主張發(fā)展與安全并重，既要擁抱新事物新機遇，也要裝好剎車再上路，共同推進人工智能全球治理。

實現(xiàn)人工智能全球治理難在何處？人類真的需要經(jīng)歷一場危機才能意識到人工智能的安全風險嗎？怎樣幫助發(fā)展中國家在人工智能發(fā)展中不掉隊？近日，就這些問題，《中國新聞周刊》專訪了清華大學文科資深教授、國家新一代人工智能治理專業(yè)委員會主任薛瀾。

分歧與共識

中國新聞周刊：過去一年來，人工智能全球治理成為國際社會的熱門話題，中美領導人舊金山會晤就此達成重要共識，中國發(fā)布《全球人工智能治理倡議》，提出“確保有益，確保安全，確保公平”的基本原則。與此同時，歐盟、英國等也推動召開了多次關于人工智能議題的峰會。在此背景下，我們距離形成一個全球性的人工智能治理共識還有多遠？

薛瀾：一方面，各國對人工智能全球治理的宏觀原則存在基本共識。中國、美國、歐盟提出的人工智能治理原則，都以負責、包容、平等、安全等理念為核心。但另一方面，世界各主要經(jīng)濟體還沒有進入到就人工智能全球治理的具體措施進行充分、深入交流的階段。各國各自出臺了人工智能國內(nèi)治理的法律或措施，但還沒有把這些規(guī)則拿到桌面上進行對比，看看對共識性原則的理解在實踐中是否有差異、是否可以協(xié)調(diào)形成全球性規(guī)則。

關于未來可能達成的全球性共識，我們首先要明確，人工智能治理有兩個核心內(nèi)容。一是發(fā)展問題，即如何構建良好的制度規(guī)則，推動人工智能創(chuàng)新發(fā)展，科技向善；一是安全問題，包括保證安全底線和防范其他風險。這是所有治理邏輯都必須依托的出發(fā)點。

在安全底線問題上，全球有明顯的共同利益。大家都擔心人工智能未來可能不受人類社會控制。所以，大家會尋找為了維護共同利益而必須遵守的規(guī)則。但在一般的社會應用層面的風險問題上，各國對不同風險的評判不同，價值觀念不同等，會存在不同的立場。比如爭議很大的人臉識別技術，有些社會反應比較強烈，擔心會侵犯個人隱私及泄露個人信息；但也有些社會感覺如果應用恰當并加上合理的規(guī)制，承擔一些不高的風險可以換取更加方便的社會應用。

在發(fā)展問題上，各方的差別更大一些。以美國為例，相比中國和歐盟，美國一般來說比較強調(diào)自由市場的力量，依靠市場推動科技創(chuàng)新。在人工智能發(fā)展和治理方面，態(tài)度比較寬松，沒有進行單獨立法，而是以白宮行政令的形式要求企業(yè)遵循一系列規(guī)則。所以在人工智能規(guī)則制定方面，美國表現(xiàn)不算積極。

考慮到種種分歧，各方最終能否形成治理人工智能的全球性規(guī)則，還要打一個問號。一個可能的結果是：各國在安全底線問題上達成共識并建立機制，但在其他問題上，各國會按照各自的治理邏輯進行規(guī)制，并在一定程度上協(xié)調(diào)。

何處停步？

中國新聞周刊：人工智能的安全問題，和歷史上新技術帶給人類的安全挑戰(zhàn)相比，有什么不同之處？歷史上是否有什么技術安全治理的經(jīng)驗可以汲取？

薛瀾：人類社會走到今天，在科技發(fā)展方面始終面臨著一個關鍵問題，即需要對新科技的發(fā)展進行收益和風險的評估和權衡。有些技術固然可以幫助我們實現(xiàn)更好的生活，但也可能帶來更大的安全風險，所以我們必須考慮在什么地方停步。

以生命科學領域的基因編輯技術為例，像賀建奎事件所體現(xiàn)的那樣，對人類基因進行編輯改造的事情在技術上是可能的，但在其背后的倫理和社會責任問題想清楚之前，世界各國的學術共同體和醫(yī)務界都認為這個技術不能再“向前一步”。通用人工智能技術從本質(zhì)上說也是潛在風險極高，一旦出錯其后果可能是無法挽回的，屬于人類社會必須面對的終極技術。