因此，對(duì)于有極高風(fēng)險(xiǎn)的技術(shù)，我們需要持續(xù)關(guān)注安全問(wèn)題。這方面的典型案例是核技術(shù)。核技術(shù)的產(chǎn)生就與戰(zhàn)爭(zhēng)緊密相關(guān)，并且被直接應(yīng)用于戰(zhàn)爭(zhēng)，讓全世界所有人都看到了它所帶來(lái)的巨大傷亡和毀滅性風(fēng)險(xiǎn)。之后，從切爾諾貝利事故到福島核事故，一系列核事故帶來(lái)的災(zāi)難一再提醒人們關(guān)注核技術(shù)的風(fēng)險(xiǎn)防控。據(jù)說(shuō)目前全球核技術(shù)領(lǐng)域95％的研發(fā)經(jīng)費(fèi)都被用在安全防控的研發(fā)上。

中國(guó)新聞周刊：核技術(shù)確實(shí)是一個(gè)很好的例子，但對(duì)其安全問(wèn)題的重視是發(fā)生在災(zāi)難發(fā)生后。人類社會(huì)是否必須經(jīng)歷一場(chǎng)大災(zāi)難，才能真正推動(dòng)對(duì)某項(xiàng)新技術(shù)的安全風(fēng)險(xiǎn)防控？

薛瀾：社會(huì)對(duì)于新技術(shù)的風(fēng)險(xiǎn)認(rèn)識(shí)確實(shí)存在滯后性。所以，如何讓社會(huì)公眾對(duì)新技術(shù)的潛在危害程度有更清晰的認(rèn)識(shí)，是一個(gè)巨大的挑戰(zhàn)。

人工智能技術(shù)和其他技術(shù)的安全風(fēng)險(xiǎn)還不太一樣。即使是原子彈這樣的核技術(shù)應(yīng)用，它帶來(lái)的危害還是在人類控制之下的。而如果通用人工智能系統(tǒng)產(chǎn)生了自我保護(hù)、自我發(fā)展的意識(shí)，不再受人類控制，乃至無(wú)法接受人類是它主人的現(xiàn)實(shí)，那我們所有人類的生存都將面臨危險(xiǎn)，這種安全問(wèn)題一旦失控就是不可挽回的。所以，我們希望千萬(wàn)不要走到這一步。

當(dāng)然，如何幫助全社會(huì)對(duì)新興技術(shù)的風(fēng)險(xiǎn)建立一個(gè)全面客觀的認(rèn)識(shí)也是刻不容緩的事情。一些文學(xué)藝術(shù)作品或科幻作品對(duì)于人工智能技術(shù)的風(fēng)險(xiǎn)也有一些不切實(shí)際的夸大，使得社會(huì)部分人群也對(duì)人工智能技術(shù)產(chǎn)生不必要的恐懼，這樣的情況也是需要注意的。

中國(guó)新聞周刊：在人工智能自主武器的治理上，以美國(guó)為代表的部分技術(shù)先進(jìn)國(guó)家和其他國(guó)家之間的觀點(diǎn)并不相同。一些國(guó)家為了自己的軍事優(yōu)勢(shì)，不希望禁止對(duì)高風(fēng)險(xiǎn)技術(shù)的研發(fā)和應(yīng)用。這種難題如何破解？

薛瀾：提到人工智能在軍事沖突中的應(yīng)用，我認(rèn)為禁止人工智能在軍事領(lǐng)域的應(yīng)用是我們大家共同努力的方向。只有這樣，才能最大程度地降低安全失控的風(fēng)險(xiǎn)。中國(guó)自2014年以來(lái)積極參與《特定常規(guī)武器條約》締約國(guó)關(guān)于致命性自主武器系統(tǒng)的討論，是最早提出應(yīng)禁止開(kāi)發(fā)和應(yīng)用完全自主的致命性武器的國(guó)家之一。

但是，一些世界主要國(guó)家，特別是聯(lián)合國(guó)安理會(huì)的其他常任理事國(guó)，并沒(méi)有加入中國(guó)這一呼吁。之后，國(guó)際社會(huì)又提出禁止應(yīng)用完全自主的大規(guī)模致命性武器（但不禁止開(kāi)發(fā)）等主張，依然沒(méi)有得到除中國(guó)以外的其他大國(guó)的響應(yīng)。

國(guó)際政治的現(xiàn)實(shí)是，一些國(guó)家認(rèn)為自主武器是在戰(zhàn)爭(zhēng)中減少人員傷亡的好辦法，是讓自己形成戰(zhàn)略優(yōu)勢(shì)的好工具。所以對(duì)于應(yīng)當(dāng)如何限制自主武器的開(kāi)發(fā)應(yīng)用，各國(guó)還存在不同的判斷。但即使這樣，有些安全問(wèn)題是大家需要共同面對(duì)的。

一旦人工智能系統(tǒng)不受人類控制，我們面對(duì)的問(wèn)題就不再是國(guó)家和國(guó)家之間沖突的問(wèn)題，而是“碳基和硅基的對(duì)抗”。此外，主權(quán)國(guó)家之間的沖突可能還會(huì)受到各種國(guó)際公約和規(guī)則的制約，但如果有極端組織或者個(gè)人出于對(duì)社會(huì)的不滿，使用人工智能技術(shù)報(bào)復(fù)社會(huì)，其后果將不堪設(shè)想。面對(duì)這些問(wèn)題，全人類的利益一致，所采納的風(fēng)險(xiǎn)防控機(jī)制和政策也應(yīng)一致。這就如同民航業(yè)的安全檢查，各國(guó)都會(huì)按照統(tǒng)一的國(guó)際標(biāo)準(zhǔn)執(zhí)行。

復(fù)雜的“機(jī)制復(fù)合體”

中國(guó)新聞周刊：在人工智能全球治理的發(fā)展問(wèn)題上，中共中央政治局委員、外交部部長(zhǎng)王毅在兩會(huì)記者會(huì)上強(qiáng)調(diào)，要促進(jìn)各方加強(qiáng)技術(shù)共享，努力彌合智能鴻溝，不讓任何國(guó)家掉隊(duì)。你認(rèn)為應(yīng)如何保證“全球南方”國(guó)家不在人工智能技術(shù)革命中落后？

薛瀾：首先，在風(fēng)險(xiǎn)防控問(wèn)題上，要讓人類社會(huì)的所有成員表達(dá)自己的意愿。即使沒(méi)有掌握新技術(shù)的國(guó)家，也有權(quán)利和義務(wù)就技術(shù)安全問(wèn)題作出自己的判斷，表達(dá)自己的意愿并參與規(guī)則制定。

其次，人工智能發(fā)展會(huì)帶來(lái)巨大的經(jīng)濟(jì)社會(huì)利益，要保證發(fā)展中國(guó)家在技術(shù)革命的過(guò)程中也能分享紅利。發(fā)展中國(guó)家在這個(gè)問(wèn)題上的意愿是非常強(qiáng)烈的。2022年，我在埃及作了一個(gè)關(guān)于中國(guó)人工智能發(fā)展的報(bào)告，埃及政府的許多官員、學(xué)者對(duì)此非常感興趣，特別希望和中國(guó)加強(qiáng)合作，希望埃及也能“趕上”。

在具體操作層面，這就需要中國(guó)、美國(guó)等人工智能“第一梯隊(duì)”國(guó)家在全球技術(shù)共享上采取更多的積極措施。這包括和發(fā)展中國(guó)家的相關(guān)機(jī)構(gòu)、高校及企業(yè)合作，使他們盡快掌握和應(yīng)用人工智能技術(shù)，為社會(huì)造福，同時(shí)也要保證他們能安全地使用新技術(shù)。