全球首個(gè)！英美就人工智能安全達(dá)成雙邊協(xié)議

當(dāng)?shù)貢r(shí)間4月1日，美國和英國簽署了一項(xiàng)具有里程碑意義的人工智能協(xié)議備忘錄，宣布達(dá)成“人工智能安全科學(xué)合作伙伴關(guān)系”，對英美兩國政府將如何匯集有關(guān)人工智能安全的技術(shù)知識(shí)、信息和人才作出規(guī)劃。英美也成為首個(gè)就如何測試和評估新興人工智能模型風(fēng)險(xiǎn)開展正式合作的兩個(gè)國家。該協(xié)議是世界上首個(gè)關(guān)于人工智能安全的雙邊安排，也是在各國政府紛紛推動(dòng)加強(qiáng)對新技術(shù)帶來的生存風(fēng)險(xiǎn)的監(jiān)管之際達(dá)成的。

此前，聯(lián)合國大會(huì)在3月21日通過了首個(gè)關(guān)于人工智能的全球決議，呼吁推動(dòng)開發(fā)“安全、可靠和值得信賴的”人工智能系統(tǒng)，以促進(jìn)可持續(xù)發(fā)展。歐洲議會(huì)也在3月通過了《人工智能法案》。

清華大學(xué)計(jì)算機(jī)系長聘教授，清華大學(xué)人工智能研究院視覺智能研究中心主任鄧志東告訴第一財(cái)經(jīng)記者，要加大AI領(lǐng)域重大方向性的全球安全監(jiān)管力度，特別是對AGI的安全風(fēng)險(xiǎn)進(jìn)行分級(jí)管控。

趕在下一代模型問世之前合作

去年11月，英國新成立了人工智能安全研究所（AISI），美國也在同期表示要設(shè)立同類機(jī)構(gòu)，以評估前沿人工智能模型的風(fēng)險(xiǎn)，目前美國已經(jīng)表示要同200家公司和實(shí)體合作。

此次英美的人工智能合作協(xié)議將使英美在未來可以相互借調(diào)研究人員交流專業(yè)知識(shí)。兩家機(jī)構(gòu)還將共同研究如何獨(dú)立評估由OpenAI和谷歌等公司建立的私人人工智能模型。據(jù)悉雙方的合作關(guān)系是以英國情報(bào)機(jī)構(gòu)英國政府通信總部（GCHQ）和美國國家安全局在情報(bào)和安全相關(guān)事務(wù)上的合作為藍(lán)本的。

英國科學(xué)、創(chuàng)新與技術(shù)內(nèi)閣大臣唐蘭（Michelle Donelan）和美國商務(wù)部長雷蒙多（GinaRaimondo）在華盛頓共同簽署了上述協(xié)議。唐蘭表示："美國作為人工智能強(qiáng)國，與英國簽署這項(xiàng)協(xié)議，充分說明了我們在人工智能安全方面的領(lǐng)先地位?！彼a(bǔ)充道，由于許多最先進(jìn)的人工智能公司目前都在美國，美國政府的專業(yè)知識(shí)對于了解人工智能的風(fēng)險(xiǎn)和要求公司履行承諾至關(guān)重要。

唐蘭并說："明年是我們真正需要迅速采取行動(dòng)的時(shí)候，因?yàn)橄乱淮ㄈ斯ぶ悄埽┠Ｐ图磳柺溃鼈兛赡軙?huì)徹底改變游戲規(guī)則，而我們還不知道它們將提供的全部能力?！?/p>

不過，唐蘭堅(jiān)持認(rèn)為，盡管英國對人工智能的安全性進(jìn)行了研究，并確保設(shè)置了防護(hù)欄，但由于該技術(shù)的發(fā)展速度太快，英國并不打算在短期內(nèi)對其進(jìn)行更廣泛的監(jiān)管。

唐蘭和雷蒙多均表示，需要緊急采取聯(lián)合行動(dòng)來應(yīng)對人工智能風(fēng)險(xiǎn)?！?/p>

雷蒙多則表示：”人工智能是我們這一代的決定性技術(shù)，拜登政府計(jì)劃很快宣布其人工智能團(tuán)隊(duì)新成員，美方目前正在動(dòng)用政府全部資源（促成此事）。我們的合作關(guān)系表明，我們不是在逃避這些問題，而是在應(yīng)對它們。由于我們的合作，我們的研究所將對人工智能系統(tǒng)有更好了解，并對人工智能進(jìn)行更有力評估，發(fā)布更嚴(yán)格指導(dǎo)?！?/p>

據(jù)悉，英國政府支持的AISI由科技投資人和企業(yè)家霍加斯（IanHogarth）擔(dān)任主席，已經(jīng)聘請了谷歌DeepMind和牛津大學(xué)的精英研究人員，開始測試現(xiàn)有的和未發(fā)布的人工智能模型。

OpenAI、谷歌DeepMind、微軟和Meta等科技企業(yè)則簽署了自愿承諾書，將開放其最新的生成式人工智能模型供英國人工智能研究所（AISI）審查。

多納蘭還表示，她和雷蒙多計(jì)劃討論共同面臨的挑戰(zhàn)，如人工智能對今年即將舉行的選舉的影響、人工智能計(jì)算基礎(chǔ)設(shè)施的需求等，"分享我們的技能組合，以及我們?nèi)绾卧诳傮w上深化合作，為公眾謀福利"。

羅蘭貝格全球管理委員會(huì)聯(lián)席總裁戴璞（DenisDepoux）接受第一財(cái)經(jīng)記者采訪時(shí)表示：“美國雖然沒有相應(yīng)的聯(lián)邦法律，但一些州已經(jīng)實(shí)施了自己的規(guī)定。這凸顯了監(jiān)管機(jī)構(gòu)重視保護(hù)消費(fèi)者隱私、防止技術(shù)濫用的趨勢?！贝麒闭f，這種監(jiān)管轉(zhuǎn)變是積極的，不僅為消費(fèi)者提供保護(hù)，也通過保護(hù)數(shù)據(jù)為公司自身提供了安全，AI領(lǐng)域也將如此。

聯(lián)大通過全球人工智能監(jiān)管協(xié)議

如前所述，除了英美兩國的人工智能合作協(xié)議之外，美國也在聯(lián)合國積極推進(jìn)該領(lǐng)域規(guī)則設(shè)立。

聯(lián)合國大會(huì)在3月21日通過的首個(gè)關(guān)于人工智能的全球決議，是該組織首次就監(jiān)管人工智能這一新興領(lǐng)域通過決議。決議草案由美國提交，同時(shí)還有120多個(gè)會(huì)員國成為“共同提案國”或表示支持。

大會(huì)強(qiáng)調(diào)，就該決議而言，“安全、可靠和值得信賴的人工智能系統(tǒng)”是指非軍事領(lǐng)域的人工智能系統(tǒng)，必須在其整個(gè)生命周期內(nèi)“尊重、保護(hù)和增進(jìn)人權(quán)和基本自由”。

決議同樣提出“人們在線下享有的權(quán)利也必須在線上得到保護(hù)，包括在人工智能系統(tǒng)的整個(gè)生命周期內(nèi)”。

決議表示，各國還認(rèn)識(shí)到，“目前存在人工智能和其他數(shù)字方面的鴻溝，國家之間和國家內(nèi)部的技術(shù)發(fā)展水平參差不齊，發(fā)展中國家在跟上這一迅速加速的步伐方面面臨獨(dú)特挑戰(zhàn)，這對可持續(xù)發(fā)展造成障礙”。

大會(huì)因此“決心彌合國家之間和國家內(nèi)部的人工智能鴻溝和其他數(shù)字鴻溝”，同時(shí)“促請會(huì)員國并邀請其他利益攸關(guān)方采取行動(dòng)，與發(fā)展中國家合作并向其提供援助，以實(shí)現(xiàn)包容和公平地獲得數(shù)字化轉(zhuǎn)型以及安全、可靠和值得信賴的人工智能系統(tǒng)所帶來的惠益”。

不過，意大利經(jīng)濟(jì)發(fā)展部前副部長杰拉奇（Michele Geraci）對第一財(cái)經(jīng)記者表示，他對全球AI治理并不樂觀?！皩?shí)現(xiàn)創(chuàng)新與監(jiān)管之間的平衡是一項(xiàng)重大挑戰(zhàn)，尤其是歐盟經(jīng)常被認(rèn)為容易過度監(jiān)管。目前試圖通過立法解決問題的方法可能不是最有效的策略。人工智能未來五年的影響和發(fā)展軌跡在很大程度上仍無法預(yù)測，因此很難設(shè)想其潛在應(yīng)用。這種不確定性使制定法律來管理一項(xiàng)仍在發(fā)展的技術(shù)的任務(wù)變得更加復(fù)雜。對尚未完全實(shí)現(xiàn)的事物進(jìn)行監(jiān)管，有可能進(jìn)入不斷修訂法律的循環(huán)，從而無意中阻礙進(jìn)步?！苯芾嬲f。

鄧志東對記者表示，既不要妨礙AI的探索與創(chuàng)新活力，以期其蓬勃發(fā)展加快增進(jìn)人類福祉，但也必須考慮人類的整體安全利益，處理好各個(gè)發(fā)展階段的安全優(yōu)先級(jí)別，在實(shí)踐中把握好最佳AI風(fēng)險(xiǎn)管控時(shí)機(jī)。