智東西（公眾號(hào)：zhidxcom）
編譯 | 楊蕊伃
編輯 |?漠影

智東西8月29日消息，據(jù)《紐約時(shí)報(bào)》報(bào)道，周三，美國(guó)加州立法者通過了一項(xiàng)備受爭(zhēng)議的法案，旨在對(duì)人工智能（AI）設(shè)立新的限制，確保AI技術(shù)既具有創(chuàng)新性，也具備安全性和可靠性。

SB-1047法案全稱“前沿AI模型安全創(chuàng)新法案”。其目的是為那些開發(fā)成本超過1億美元或具備一定計(jì)算能力的開發(fā)者建立安全準(zhǔn)則，以保障大規(guī)模AI模型的安全性。

據(jù)悉，本周還需再進(jìn)行一次程序投票，最后由美國(guó)加州州長(zhǎng)加文·紐森（Gavin Newsom）于9月30日之前決定簽署還是否決。

盡管歐盟已經(jīng)制定了AI法案，但美國(guó)尚未通過有關(guān)限制使用較高風(fēng)險(xiǎn)技術(shù)的法律，如限制使用面部識(shí)別軟件。

一、美國(guó)加州要求AI公司進(jìn)行安全性測(cè)試

美國(guó)加州議會(huì)批準(zhǔn)的SB-1047法案要求大型AI公司在向公眾發(fā)布其系統(tǒng)之前，必須對(duì)系統(tǒng)進(jìn)行安全性測(cè)試。

據(jù)路透社報(bào)道，SB-1047還要求開發(fā)人員聘請(qǐng)第三方審計(jì)師來評(píng)估其安全實(shí)踐，并為公開反對(duì)AI濫用行為的舉報(bào)人提供額外保護(hù)。

此外，加州AI法案允許州檢察長(zhǎng)向造成重大傷害事故的AI制造商提起訴訟，例如死亡或財(cái)產(chǎn)損失。

隨著類人機(jī)器人和逼真的圖像、視頻生成器的引入，加州AI法案認(rèn)為如果AI的發(fā)展沒有適當(dāng)?shù)厥艿饺祟惪刂疲磥磉@項(xiàng)技術(shù)可能會(huì)對(duì)公共安全造成新的威脅。

“議會(huì)采取了歷史性的措施，主動(dòng)確保這一令人興奮的新技術(shù)在發(fā)展過程中保護(hù)公眾利益，”加州AI法案的共同作者、民主黨參議員Scott Wiener在一份聲明中寫道。

然而，自2月提交以來，加州AI法案一直飽受爭(zhēng)議。

美聯(lián)社Juliana Yamada稱，美國(guó)加州立法的通過引發(fā)了一場(chǎng)關(guān)于如何監(jiān)管這一新技術(shù)的激烈辯論，AI因其潛在的利益和危害而廣受關(guān)注。

本月，Wiener又對(duì)法案進(jìn)行了多項(xiàng)修改，以安撫Anthropic、OpenAI、Meta和谷歌等科技行業(yè)的批評(píng)者。

他將創(chuàng)建專注AI安全的獨(dú)立機(jī)構(gòu)的這項(xiàng)提議刪除，并降低了公司的責(zé)任標(biāo)準(zhǔn)，僅在造成實(shí)際傷害時(shí)才追究責(zé)任。

新聞機(jī)構(gòu)CalMatters關(guān)于SB-1047的總結(jié)記錄顯示，加州AI法案目前已修正過十一版。

據(jù)《環(huán)球時(shí)報(bào)》報(bào)道，Wiener稱：“隨著國(guó)會(huì)在AI監(jiān)管問題上陷入僵局，美國(guó)加州必須采取行動(dòng)，在AI帶來可預(yù)見的風(fēng)險(xiǎn)之前采取行動(dòng)，同時(shí)促進(jìn)創(chuàng)新也不能放?！?/p>

在他看來，AI安全與創(chuàng)新并不互斥。

二、加州AI法案獲支持：確保AI發(fā)展與公共安全并行

目前，加州AI法案的最新修訂版已經(jīng)解決了此前一些批評(píng)者的擔(dān)憂。

埃隆·馬斯克（Elon Musk）本周在他的社交網(wǎng)站發(fā)文稱，這是一個(gè)“艱難的決定”，但“綜合考慮所有因素”，他支持對(duì)AI進(jìn)行監(jiān)管，支持通過加州AI法案，因?yàn)檫@項(xiàng)技術(shù)對(duì)公眾存在潛在風(fēng)險(xiǎn)。

SB-1047法案的其他支持者也認(rèn)為，如果沒有保護(hù)措施，AI可能帶來災(zāi)難性后果。它可能被用于生物戰(zhàn)爭(zhēng)，或通過虛假信息運(yùn)動(dòng)推翻民主選舉和政府。

“政府現(xiàn)在就如何開發(fā)和部署這些強(qiáng)大的AI系統(tǒng)所做的選擇可能會(huì)對(duì)當(dāng)代和未來幾代美國(guó)加州人乃至世界各地的人產(chǎn)生深遠(yuǎn)的影響?！泵商乩麪柎髮W(xué)計(jì)算機(jī)科學(xué)教授Yoshua Bengio和因AI安全問題辭去谷歌職務(wù)的Geoffrey Hinton在寫給紐森的信中談到。

三、弊大于利：行業(yè)擔(dān)憂美國(guó)加州AI法案可能抑制技術(shù)創(chuàng)新

加州AI法案雖然得到了部分科技界人士的支持，但仍面臨來自行業(yè)內(nèi)的強(qiáng)烈反對(duì)，呼吁保護(hù)創(chuàng)新與發(fā)展。

包括前眾議院議長(zhǎng)南?！づ迓逦鳎∟ancy Pelosi）在內(nèi)的數(shù)名國(guó)會(huì)議員已致信紐森，警告他該立法可能會(huì)威脅到AI的發(fā)展。他們認(rèn)為這項(xiàng)技術(shù)仍處于初期階段，現(xiàn)在就要明確AI系統(tǒng)是否安全還為時(shí)過早。

佩洛西在上周發(fā)表的一封公開信中寫道：“我們國(guó)會(huì)中的許多人認(rèn)為，SB-1047法案的初衷是好的，但缺乏充分了解?！?/p>

OpenAI日前也公開反對(duì)加州AI法案。

據(jù)《環(huán)球時(shí)報(bào)》報(bào)道，OpenAI首席戰(zhàn)略官Jason Kwon在給Wiener的信中寫道，SB-1047法案威脅到“美國(guó)加州作為AI全球領(lǐng)導(dǎo)者的獨(dú)特地位”。他補(bǔ)充說，這可能“減緩創(chuàng)新步伐，并導(dǎo)致世界級(jí)工程師和企業(yè)家離開該州到其他地方尋找機(jī)會(huì)”。

Wiener對(duì)此也作出回應(yīng)，他認(rèn)為SB-1047是一項(xiàng)非常合理的法案，它要求大型AI實(shí)驗(yàn)室測(cè)試他們的大型模型是否存在災(zāi)難性的安全風(fēng)險(xiǎn)，“我們一整年都在努力工作，與開源倡導(dǎo)者、Anthropic和其他組織一起完善和改進(jìn)SB-1047法案?！?/p>

SB-1047法案的反對(duì)者擔(dān)心，這可能會(huì)扼殺創(chuàng)新，阻礙初創(chuàng)公司的發(fā)展。他們認(rèn)為，這將使科技巨頭不愿意與其他企業(yè)和軟件開發(fā)者分享其AI的底層軟件代碼，也就是通常所說的“開源”。

目前，紐森尚未對(duì)該立法表態(tài)。

結(jié)語：美國(guó)加州通過SB-1047法案，AI監(jiān)管再邁出一步

隨著美國(guó)加州立法機(jī)關(guān)通過SB-1047法案，美國(guó)AI監(jiān)管進(jìn)入新階段。這項(xiàng)立法不僅為美國(guó)加州設(shè)定了新的技術(shù)標(biāo)準(zhǔn)，也可能影響全球范圍內(nèi)對(duì)AI的監(jiān)管政策。

通過立法來確保技術(shù)的安全性和可靠性，有助于增強(qiáng)公眾對(duì)AI技術(shù)的信任，促進(jìn)AI在更廣泛領(lǐng)域的應(yīng)用。美國(guó)加州通過SB-1047法案，不僅對(duì)現(xiàn)有技術(shù)的發(fā)展提出了挑戰(zhàn)，也為行業(yè)的長(zhǎng)期健康發(fā)展奠定了基礎(chǔ)。

美國(guó)空軍退役中將Lieutenant General John (Jack) Shanahan稱，SB-1047法案針對(duì)公民社會(huì)和國(guó)家安全面臨的近期潛在風(fēng)險(xiǎn)提供了務(wù)實(shí)的解決方案，同時(shí)也為科技行業(yè)與各級(jí)政府之間的進(jìn)一步對(duì)話奠定了基礎(chǔ)。

如果加州AI法案簽署成功，其具體效果及各方面的反饋也將成為國(guó)際社會(huì)關(guān)注的熱點(diǎn)。AI技術(shù)的發(fā)展和監(jiān)管將繼續(xù)在全球不斷的討論和探索中進(jìn)化，以尋求平衡創(chuàng)新與倫理、安全等多方面的需求。

來源：《紐約時(shí)報(bào)》、《環(huán)球時(shí)報(bào)》、路透社