智東西（公眾號：zhidxcom）
編譯｜萬貴霞
編輯｜云鵬
智東西1月27日消息，據(jù)英國《金融時(shí)報(bào)》昨日報(bào)道，Anthropic的CEO達(dá)里奧·阿莫迪（Dario Amodei）周一發(fā)布了一篇長達(dá)約兩萬字的文章《技術(shù)的青春期（The Adolescence of Technology）》，系統(tǒng)闡述了未來幾年強(qiáng)大的AI技術(shù)可能帶來的災(zāi)難性風(fēng)險(xiǎn)。
人類擁有AI技術(shù)，但卻無法熟練駕馭AI。
阿莫迪在文中直言，“人類需要清醒過來，一些AI公司對當(dāng)前模型中出現(xiàn)的兒童性化問題表現(xiàn)出令人不安的漠視?！彼瑫r(shí)警告，失控的AI技術(shù)可能帶來從大規(guī)模失業(yè)到生物恐怖主義等一系列極端后果。
▲1月27日，Anthropic的CEO達(dá)里奧·阿莫迪在X上發(fā)帖公布其撰寫的文章《技術(shù)的青春期》（圖源：X）
以下是阿莫迪兩萬字文章《技術(shù)的青春期》的金句提煉：
1、AI時(shí)代考驗(yàn)：我們正進(jìn)入一個關(guān)鍵時(shí)期，人類擁有強(qiáng)大的AI技術(shù)，而我們的社會、政治和技術(shù)體系駕馭 AI的成熟度，仍是未知數(shù)。
2、應(yīng)對AI風(fēng)險(xiǎn)原則：2026年的我們比2023年時(shí)更接近AI風(fēng)險(xiǎn)，我們需要以現(xiàn)實(shí)、務(wù)實(shí)的態(tài)度討論和應(yīng)對風(fēng)險(xiǎn)，保持冷靜、立足事實(shí)，并具備應(yīng)對趨勢變化的能力。
3、強(qiáng)大的AI定義：我所說的“強(qiáng)大的AI”，是指一種AI模型，我們可以將其總結(jié)為“數(shù)據(jù)中心中的天才國家”。
4、AI發(fā)展速度預(yù)判：如果AI持續(xù)指數(shù)級增長，那么AI在幾乎所有領(lǐng)域超越人類，也不過是幾年時(shí)間。
5、AI價(jià)值與風(fēng)險(xiǎn)并存：AI創(chuàng)造難以估量的經(jīng)濟(jì)價(jià)值，同時(shí)提升人類的生活質(zhì)量，但也有可能讓人用來搞破壞，因?yàn)橹挥猩贁?shù)具備高技能、經(jīng)過專業(yè)訓(xùn)練且專注投入的人才能正確使用AI。
6、AI與專制風(fēng)險(xiǎn)：人類在執(zhí)行不人道行為時(shí)往往存在底線，AI驅(qū)動的專制政權(quán)，則不會受到限制。
7、AI對就業(yè)的沖擊：AI的進(jìn)步速度遠(yuǎn)超以往任何一次技術(shù)革命，人們很難跟上這種變化的節(jié)奏，無論是工作方式的調(diào)整，還是轉(zhuǎn)換新工作的需求，都讓人難以適應(yīng)。
8、AI的勞動替代屬性：AI并非是取代人類特定工種的工具，而是可以替代人類一般性勞動的存在。
9、AI風(fēng)險(xiǎn)的制衡關(guān)系：AI正從多個維度向人類發(fā)起挑戰(zhàn)，不同危險(xiǎn)之間存在著真實(shí)的制衡關(guān)系，如果我們處理時(shí)不夠謹(jǐn)慎，那么減輕某一類風(fēng)險(xiǎn)的同時(shí)，可能加劇其他危險(xiǎn)的危害程度。
外媒普遍認(rèn)為，這篇文章標(biāo)志著AI行業(yè)最具影響力的企業(yè)家之一，罕見地就當(dāng)前AI安全保障不足發(fā)出了強(qiáng)烈警告。
一、Anthropic CEO對強(qiáng)大的AI系統(tǒng)性風(fēng)險(xiǎn)的判斷
Anthropic是OpenAI的競爭對手。達(dá)里奧·阿莫迪曾是OpenAI的早期核心成員，但在2020年因與薩姆·阿爾特曼（Sam Altman）在公司發(fā)展方向及AI安全理念上出現(xiàn)分歧而離開，隨后與他人共同創(chuàng)立了Anthropic。
目前，Anthropic正與包括微軟、英偉達(dá)在內(nèi)的科技巨頭，以及新加坡主權(quán)財(cái)富基金GIC、Coatue、紅杉資本等投資方洽談新一輪融資，融資規(guī)?？赡苓_(dá)到250億美元（約合人民幣1739.5億元）甚至更高，公司估值或升至3500億美元（約合人民幣2.4萬億元）。
在文章中，阿莫迪重點(diǎn)描述了強(qiáng)大的AI系統(tǒng)可能帶來災(zāi)難性的風(fēng)險(xiǎn)。這類AI系統(tǒng)將“在幾乎所有領(lǐng)域超越任何諾貝爾獎得主、政治家或技術(shù)專家”，而這一節(jié)點(diǎn)，他判斷很可能在未來幾年內(nèi)到來。
▲達(dá)里奧·阿莫迪對強(qiáng)大的AI（powerful AI）的定義（圖源：The Adolescence of Technology原文）
強(qiáng)大的AI所帶來的最極端的風(fēng)險(xiǎn)之一，是普通個人可能借助AI研發(fā)出致命級別的生物武器，造成數(shù)百萬人死亡，甚至“在最壞的情況下，摧毀地球上的所有生命”。
阿莫迪擔(dān)心，如果每個人都能輕易掌握AI技術(shù)，那么門檻就會被徹底消除，人人都能成為病毒學(xué)博士，并能一步步地學(xué)習(xí)如何設(shè)計(jì)、合成和釋放生物武器。
▲阿莫迪擔(dān)心有人利用AI進(jìn)行生物破壞。（圖源：The Adolescence of Technology原文）
他同時(shí)警告，AI還有可能“失控并壓制人類”，或被獨(dú)裁者和其他惡意行為體利用，最終導(dǎo)致“全球性的極權(quán)統(tǒng)治”。
不過，阿莫迪也在文中明確提到，這并非對技術(shù)未來的確定性判斷，而是一種“低概率、高后果”的風(fēng)險(xiǎn)評估。他認(rèn)為，正因?yàn)榻Y(jié)果不可逆，人類才有必要在風(fēng)險(xiǎn)顯性化之前提前干預(yù)。
此外，阿莫迪認(rèn)為，AI可能會在未來1到5年內(nèi)取代多達(dá)50%的入門級白領(lǐng)工作崗位，并推動經(jīng)濟(jì)權(quán)力和財(cái)富進(jìn)一步向硅谷集中。
對于AI濫用問題，他補(bǔ)充說，即便AI不發(fā)生失控或惡意濫用，僅從生產(chǎn)效率角度看，其對勞動力結(jié)構(gòu)、技能需求和組織形態(tài)的沖擊，也足以對社會運(yùn)行方式構(gòu)成長期挑戰(zhàn)。
二、AI模型安全問題引發(fā)的行業(yè)與政策討論
在文中，阿莫迪以兒童性化這一備受爭議的話題為例，雖然他沒有直接點(diǎn)名xAI，但目前xAI開發(fā)的Grok模型正因未經(jīng)同意對真人圖像進(jìn)行性化處理而在多個國家面臨調(diào)查。
▲1月26日，埃隆·馬斯克的xAI正面臨歐盟的調(diào)查，以查明其是否傳播非法內(nèi)容，此前該平臺引發(fā)公眾強(qiáng)烈抗議。（圖源：路透社）
阿莫迪寫道：“一些AI公司在當(dāng)前模型中，對兒童性化問題表現(xiàn)出令人不安的疏忽，這讓我懷疑，他們是否真的有意愿或能力，在未來更強(qiáng)大的模型中應(yīng)對自主性風(fēng)險(xiǎn)?！?/p>
事實(shí)上，早在2023年，生物武器、自主武器以及惡意國家行為體等AI安全議題，就已成為全球公共討論的焦點(diǎn)，這在一定程度上正是受到阿莫迪等業(yè)內(nèi)人士持續(xù)警告的推動。這類討論的積極意義在于推動行業(yè)形成最低安全共識，但如果缺乏可執(zhí)行的技術(shù)標(biāo)準(zhǔn)與持續(xù)評估機(jī)制，僅靠原則性表態(tài)難以真正降低風(fēng)險(xiǎn)。
▲行業(yè)形成的應(yīng)對AI風(fēng)險(xiǎn)共識，有助于推動政策性變革（圖源：The Adolescence of Technology原文）
同年，英國政府在布萊切利莊園舉辦了首屆AI安全峰會，多國政府與AI實(shí)驗(yàn)室達(dá)成共識，承諾共同應(yīng)對相關(guān)風(fēng)險(xiǎn)，下一場會議計(jì)劃于今年2月在印度舉行。
不過，阿莫迪說，當(dāng)前圍繞AI的政治決策，正越來越多地被“抓住技術(shù)紅利”的訴求所主導(dǎo)，而非“主動降低風(fēng)險(xiǎn)”。
阿莫迪是AI行業(yè)中最積極倡導(dǎo)AI立法的人士之一?！拔視С忠怨褡杂蔀橹行牡牧⒎?，甚至可能是憲法修正案，來加強(qiáng)對AI濫用行為的防范?！彼f，盡管Meta和微軟支持聯(lián)邦政府大于州級AI法律，但Anthropic公司支持加州和紐約州的AI透明度法案現(xiàn)已生效。
他寫道：“AI的快速發(fā)展，可能會造成一些我們現(xiàn)有的法律框架無法妥善應(yīng)對的情況?！边@就是阿莫迪會不惜一切代價(jià)支持憲法修正案的原因。
結(jié)語：加速與失控之間，AI走向關(guān)鍵拐點(diǎn)
就在上個月，美國前總統(tǒng)特朗普簽署了一項(xiàng)行政命令，試圖阻止各州加強(qiáng)對AI公司的監(jiān)管。去年，他還公布了一份AI行動計(jì)劃，核心目標(biāo)是進(jìn)一步加速美國的技術(shù)創(chuàng)新步伐，AI監(jiān)管已經(jīng)明顯滯后于技術(shù)發(fā)展速度。
在資本、算力和政策共同推動下，AI正以前所未有的速度向前狂奔。但正如阿莫迪所警告的那樣，真正的問題已不再是“AI能做什么”，而是“人類是否準(zhǔn)備好承受它的后果”。
原文鏈接：https://www.darioamodei.com/essay/the-adolescence-of-technology#fnref:10
來源：金融時(shí)報(bào)、路透社
