亚洲精品视频久久_亚洲日本电影久久_亚洲午夜福利院在线观看_精品乱理伦片中文字幕

Telsa行政總裁馬斯克（Elon Musk）與一群人工智能（AI）專家、業(yè)界高層，共同發(fā)表公開(kāi)信，呼吁暫停訓(xùn)練比GPT-4還強(qiáng)大的AI系統(tǒng)，理由是有可能危及社會(huì)與人類。 目前，這封信已有1079名科技領(lǐng)袖和研究人員簽名，除了馬斯克、辛頓和馬庫(kù)斯之外，還包括圖靈獎(jiǎng)得主約書(shū)亞·本希奧（Yoshua Bengio）、《人工智能：現(xiàn)代方法》作者羅素（Stuart Russell）、 蘋(píng)果公司聯(lián)合創(chuàng)始人沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官莫斯塔克（Emad Mostaque）等科技界領(lǐng)袖人物。

美國(guó)未來(lái)生命研究所（Future of Life Institute）29日公布一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。 信中寫(xiě)道：廣泛的研究表明，具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。 正如廣泛認(rèn)可的“阿西洛馬人工智能原則”（Asilomar AI Principles，阿西莫夫的機(jī)械人三大法則的擴(kuò)展版本，于2017年由近千名人工智能和機(jī)械人專家簽署）中所述，高級(jí)AI可能代表地球生命史上的深刻變化，應(yīng)該以相應(yīng)的關(guān)照和資源進(jìn)行規(guī)劃和管理。 不幸的是，這種級(jí)別的規(guī)劃和管理并沒(méi)有發(fā)生，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，以開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維，沒(méi)有人（甚至他們的創(chuàng)造者）能理解、預(yù)測(cè)或可靠地控制。

▲馬斯克與一群AI專家認(rèn)為近月月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽。 AP

▲聯(lián)署的包括蘋(píng)果公司聯(lián)合創(chuàng)始人沃茲尼亞克。 路透社

▲自從微軟支持的OpenAI去年推出ChatGPT之后，競(jìng)爭(zhēng)者忙著推出類似產(chǎn)品。 AP

▲多模態(tài)AI模型GPT-4，可支持圖片輸入，可解釋還能生成網(wǎng)頁(yè)代碼。 OpenAI

“當(dāng)代人工智能系統(tǒng)現(xiàn)在在常規(guī)任務(wù)上變得與人類具有競(jìng)爭(zhēng)力，我們必須捫心自問(wèn)：我們是否應(yīng)該讓機(jī)械用宣傳和謊言充斥我們的信息渠道？ 我們是否應(yīng)該自動(dòng)化所有工作，包括令人滿意的工作？ 我們是否應(yīng)該發(fā)展最終可能比我們更多、更聰明，淘汰并取代我們的非人類思維？ 我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？” 這封信寫(xiě)道，只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。 這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的規(guī)模而增加。 OpenAI最近關(guān)于通用人工智能的聲明指出，'在某些時(shí)候，在開(kāi)始訓(xùn)練未來(lái)的系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要，并且對(duì)于最先進(jìn)的工作來(lái)說(shuō)，應(yīng)該同意限制用于創(chuàng)建新模型的計(jì)算量增長(zhǎng)。' 我們同意。 那個(gè)某些時(shí)候就是現(xiàn)在。”

這封信呼吁，所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。 這種暫停應(yīng)該是公開(kāi)的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。 如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并實(shí)行暫停。 人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。 這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的，并且無(wú)可置疑。 這并不意味著總體上暫停AI開(kāi)發(fā)，只是緊急從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步。

此外，歐盟警察機(jī)構(gòu)Europol本周一呼應(yīng)對(duì)于ChatGPT這類先進(jìn)AI的倫理與法律擔(dān)憂。 警告這類AI潛在的網(wǎng)絡(luò)釣魚(yú)、假訊息、網(wǎng)絡(luò)犯罪等不當(dāng)使用。 上述公開(kāi)信接在Europol表達(dá)憂心之后發(fā)表。

自從微軟支持的OpenAI去年推出ChatGPT之后，競(jìng)爭(zhēng)者忙著推出類似產(chǎn)品，多家企業(yè)準(zhǔn)備把這類技術(shù)整合到他們的應(yīng)用程序或是產(chǎn)品之中。

相關(guān)新聞：

高盛：AI威脅全球3億人飯碗，律師行政人員屬高危群體

升級(jí)版GPT-4面世，語(yǔ)言能力媲人類，專家：并非搜索引擎

馬斯克傳招募AI研究員，擬打造ChatGPT對(duì)手