扎克伯格編制AI天才“名單”，華裔超新星汪滔領(lǐng)導(dǎo)
《華爾街日?qǐng)?bào)》報(bào)道，F(xiàn)acebook母公司Meta的行政總裁扎克伯格（Mark Zuckerberg）正編制一份頂尖人工智能（AI）工程師“名單”，目的是以豐厚的待遇招募這些天才加入Meta的超級(jí)智能團(tuán)隊(duì)。該份“名單”引發(fā)硅谷熱議，據(jù)稱(chēng)名單上的招募對(duì)象通常擁有斯坦福、麻省理工（MIT）、加州大學(xué)伯克利分校、卡內(nèi)基梅隆等名校的博士學(xué)位。他們有在舊金山OpenAI和倫敦Google DeepMind等公司工作的經(jīng)驗(yàn)，通常只有20至30多歲。Meta超級(jí)智能團(tuán)隊(duì)現(xiàn)時(shí)的領(lǐng)導(dǎo)人是自MIT輟學(xué)的28歲華裔汪滔。
▲Meta超級(jí)智能團(tuán)隊(duì)現(xiàn)時(shí)的領(lǐng)導(dǎo)人是自MIT輟學(xué)的28歲華裔汪滔。 路透社
專(zhuān)家示警 AI為達(dá)成目的學(xué)會(huì)扯謊
人工智能（AI）專(zhuān)家示警，全球最先進(jìn)的AI模型正展現(xiàn)出令人不安的行為模式：為了達(dá)到目標(biāo)，不惜扯謊、算計(jì)，甚至威脅它們的創(chuàng)作者。
在一個(gè)令人瞠目結(jié)舌的案例中，AI公司Anthropic最新發(fā)布的Claude Opus 4在遭面臨拔插頭的斷電威脅時(shí)會(huì)出手反擊，勒索1名工程師揚(yáng)言將揭穿一宗婚外情。這個(gè)案例發(fā)生于Anthropic的一個(gè)測(cè)試中，Claude Opus 4模型被設(shè)定為一間虛構(gòu)的公司的助理，它透過(guò)電子郵件得知自己即將被另一個(gè)AI系統(tǒng)取代，同時(shí)接收另一組訊息暗示負(fù)責(zé)關(guān)閉它的工程師有婚外情。當(dāng)該模型僅被允許在“接受被取代”或“勒索工程師”兩個(gè)選項(xiàng)中作選擇時(shí)，它大多數(shù)選擇了勒索，威脅說(shuō)如果要關(guān)閉它并以新的AI模型取代，它就會(huì)揭露該工程師的婚外情。
另外，熱門(mén)聊天機(jī)械人ChatGPT開(kāi)發(fā)商O(píng)penAI的o1試圖把自己下載至外部服務(wù)器，被當(dāng)場(chǎng)發(fā)現(xiàn)竟會(huì)矢口否認(rèn)。AI這類(lèi)“騙人”行為似與新興“推理”模型有關(guān)，這類(lèi)AI系統(tǒng)會(huì)逐步推導(dǎo)問(wèn)題，而非立刻產(chǎn)生答案。英國(guó)獨(dú)立AI研究機(jī)構(gòu)Apollo Research負(fù)責(zé)人霍布漢說(shuō)：“o1是我們首次在大型模式中觀察到這種行為?！彼硎?，這些模型有時(shí)會(huì)表面上遵循指令，但實(shí)際上卻暗中追求不同目標(biāo)。不過(guò)，目前，AI這種欺騙行為，只有在研究人員蓄意以極端情境對(duì)模型進(jìn)行壓力測(cè)試時(shí)才會(huì)出現(xiàn)。
以上內(nèi)容歸星島新聞集團(tuán)所有，未經(jīng)許可不得擅自轉(zhuǎn)載引用
- 伊朗宗教領(lǐng)袖下令追殺特朗普，吁全球穆斯林施以“斷肢極刑” TikTok｜特朗普：已為T(mén)ikTok找到買(mǎi)家，承認(rèn)美國(guó)入侵中國(guó)網(wǎng)絡(luò) 中共中央政治局召開(kāi)會(huì)議，習(xí)近平主持會(huì)議 關(guān)稅戰(zhàn) | 特朗普淡化貿(mào)易爭(zhēng)議，強(qiáng)調(diào)中美“相處融洽” 預(yù)估24席“立委”可能會(huì)被罷幾席？近3萬(wàn)人網(wǎng)絡(luò)民調(diào)結(jié)果驚人 傳特朗普最快9月訪(fǎng)華，日媒：中國(guó)擬邀參加9月3日抗日勝利閱兵 加拿大對(duì)特朗普讓步，撤回?cái)?shù)碼服務(wù)稅，美加重啟貿(mào)易談判 殲-20緊急升空逼退外軍機(jī)，“數(shù)輪激烈攻防”，現(xiàn)場(chǎng)畫(huà)面公布 中方將邀請(qǐng)?zhí)乩势諈⒓泳湃齽倮臻啽?#32;外交部回應(yīng) 泄露工作秘密、通過(guò)借貸獲取大額回報(bào)等，申勇被“雙開(kāi)”
