《華爾街日報》報道，F(xiàn)acebook母公司Meta的行政總裁扎克伯格（Mark Zuckerberg）正編制一份頂尖人工智能（AI）工程師“名單”，目的是以豐厚的待遇招募這些天才加入Meta的超級智能團隊。該份“名單”引發(fā)硅谷熱議，據(jù)稱名單上的招募對象通常擁有斯坦福、麻省理工（MIT）、加州大學伯克利分校、卡內(nèi)基梅隆等名校的博士學位。他們有在舊金山OpenAI和倫敦Google DeepMind等公司工作的經(jīng)驗，通常只有20至30多歲。Meta超級智能團隊現(xiàn)時的領導人是自MIT輟學的28歲華裔汪滔。
▲Meta超級智能團隊現(xiàn)時的領導人是自MIT輟學的28歲華裔汪滔。 路透社
專家示警 AI為達成目的學會扯謊
人工智能（AI）專家示警，全球最先進的AI模型正展現(xiàn)出令人不安的行為模式：為了達到目標，不惜扯謊、算計，甚至威脅它們的創(chuàng)作者。
在一個令人瞠目結舌的案例中，AI公司Anthropic最新發(fā)布的Claude Opus 4在遭面臨拔插頭的斷電威脅時會出手反擊，勒索1名工程師揚言將揭穿一宗婚外情。這個案例發(fā)生于Anthropic的一個測試中，Claude Opus 4模型被設定為一間虛構的公司的助理，它透過電子郵件得知自己即將被另一個AI系統(tǒng)取代，同時接收另一組訊息暗示負責關閉它的工程師有婚外情。當該模型僅被允許在“接受被取代”或“勒索工程師”兩個選項中作選擇時，它大多數(shù)選擇了勒索，威脅說如果要關閉它并以新的AI模型取代，它就會揭露該工程師的婚外情。
另外，熱門聊天機械人ChatGPT開發(fā)商OpenAI的o1試圖把自己下載至外部服務器，被當場發(fā)現(xiàn)竟會矢口否認。AI這類“騙人”行為似與新興“推理”模型有關，這類AI系統(tǒng)會逐步推導問題，而非立刻產(chǎn)生答案。英國獨立AI研究機構Apollo Research負責人霍布漢說：“o1是我們首次在大型模式中觀察到這種行為?！彼硎荆@些模型有時會表面上遵循指令，但實際上卻暗中追求不同目標。不過，目前，AI這種欺騙行為，只有在研究人員蓄意以極端情境對模型進行壓力測試時才會出現(xiàn)。
以上內(nèi)容歸星島新聞集團所有，未經(jīng)許可不得擅自轉載引用
- 伊朗宗教領袖下令追殺特朗普，吁全球穆斯林施以“斷肢極刑” TikTok｜特朗普：已為TikTok找到買家，承認美國入侵中國網(wǎng)絡 中共中央政治局召開會議，習近平主持會議 關稅戰(zhàn) | 特朗普淡化貿(mào)易爭議，強調(diào)中美“相處融洽” 預估24席“立委”可能會被罷幾席？近3萬人網(wǎng)絡民調(diào)結果驚人 傳特朗普最快9月訪華，日媒：中國擬邀參加9月3日抗日勝利閱兵 加拿大對特朗普讓步，撤回數(shù)碼服務稅，美加重啟貿(mào)易談判 殲-20緊急升空逼退外軍機，“數(shù)輪激烈攻防”，現(xiàn)場畫面公布 中方將邀請?zhí)乩势諈⒓泳湃齽倮臻啽?#32;外交部回應 泄露工作秘密、通過借貸獲取大額回報等，申勇被“雙開”
