百家乐平台 (中国)有限公司官网

OpenAI又一位高級員工出走
原創2024-11-01 20:24

OpenAI又一位高級員工出走

出品|虎嗅科技組

作者|孫曉晨

編輯|苗正卿

頭圖|視覺中國


近日,OpenAI資深員工Miles Brundage宣布從OpenAI離職,并稱專注于AI安全研究的“AGI Readiness”團隊將被解散,其余成員將被分配于其他團隊。

 

作為“AGI Readiness”團隊的高級顧問,Miles Brundage離開OpenAI難免引起對AI安全的關注,他在 Substack的一篇帖子中表示,短時間內,在迎接通用人工智能(AGI)方面,包括OpenAI在內的眾多人工智能實驗室并未做好準備,世界也未做好準備。

 

 

為什么從OpenAI離職,Miles Brundag表示自己更希望從外部影響人工智能的發展。

 

Miles Brundag認為,自己留在OpenAI不得不面對更高的機會成本,這將不利于他從事更為重要的課題研究。盡管Miles Brundag認為人工智能行業的發表限制具有合理性,但是過多的限制其實不利于自己對重要話題的發表與討論,而OpenAI則面臨著多方面的審查。

 

Miles Brundag希望可以減少偏見,而存在獨立于行業的聲音對此極為重要。他強調自己已經完成了大部分打算在OpenAI完成的事情,而關于世界對人工智能的管理方面,他認為自己在外部會有更有效的貢獻。

 

針對人工智能相關政策制定,Miles Brundag認為人工智能造福全人類需要政府、非營利組織、民間社團和行業的決策者作出深思熟慮的選擇,這需要強有力的公共討論來提供信息。

 

人工智能有著極為明顯的優點,其缺點也同樣明顯。伴隨人工智能的快速發展,政策制定者也需要快速采取行動。Miles Brundag對此表示興奮,他一方面認為符合公眾所需的人工智能政策想法還未出現,一些觀點不好或者過于模糊,而另一方面他指出我們確實擁有一些被需要的想法亟待實施。一些意識或者政治意愿處于缺失狀態,這是Miles Brundag不想將自己局限于研究的一項原因。

 

Miles Brundag指出,數十家公司將在幾年時間內擁有足以造成災難性風險的系統,提高前沿人工智能的安全性非常緊迫。

 

由于包括私人和社會利益的錯位等諸多原因,公司和政府不一定會在默認情況下給予人工智能安全性應有的關注。Miles Brundag認為,監管可以減少私人和社會之間的利益錯位,對人工智能技術的安全性做出把控。

 

在人工智能的經濟影響方面,Miles Brundag表示,在未來幾年內,人工智能可能會帶來足夠的經濟增長,如果有適當的政策來確保財富公平分配,人們能夠輕松實現提前退休。

 

人工智能可能會在短期內破壞迫切需要工作的人的機會,Miles Brundag對此表示擔心,但他同時認為人類最終要消除以工作為生的義務,邁向“后工作世界”。

 

除了對前沿人工智能安全性的監管以及經濟影響的關注,Miles Brundag還對人工智能進展的評估預測、加速有益的人工智能應用、計算治理以及整體“人工智能大戰略”等多個課題表達了興趣。

 

關于離職后的計劃,Miles Brundag表示自己將成立新的非營利組織,或者加入現有的非營利組織,致力于人工智能政策研究和倡導。

 

Miles Brundag表示自己的興趣是全球性的,但自己可能會更專注于自己更為熟悉的國家,如美國。

 

OpenAl為Miles Brundag提供了資金、API信貸和對新成果的早期模型訪問,并保證不會有與這種支持相關的出版前審查,但是出于對獨立性的考慮,Miles Brundag在文章中表示自己尚未決定是否接受這些提議。

 


本內容為作者獨立觀點,不代表虎嗅立場。未經允許不得轉載,授權事宜請聯系hezuo@huxiu.com
如對本稿件有異議或投訴,請聯系tougao@huxiu.com
正在改變與想要改變世界的人,都在 虎嗅APP
贊賞
關閉贊賞 開啟贊賞

支持一下 ??修改

確定
大发体育| 明升百家乐娱乐城| 百家乐赌机玩法| 孟村| 网上百家乐赢钱公式| 太阳城网站| 百家乐暗红色桌布| 百家乐官网美女真人| 澳门百家乐官网真人版| 百家乐在线赌场| 百家乐官网玩法及细则| 保险百家乐怎么玩| 乐宝百家乐官网娱乐城| 试玩区百家乐1000| 百家乐官网赌博机销售| 永利高a2| 蓝盾百家乐官网的玩法技巧和规则| 大发888怎么进不去| 潘多拉百家乐官网的玩法技巧和规则 | 百家乐官网技术下载| 百家乐官网群| 赞皇县| 百家乐平玩法这样| 游戏百家乐官网的玩法技巧和规则| 澳门百家乐娱乐城信誉如何| 将军百家乐官网的玩法技巧和规则| 百家乐官网游戏真人游戏| 百家乐路纸下| 沙龙百家乐官网娱乐城| 博彩乐透乐| 合乐8百家乐娱乐城| 百家乐官网永利娱乐场| 百家乐官网玩法皇冠现金网| 789棋牌游戏| 百家乐官网种类| 易赢百家乐官网软件| 新世纪娱乐城官方网站| 百家乐五种路单规| 百家乐赌场讨论群| 百家乐那里玩| 威尼斯人娱乐城真钱游戏|