OpenAI調崗AI安全高管 新職位專(zhuān)注于A(yíng)I推理

IT之家今日（7月24日），調崗OpenAI首席執行官山姆?阿爾特曼（Sam Altman）本周二在 X 平臺發(fā)布推文，安全表示在新一輪內部架構重組中，高管負責 AI 安全的新職主管亞歷山大?馬德里（AleksanderMadry）調崗，并將其重新分配到一個(gè)專(zhuān)注于人工智能推理的位專(zhuān)崗位。

阿爾特曼在推文中表示：“Aleksander 正在從事一個(gè)新的注于、非常重要的推理研究項目”。

阿爾特曼補充表示，調崗OpenAI 高管華金?基諾內羅?坎德拉（JoaquinQuinonero Candela）和莉莉安?翁（Lilian Weng）將在此期間接管 Preparedness 團隊。安全

OpenAI 安全團隊簡(jiǎn)介

IT之家注：OpenAI 公司信任和安全部門(mén)主管戴夫?威爾納（DaveWillner）于 2023 年 7 月離職之后，高管公司于同年 10 月將該部門(mén)拆分為 3 個(gè)團隊：

安全系統（Safety Systems）團隊：專(zhuān)注于高級人工智能模型和人工通用智能的新職安全部署，專(zhuān)注于減少對當前模型和產(chǎn)品（如 ChatGPT）的位專(zhuān)濫用。

超級對齊（Superalignment）團隊：為該公司（希望）在更遙遠的注于未來(lái)?yè)碛械某壷悄苣Ｐ偷陌踩缘於ɑA

Preparedness 團隊：負責繪制前沿模型的新風(fēng)險，并對前沿模型進(jìn)行安全評估，推理評估和減輕與人工智能相關(guān)的調崗“災難性風(fēng)險”。

Aleksander 簡(jiǎn)介

該團隊此前由 Aleksander 領(lǐng)導，幫助跟蹤、評估、預測和防范由人工智能模型帶來(lái)的災難性風(fēng)險，負責繪制前沿模型的新風(fēng)險，并對前沿模型進(jìn)行安全評估。

Aleksander 還是麻省理工學(xué)院可部署機器學(xué)習中心（Center for Deployable Machine Learning）的主任和麻省理工學(xué)院人工智能政策論壇（MIT AI Policy Forum）的教員聯(lián)合負責人。

OpenAI 官方表示 Aleksander 在新崗位上仍將從事核心的人工智能安全工作。