OpenAI高薪招募清静专家 应对AI自我进化危害 —— 在已往六个月里， ，，，OpenAI和Anthropic的编程工具取得了重大前进之后， ，，，AI系统所谓“递归式自我刷新”的潜力， ，，，已经成为AI行业认真人关注的重点。。 。
Demis Hassabis本周体现， ，，，人类现在正站在“奇点”的脚下——也就是AI最先自我生长， ，，，并逾越人类智能的谁人时刻。。 。妄想于今年上市的OpenAI， ，，，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员， ，，，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。 。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。 。岗位年薪总包为25万至38万欧元， ，，，招聘工具是“有履历的手艺专家， ，，，以支持针对递归式自我刷新的准备事情”。。 。
最近， ，，，像OpenAI和Anthropic这样的实验室， ，，，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。 。
该公司也希望将自身的研究事情自动化。。 。CEO Sam Altman去年10月体现， ，，，公司目的是在今年9月之前， ，，，让一个“自动化AI研究实习生”运行在数十万块芯片上；；；；；；并在2028年3月之前， ，，，实现一个“真正的自动化AI研究员”。。 。
“我们完全可能在这个目的上失败， ，，，”Altman在X上写道， ，，，“但思量到其潜在影响极其重大， ，，，我们以为， ，，，果真透明地讨论这件事切合公共利益。。 。
”今年5月， ，，，Anthropic联合首创人兼政策主管Jack Clark体现， ，，，他以为到2028年底， ，，，实现“没有人类加入的AI研发”的概率约莫为60%。。 。
若是AI模子能够自行训练自己， ，，，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制， ，，，并造成普遍危险——这正是AI清静运动恒久担心的问题。。 。
招聘信息提到， ，，，这名研究员可能会专注于；；；；；；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。 。
OpenAI的Preparedness团队， ，，，其职责是避免AI造成严重危害。。 。该团队的其他岗位还包括：自动化红队测试， ，，，用于评估网络清静、生物与化学危害， ，，，以及“署理型AI”带来的威胁。。 。
66%的受访者体现愿意为OpenAI高薪招募清静专家 应对AI自我进化危害支付特殊用度。。 。