OpenAI高薪招募清静专家 应对AI自我进化危害 —— 若是AI模子能够自行训练自己，，，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制，，，并造成普遍危险——这正是AI清静运动恒久担心的问题。。。
招聘信息提到，，，这名研究员可能会专注于；；；；；；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。。
OpenAI的Preparedness团队，，，其职责是避免AI造成严重危害。。。该团队的其他岗位还包括：自动化红队测试，，，用于评估网络清静、生物与化学危害，，，以及“署理型AI”带来的威胁。。。
在已往六个月里，，，OpenAI和Anthropic的编程工具取得了重大前进之后，，，AI系统所谓“递归式自我刷新”的潜力，，，已经成为AI行业认真人关注的重点。。。
妄想于今年上市的OpenAI，，，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员，，，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。。
该公司也希望将自身的研究事情自动化。。。CEO Sam Altman去年10月体现，，，公司目的是在今年9月之前，，，让一个“自动化AI研究实习生”运行在数十万块芯片上；；；；；；并在2028年3月之前，，，实现一个“真正的自动化AI研究员”。。。
“我们完全可能在这个目的上失败，，，”Altman在X上写道，，，“但思量到其潜在影响极其重大，，，我们以为，，，果真透明地讨论这件事切合公共利益。。。
”今年5月，，，Anthropic联合首创人兼政策主管Jack Clark体现，，，他以为到2028年底，，，实现“没有人类加入的AI研发”的概率约莫为60%。。。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。。岗位年薪总包为25万至38万欧元，，，招聘工具是“有履历的手艺专家，，，以支持针对递归式自我刷新的准备事情”。。。
最近，，，像OpenAI和Anthropic这样的实验室，，，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。。