OpenAI高薪招募清静专家 应对AI自我进化危害 —— 妄想于今年上市的OpenAI，，，， ，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员，，，， ，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。岗位年薪总包为25万至38万欧元，，，， ，招聘工具是“有履历的手艺专家，，，， ，以支持针对递归式自我刷新的准备事情”。。
该公司也希望将自身的研究事情自动化。。CEO Sam Altman去年10月体现，，，， ，公司目的是在今年9月之前，，，， ，让一个“自动化AI研究实习生”运行在数十万块芯片上；；；；并在2028年3月之前，，，， ，实现一个“真正的自动化AI研究员”。。
“我们完全可能在这个目的上失败，，，， ，”Altman在X上写道，，，， ，“但思量到其潜在影响极其重大，，，， ，我们以为，，，， ，果真透明地讨论这件事切合公共利益。。
”最近，，，， ，像OpenAI和Anthropic这样的实验室，，，， ，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。
研究模子能力的实验室METR的研究职员在今年3月写道：AI模子能够完成的使命长度，，，， ，约莫每七个月翻一倍——这些模子正越来越能够肩负那些原本需要人类破费大宗时间完成的事情。。
招聘信息提到，，，， ，这名研究员可能会专注于保；；；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。
OpenAI的Preparedness团队，，，， ，其职责是避免AI造成严重危害。。该团队的其他岗位还包括：自动化红队测试，，，， ，用于评估网络清静、生物与化学危害，，，， ，以及“署理型AI”带来的威胁。。
今年5月，，，， ，Anthropic联合首创人兼政策主管Jack Clark体现，，，， ，他以为到2028年底，，，， ，实现“没有人类加入的AI研发”的概率约莫为60%。。
若是AI模子能够自行训练自己，，，， ，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制，，，， ，并造成普遍危险——这正是AI清静运动恒久担心的问题。。
在已往六个月里，，，， ，OpenAI和Anthropic的编程工具取得了重大前进之后，，，， ，AI系统所谓“递归式自我刷新”的潜力，，，， ，已经成为AI行业认真人关注的重点。。
Demis Hassabis本周体现，，，， ，人类现在正站在“奇点”的脚下——也就是AI最先自我生长，，，， ，并逾越人类智能的谁人时刻。。
热门讨论?
突击队员：美国羁系机构提起诉讼 试图阻止明尼苏达州实验全美首个展望市场禁令|美国商品期货生意委员会（CFTC）周二提起诉讼，，，， ，试图阻止明尼苏达州执行一项新公布的执法。。该执法使该州成为全美首个周全榨取Kalshi和Polymarket等展望市场的州。。|就在明尼苏达州民主党州长蒂姆·沃尔兹签署法案越日，，，， ，这家联邦羁系机构提起了诉讼。。该法案自8月1日起生效，，，， ，划定在该州运营、托管或推广展望市场将组成犯法。。|此类平台允许用户通过对体育赛事和选举等事务的展望赚钱，，，， ，已成为围绕各州博彩羁系机构是否有权羁系这个价值数十亿美元的展望市场行业而睁开的斗争的焦点。。|Kalshi公司（在最近一轮融资中估值达220亿美元）尤其卷入了一系列诉讼案 ，，，， ，涉及多个指控其运营不法、无牌照博彩营业且允许21岁以下成年人赌博的州政府。。|在周二提起的诉讼中，，，， ，CFTC辩称明尼苏达州这项新执法违反了美国宪法，，，， ，由于它在州层面将受联邦执法统领的衍生品市场运营定为犯法。。 (?410)
我只是看看：应金融稳固理事会主席要求，，，， ，Anthropic迁就Mythos的探测效果向理事会说明|应英国央行行长兼金融稳固理事会（FSB）主席安德鲁·贝利18日要求，，，， ，Anthropic即将向金融稳固理事会转达其最新人工智能模子“Mythos”在全球金融系统中探测到的网络清静误差。。|金融稳固理事会是认真协调二十国集团（G20）经济体金融羁系规则的全球性机构。。据悉，，，， ，在此次转达中，，，， ，Anthropic公司将向来自该理事会的主要财务部分及中央银行认真人，，，， ，详细说明及展示“Mythos”预览版模子的相关能力与探测效果。。|英国央行行长贝利此前已就该手艺的潜在威胁表达高度关切。。今年4月，，，， ，贝利在出席果真活动时明确忠言，，，， ，“Mythos”模子可能对全球网络天下组成重大清静危害。。他强调，，，， ，目今羁系方面临的焦点问题在于，，，， ，该项新产品在多洪流平上能够精准识别出其他系统中的懦弱环节，，，， ，以及这些误差转化为现实网络攻击工具的真实危害。。 (?447)
老先进：韩国综合股价指数一连第二天下跌 外资抛售股票|由于外国投资者一连抛售，，，， ，且债券收益率上升攻击了市场情绪，，，， ，韩国股市基准指数KOSPI下跌幅度高达3%。。周三早盘，，，， ，外国投资者减持韩国综合股价指数（KOSPI）股票，，，， ，而散户投资者和外地基金则逆势买入。。SK海力士和现代汽车是该指标的最大拖累因素之一。。仅三个行业板块上涨，，，， ，其余全线下跌，，，， ，电力、燃气细分指数领跌。。韩国小型股Kosdaq指数暴跌4.3%。。MSCI亚太指数下跌0.8%。。三星股价走势震荡，，，， ，市场亲近关注企业治理层与工会新一轮薪资谈判希望。。韩国10年期国债收益率上涨凌驾5个基点，，，， ，至4.26%。。 (?761)