OpenAI高薪招募清静专家 应对AI自我进化危害 —— 今年5月，， ，，Anthropic联合首创人兼政策主管Jack Clark体现，， ，，他以为到2028年底，， ，，实现“没有人类加入的AI研发”的概率约莫为60%。。。
若是AI模子能够自行训练自己，， ，，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制，， ，，并造成普遍危险——这正是AI清静运动恒久担心的问题。。。
招聘信息提到，， ，，这名研究员可能会专注于保；；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。。
OpenAI的Preparedness团队，， ，，其职责是避免AI造成严重危害。。。该团队的其他岗位还包括：自动化红队测试，， ，，用于评估网络清静、生物与化学危害，， ，，以及“署理型AI”带来的威胁。。。
最近，， ，，像OpenAI和Anthropic这样的实验室，， ，，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。。
研究模子能力的实验室METR的研究职员在今年3月写道：AI模子能够完成的使命长度，， ，，约莫每七个月翻一倍——这些模子正越来越能够肩负那些原本需要人类破费大宗时间完成的事情。。。
该公司也希望将自身的研究事情自动化。。。CEO Sam Altman去年10月体现，， ，，公司目的是在今年9月之前，， ，，让一个“自动化AI研究实习生”运行在数十万块芯片上；；；并在2028年3月之前，， ，，实现一个“真正的自动化AI研究员”。。。
“我们完全可能在这个目的上失败，， ，，”Altman在X上写道，， ，，“但思量到其潜在影响极其重大，， ，，我们以为，， ，，果真透明地讨论这件事切合公共利益。。。
”在已往六个月里，， ，，OpenAI和Anthropic的编程工具取得了重大前进之后，， ，，AI系统所谓“递归式自我刷新”的潜力，， ，，已经成为AI行业认真人关注的重点。。。
Demis Hassabis本周体现，， ，，人类现在正站在“奇点”的脚下——也就是AI最先自我生长，， ，，并逾越人类智能的谁人时刻。。。妄想于今年上市的OpenAI，， ，，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员，， ，，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。。岗位年薪总包为25万至38万欧元，， ，，招聘工具是“有履历的手艺专家，， ，，以支持针对递归式自我刷新的准备事情”。。。
热门讨论?
菜鸟讨教：特朗普推迟AI行政令签署|美国总统唐纳德·特朗普体现，， ，，他叫停了一项AI行政令的签署，， ，，缘故原由是阻挡其中部分内容。。。该行政令旨在应对强盛新型人工智能模子引发的网络清静担心。。。|“由于我不喜欢其中的某些方面。。。我推迟了它，， ，，”特朗普周四在白宫举行的活动中体现。。。“我真的以为那可能会成为一个阻碍，， ，，我想确保它不会。。。”|该行政令原定于周四晚些时间由特朗普签署，， ，，许多科技行业高管之前收到约请加入在白宫举行的签字仪式。。。特朗普周四体现，， ，，他想确保该指令不会接纳任何削弱美国在人工智能领域优势的行动。。。|此前报道称，， ，，这项酝酿数周的行政令原本将刷新现有网络清静信息共享机制，， ，，把AI公司纳入其中，， ，，但没有强制要求前沿模子在宣布前获得政府批准。。。 (?513)
水手：美国中期选举前共和党筹款金额靠近10亿美元 远超民主党|美国总统唐纳德·特朗普及其共和党盟友在11月中期选举前已筹集9.39亿美元竞选资金，， ，，是民主党募资规模的三倍以上，， ，，为其在艰难维持国会控制权的战斗中提供了有力支持。。。|美国联邦选举委员会最新申报文件显示，， ，，只管政治风向对民主党较为有利，， ，，但其筹资金额仅为2.67亿美元。。。共和党雄厚的资金储备将使其能够通过大宗投放广告为候选人造势，， ，，并向敌手提倡攻击。。。|不过，， ，，在任总统所在的政党通常；；嵩谥衅谘【僦惺ブ谝樵合弧。。共和党现在仅以微弱优势控制众议院，， ，，并需在库克政治报告认定的18个摇晃选区中保住14个。。。再思量到选民的疲倦情绪，， ，，共和党面临的时势较为倒运。。。|这笔资金在参议院的竞选中也将施展优势，， ，，民主党希望净增四个席位，， ，，从而掌控参议院。。。共和党则需要捍卫22个席位，， ，，但只有少数几个席位被以为具有竞争力。。。筹款总额包括特朗普各委员会、共和党及其盟友超等政治行动委员会，， ，，以及民主党对应机构最新宣布的资金余额。。。|民主党候选人的小我私家筹款情形优于该党及其相关委员会，， ，，这批注真正难以获得大额捐钱的是民主党自己。。。民主党参议院竞选筹款比共和党敌手多出1.46亿美元，， ，，而众议院候选人的筹款优势达1.57亿美元。。。|周四早些时间，， ，，民主党天下委员会宣布了一份此前恒久未果真的报告，， ，，将2024年惨败的责任归罪于各方，， ，，并指出该党品牌形象已显着走弱。。。 (?819)
江湖浪子：图尔茜·加巴德拟辞去美国国家情报总监一职|据知情人士透露，， ，，图尔茜·加巴德准备辞去美国国家情报总监一职。。。其任职时代风波一直，， ，，在特朗普政府涉及委内瑞拉、伊朗等国家清静事务中，， ，，她基本被边沿化。。。|她在信中写道：“我必需卸任公职，， ，，陪同丈夫全力陪他对抗病魔。。。”加巴德称将于6月30日正式去职，， ，，在此时代会留任过渡，， ，，包管部分事情衔接顺畅、各项事务稳步推进。。。|当下，， ，，调解各方若无法告竣协议终止伊朗核活动，， ，，或是未能延伸停；；鹗奔湟钥垢嗵教，， ，，特朗普便思量对伊朗发动新一轮攻击，， ，，而加巴德恰幸亏此节点提出去职。。。|多名官员此前向媒体透露，， ，，今年2月伊朗相关战事爆发前，， ，，加巴德并未加入焦点战事商议。。。她在相关议题上的亮相也时常与政府口径相悖，， ，，称美国与以色列的战略目的保存不同，， ，，且自去年美军袭击伊朗三处核设施后，， ，，伊朗并未重启核项目建设。。。 (?445)