OpenAI高薪招募清静专家 应对AI自我进化危害 —— 该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。 。
岗位年薪总包为25万至38万欧元， ，招聘工具是“有履历的手艺专家， ，以支持针对递归式自我刷新的准备事情”。 。最近， ，像OpenAI和Anthropic这样的实验室， ，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。 。
研究模子能力的实验室METR的研究职员在今年3月写道：AI模子能够完成的使命长度， ，约莫每七个月翻一倍——这些模子正越来越能够肩负那些原本需要人类破费大宗时间完成的事情。 。
该公司也希望将自身的研究事情自动化。 。CEO Sam Altman去年10月体现， ，公司目的是在今年9月之前， ，让一个“自动化AI研究实习生”运行在数十万块芯片上；；； ；；；并在2028年3月之前， ，实现一个“真正的自动化AI研究员”。 。
”今年5月， ，Anthropic联合首创人兼政策主管Jack Clark体现， ，他以为到2028年底， ，实现“没有人类加入的AI研发”的概率约莫为60%。 。
若是AI模子能够自行训练自己， ，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制， ，并造成普遍危险——这正是AI清静运动恒久担心的问题。 。
招聘信息提到， ，这名研究员可能会专注于；；； ；；；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。 。
OpenAI的Preparedness团队， ，其职责是避免AI造成严重危害。 。该团队的其他岗位还包括：自动化红队测试， ，用于评估网络清静、生物与化学危害， ，以及“署理型AI”带来的威胁。 。
在已往六个月里， ，OpenAI和Anthropic的编程工具取得了重大前进之后， ，AI系统所谓“递归式自我刷新”的潜力， ，已经成为AI行业认真人关注的重点。 。
Demis Hassabis本周体现， ，人类现在正站在“奇点”的脚下——也就是AI最先自我生长， ，并逾越人类智能的谁人时刻。 。妄想于今年上市的OpenAI， ，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员， ，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。 。