news 2025/12/30 21:42:51

OpenAI招聘新任安全准备主管应对AI潜在危害

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
OpenAI招聘新任安全准备主管应对AI潜在危害

OpenAI正在寻找一位新的安全准备主管,帮助公司预测其模型的潜在危害以及可能被滥用的方式,从而指导公司的安全战略。这一招聘发生在OpenAI因ChatGPT对用户心理健康影响而面临众多指控的一年末,包括几起过失致死诉讼。

在X平台上关于这一职位的帖子中,OpenAI首席执行官Sam Altman承认"模型对心理健康的潜在影响是我们在2025年看到的一个预览",以及伴随模型能力出现的其他"真正的挑战"。他表示,安全准备主管"是在重要时刻的关键角色"。

根据职位描述,安全准备主管(年薪55.5万美元加股权)"将领导OpenAI安全准备框架的技术策略和执行,该框架解释了OpenAI追踪和准备可能造成严重危害风险的前沿能力的方法"。据Altman所说,这是"一份压力很大的工作,你几乎会立即跳入深水区"。

在过去几年中,OpenAI的安全团队经历了很多变化。该公司前安全准备主管Aleksander Madry在2024年7月被重新分配,Altman当时表示该职位将由高管Joaquin Quinonero Candela和Lilian Weng接管。Weng几个月后离开了公司,2025年7月,Quinonero Candela宣布从安全准备团队转到OpenAI负责招聘工作。

Q&A

Q1:OpenAI为什么要招聘新的安全准备主管?

A:OpenAI招聘安全准备主管是为了帮助公司预测其AI模型的潜在危害以及可能被滥用的方式,从而指导公司的安全策略。这发生在ChatGPT因对用户心理健康影响而面临众多指控的背景下。

Q2:安全准备主管的主要职责是什么?

A:安全准备主管将领导OpenAI安全准备框架的技术策略和执行,该框架用于追踪和准备可能造成严重危害风险的前沿AI能力。年薪为55.5万美元加股权。

Q3:OpenAI的安全团队近年来有什么变化?

A:OpenAI安全团队经历了很多人员变动。前安全准备主管Aleksander Madry在2024年7月被重新分配,接任者Lilian Weng几个月后离开公司,另一位接任者Joaquin Quinonero Candela也在2025年7月转到招聘部门。


版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2025/12/30 21:34:27

C#之类型与实例

C# 类与实例教程:从基础到高级应用 类是 C# 面向对象编程的核心概念,它允许我们创建自定义类型,封装数据和行为。 1. 类的基本概念 1.1 什么是类? 类是创建对象的蓝图或模板,它定义了对象的: 数据&#xff…

作者头像 李华
网站建设 2025/12/30 21:32:53

SSH X11 forwarding运行图形界面程序

SSH X11 Forwarding 运行图形界面程序 在人工智能和数据科学的日常开发中,一个常见的场景是:你有一台部署在云端或数据中心的高性能服务器,它没有显示器、键盘和鼠标,但你需要在这台“黑盒”机器上运行带有图形界面的工具——比如…

作者头像 李华
网站建设 2025/12/30 21:25:27

判断两个IP是否属于同一子网_判断是否在同一个子网

判断两个IP地址是否属于同一个子网(网段)的方法 判断两个IPv4地址是否在同一个子网的核心原理是:将每个IP地址与子网掩码进行按位与(AND)运算,得到网络地址(网络号)。如果两个网络地…

作者头像 李华
网站建设 2025/12/30 21:23:46

转换wps字符串

LET(文本,SUBSTITUTE(D1,CHAR(10),","),长度,LEN(文本),结果,REDUCE("",SEQUENCE(长度),LAMBDA(累计值,i,LET(字符,MID(文本,i,1),编码,CODE(字符),IF(编码<128,累计值&字符,LET(最后一个字符,IF(累计值"","",RIGHT(累计值,1))…

作者头像 李华
网站建设 2025/12/30 21:22:56

Linux lsof命令查看Miniconda占用的端口资源

使用 lsof 精准排查 Miniconda 环境中的端口占用问题 在现代 AI 与数据科学开发中&#xff0c;Python 已经成为事实上的标准语言。从 Jupyter Notebook 到 PyTorch 训ing 脚本&#xff0c;再到基于 Flask 或 FastAPI 的模型服务部署&#xff0c;几乎每个环节都离不开 Python 生…

作者头像 李华
网站建设 2025/12/30 21:21:03

科研级Python环境搭建:Miniconda镜像确保实验结果可复现

科研级Python环境搭建&#xff1a;Miniconda镜像确保实验结果可复现 在人工智能和数据科学领域&#xff0c;一个令人沮丧的场景屡见不鲜&#xff1a;几个月前还能完美运行的实验代码&#xff0c;如今却在导入时抛出奇怪的错误——“module torch has no attribute utils.data&a…

作者头像 李华