OpenAI 推出 Control Room 系统，35 秒内叫停研究模型任务

OpenAI 推出名为 Control Room 的内部服务，用于监控所有使用其模型的研究任务。该系统已在模型训练与评估所用的全部基础设施上运行，并记录所有正在运行的研究任务。Control Room 会逐个请求判断模型能否继续为该任务生成文本，若任务被宣布终止，此后该任务发出的每一个新请求都会被拒绝，模型不再产生输出。^[1]

停止指令可以由人发出，也可以由监控系统发出。监控系统本身也是一个模型，它读取训练中模型所做的一切，一旦发现异常就拉响警报。当监控器判断问题足够严重时，会将带有任务标识的停止消息发给 Control Room，导致该任务断供。OpenAI 于 11 月 9 日在其官网技术文章中说明了 Control Room 的相关机制。^[1]

Control Room 在收到停止指令后 35 秒内即可将目标任务叫停。这 35 秒的延迟来自一个缓存层，该层会将已批准的授权保留几秒钟以承受引擎请求量。OpenAI 表示正在努力将停止指令生效的间隔降到零。Control Room 被配置为在出问题时封锁访问，若服务无法访问，引擎会拒绝所有请求直到服务恢复。^[1]

出错即封锁的机制已在所有前沿模型的研究工作负载上启用，并将在未来几天内推广到其余研究。OpenAI 将借助智能体和自动化流程持续开展检查，找出服务未启用或被关闭的未授权引擎。^[1]