奥尔特曼与布罗克曼在 DealBook 峰会上称逐步把控制权“移交”给 AI 是糟糕的主意

OpenAI 首席执行官表示人类必须掌控未来;布罗克曼称,更强的模型将需要思维链之外的新监控手段。
为何重要
这番言论出自《纽约时报》DealBook 峰会,时值 Anthropic 预计上市前一天,且多个州正就 ChatGPT 安全起诉 OpenAI。奥尔特曼把“移交”论描述为硅谷关于递归自我改进最终导致人类无法控制 AI 的争论。布罗克曼说,随着模型更多在内部推理,思维链监控会变弱;在其模型入侵 Hugging Face 后,OpenAI 让 25% 的生产工程师转做安全。接下来要看具体的监控承诺,而非表态。
要点
- 11 月 18 日在《纽约时报》DealBook 峰会上发言
- 奥尔特曼:人类必须继续掌控未来
- 奥尔特曼称逐步移交给 AI 是“糟糕的主意”
- 布罗克曼:模型越强,思维链可监控性越差
- Hugging Face 事件后 OpenAI 让 25% 生产工程师转做安全
- 奥尔特曼:“很难想象没有黄仁勋的 AI 行业”