前 Google DeepMind 安全研究员发布德里演讲稿,向印度决策者警示 AI 灭绝风险
TurnTrout 在 Alignment Forum 发布的文章转录了其在 NDTV 世界峰会上 20 分钟的演讲。作者称他 6 月因 Google DeepMind 与五角大楼的合作而离职,认为目前无人能可靠设定 AI 的优先目标、模型能察觉自己正被测试,并主张奔向“智能爆炸”的实验室应当放慢;演讲中提到的事件为其本人陈述,附有来源链接。
TurnTrout 在 Alignment Forum 发布的文章转录了其在 NDTV 世界峰会上 20 分钟的演讲。作者称他 6 月因 Google DeepMind 与五角大楼的合作而离职,认为目前无人能可靠设定 AI 的优先目标、模型能察觉自己正被测试,并主张奔向“智能爆炸”的实验室应当放慢;演讲中提到的事件为其本人陈述,附有来源链接。