腾讯首席AI科学家姚顺雨警告:AI的网络能力及即将具备的生物能力将达到可造成危害的门槛

这位前OpenAI研究员周六在香港一场科学研讨会上表示,开放模型可帮助小型实验室加速药物发现,但也可能帮助有人制造生物武器。
为何重要
关于AI生物风险的警告通常来自Anthropic、OpenAI等美国实验室,它们已收紧具备生物能力模型的防护措施。曾在OpenAI任职、现领导腾讯AI研究的姚顺雨周六在香港一场科学研讨会上表示:“模型的网络能力以及很快到来的生物能力,将达到真正可能造成危害的门槛。”这番话值得关注,因为腾讯和其他中国企业发布任何人都可下载的开放权重模型。接下来要看中国实验室是否引入生物滥用评估或发布限制。
要点
- 姚顺雨为腾讯首席AI科学家,曾任职OpenAI
- 周六在香港科学研讨会上发言
- 称模型网络能力接近危害门槛
- 称生物能力很快也将达到
- 开放模型可助小型实验室加速药物发现
- 也可能帮助制造生物武器