テンセントのAI首席科学者・姚順雨氏、AIのサイバー能力と近く生物能力が「害をなせる閾値」に達すると警告

なぜ重要か

AIによる生物学的リスクへの警告は、生物関連能力を持つモデルの安全策を強化してきたAnthropicやOpenAIなど米国の研究所から出ることが多い。元OpenAI研究者で現在テンセントのAI研究を率いる姚順雨氏は土曜、香港の科学シンポジウムで「モデルのサイバー能力、そして近く生物能力が、実際に害をなせる閾値に達する」と述べた。テンセントなど中国企業は誰でもダウンロードできるオープンウェイトモデルを公開しており、発言の意味は大きい。中国の研究所が生物悪用評価や公開制限を導入するかが注目点だ。