Tencents KI-Chefwissenschaftler Yao Shunyu warnt, Cyber- und bald Biofähigkeiten von KI erreichten eine Schadensschwelle
Auf einem Wissenschaftssymposium in Hongkong sagte der frühere OpenAI-Forscher am Samstag, offene Modelle könnten kleinen Laboren die Wirkstoffsuche beschleunigen, aber auch beim Bau biologischer Waffen helfen.
Warum es wichtig ist
Warnungen vor KI-gestützten biologischen Risiken kommen meist von US-Laboren wie Anthropic und OpenAI, die Schutzmaßnahmen um ihre biofähigen Modelle verschärft haben. Yao Shunyu, ein früherer OpenAI-Forscher, der heute die KI-Forschung bei Tencent leitet, sagte am Samstag auf einem Wissenschaftssymposium in Hongkong, „die Cyberfähigkeiten von Modellen und bald ihre Biofähigkeiten werden eine Schwelle erreichen, ab der tatsächlich Schaden möglich ist“. Das ist relevant, weil Tencent und andere chinesische Firmen Open-Weight-Modelle veröffentlichen, die jeder herunterladen kann. Offen ist, ob chinesische Labore Bio-Missbrauchstests oder Veröffentlichungsauflagen einführen.
Die wichtigsten Fakten
- Yao Shunyu ist Tencents KI-Chefwissenschaftler, Ex-OpenAI
- Sprach am Samstag auf Symposium in Hongkong
- Cyberfähigkeiten nahe einer Schadensschwelle
- Biofähigkeiten bald ebenfalls
- Offene Modelle könnten kleinen Laboren helfen
- Aber auch beim Bau von Biowaffen