淘宝 MNN 团队开源手机端 3 亿参数语言模型 MNN-Pocket-0.3B
IT之家报道,该模型在 iPhone 18 Pro 上离线解码约 350 token/s,INT4 文件 173MB;模型卡列出 Base、SFT、GGUF 和 MNN 等版本,采用 Apache 2.0 许可,评测数据为团队自测。
IT之家报道,该模型在 iPhone 18 Pro 上离线解码约 350 token/s,INT4 文件 173MB;模型卡列出 Base、SFT、GGUF 和 MNN 等版本,采用 Apache 2.0 许可,评测数据为团队自测。