b79ae54b7b
feat(iOS): 更新MNN后端模型配置优化性能 将MNN主模型从Qwen3.5-4B(~2.64GiB)降级为Qwen3.5-2B(~1.1GiB)，因为4B版本 实测运行过慢，影响用户体验。iPhone17+/SME2设备使用2B模型，保留MLX 兜底方案用于模拟器和备用场景，确保AI推理性能和存储效率的平衡。 ```
89 lines
5.0 KiB
Swift
89 lines
5.0 KiB
Swift
import Foundation
|
|
|
|
/// 模型文件清单中的一项:相对模型目录的路径 + 预期字节数(用于总进度计算与下载后大小校验)。
|
|
struct ModelFile: Equatable, Sendable {
|
|
let path: String
|
|
let bytes: Int
|
|
}
|
|
|
|
/// 硬编码的模型文件清单与下载源。
|
|
/// 只列加载必需的功能文件,排除 README.md / .gitattributes(省下载)。
|
|
/// 字节数与服务器素材逐一核对一致,见
|
|
/// docs/superpowers/specs/2026-05-29-model-download-design.md 附录 A。
|
|
nonisolated enum ModelManifest {
|
|
/// 自建 Caddy 静态服务(用户自建 HTTPS 反代)。
|
|
/// 备选纯 IP(需 App 端 ATS 例外): http://101.132.124.52:5244/
|
|
static let baseURL = URL(string: "https://file.myv0.com/")!
|
|
|
|
static func files(for kind: ModelKind) -> [ModelFile] {
|
|
switch kind {
|
|
case .llm:
|
|
// Qwen3.5-2B-4bit:多模态仓库,但走 LLMModelFactory 的 qwen3_5 文本路径加载。
|
|
// 字节数取自 mlx-community/Qwen3.5-2B-4bit 仓库实际 blob 大小(HF API,2026-06 核对)。
|
|
// 该仓库 tokenizer 体系为 vocab.json + tokenizer.json(无 merges.txt /
|
|
// special_tokens_map.json / added_tokens.json),chat_template 改为 .jinja。
|
|
// 一并镜像视觉预处理配置(preprocessor / processor / video_preprocessor),
|
|
// 文本加载用不到但体积可忽略,保持与仓库一致避免漏文件。
|
|
return [
|
|
ModelFile(path: "config.json", bytes: 3_113),
|
|
ModelFile(path: "model.safetensors", bytes: 1_722_271_785),
|
|
ModelFile(path: "model.safetensors.index.json", bytes: 81_722),
|
|
ModelFile(path: "tokenizer.json", bytes: 19_989_343),
|
|
ModelFile(path: "tokenizer_config.json", bytes: 1_139),
|
|
ModelFile(path: "vocab.json", bytes: 6_722_759),
|
|
ModelFile(path: "chat_template.jinja", bytes: 7_755),
|
|
ModelFile(path: "preprocessor_config.json", bytes: 390),
|
|
ModelFile(path: "processor_config.json", bytes: 1_300),
|
|
ModelFile(path: "video_preprocessor_config.json", bytes: 385),
|
|
]
|
|
case .vl:
|
|
// Qwen3-VL-4B-Instruct-4bit:字节数取自 mlx-community 仓库实际 blob 大小
|
|
// (HF API blobs=true,2026-05 核对),用于总进度计算与下载后大小校验。
|
|
// 策略:完整镜像仓库的全部运行文件(仅排除 README.md / .gitattributes),
|
|
// 与标准 mlx-vlm 加载环境保持一致,避免漏文件导致 VLMModelFactory 加载失败。
|
|
// 同时带两份 chat_template(.json 旧约定 + .jinja 新约定)与 video 预处理配置,
|
|
// 以兼容不同版本 swift-transformers / Qwen3VLProcessor 的读取路径。
|
|
return [
|
|
ModelFile(path: "config.json", bytes: 7_137),
|
|
ModelFile(path: "model.safetensors", bytes: 3_093_767_283),
|
|
ModelFile(path: "model.safetensors.index.json", bytes: 64_742),
|
|
ModelFile(path: "tokenizer.json", bytes: 11_422_654),
|
|
ModelFile(path: "tokenizer_config.json", bytes: 5_445),
|
|
ModelFile(path: "vocab.json", bytes: 2_776_833),
|
|
ModelFile(path: "merges.txt", bytes: 1_671_853),
|
|
ModelFile(path: "special_tokens_map.json", bytes: 613),
|
|
ModelFile(path: "added_tokens.json", bytes: 707),
|
|
ModelFile(path: "generation_config.json", bytes: 269),
|
|
ModelFile(path: "chat_template.json", bytes: 5_502),
|
|
ModelFile(path: "chat_template.jinja", bytes: 5_292),
|
|
ModelFile(path: "preprocessor_config.json", bytes: 782),
|
|
ModelFile(path: "video_preprocessor_config.json", bytes: 817),
|
|
]
|
|
case .mnnLLM:
|
|
// taobao-mnn/Qwen3.5-2B-MNN 预转换 MNN 格式(HF API 实测,2026-06)。
|
|
// 运行时必需:config.json(MNN llm 配置)+ llm_config.json(超参)+ llm.mnn(图)
|
|
// + llm.mnn.weight(量化权重 ~1.1GB)+ tokenizer.txt + visual.mnn(多模态,文本路径不用但配置含 mllm)。
|
|
// 排除 README/.gitattributes 与可读 dump(llm.mnn.json / export_args.json)。
|
|
return [
|
|
ModelFile(path: "config.json", bytes: 652),
|
|
ModelFile(path: "llm_config.json", bytes: 8_692),
|
|
ModelFile(path: "llm.mnn", bytes: 2_148_136),
|
|
ModelFile(path: "llm.mnn.weight", bytes: 1_176_647_702),
|
|
ModelFile(path: "tokenizer.txt", bytes: 6_465_727),
|
|
ModelFile(path: "visual.mnn", bytes: 488_096),
|
|
]
|
|
}
|
|
}
|
|
|
|
static func totalBytes(for kind: ModelKind) -> Int {
|
|
files(for: kind).reduce(0) { $0 + $1.bytes }
|
|
}
|
|
|
|
/// 单个文件的下载 URL = baseURL / <仓库名> / <相对路径>。
|
|
static func fileURL(for kind: ModelKind, file: ModelFile) -> URL {
|
|
baseURL
|
|
.appendingPathComponent(kind.rawValue, isDirectory: true)
|
|
.appendingPathComponent(file.path)
|
|
}
|
|
}
|