cli add about gguf param

This commit is contained in:
jhqxxx
2026-03-17 15:39:34 +08:00
parent 80d36b5308
commit fb4a50f745
19 changed files with 403 additions and 104 deletions
+7 -23
View File
@@ -25,6 +25,13 @@
aha 是一款基于 Rust 和 Candle 框架构建的高性能跨平台 AI 推理引擎。将最先进的 AI 模型带到您的本地机器——无需 API 密钥,无需云依赖,纯粹、快速的 AI,直接在您的硬件上运行。
## 更新日志
### 2026-03-17
- 修复 qwen3.5 position_ids 创建错误
- cli 参数增加
- gguf_path: 本地 GGUF 模型权重路径(加载 GGUF 模型时需要)
- mmproj_path: 本地 mmproj GGUF 权重路径(加载多模态 GGUF 时需要)
- WhichModel 增加 qwen3.5-gguf
### 2026-03-16
- 增加 Qwen3.5 mmproj
@@ -41,29 +48,6 @@ aha 是一款基于 Rust 和 Candle 框架构建的高性能跨平台 AI 推理
### 2026-03-01
- 更新 interpolate.rs
### 2026-02-24
- 更新 candle 版本 0.9.2
### v0.2.0 (2026-02-05)
- 新增 Qwen3-ASR 语音识别模型
### v0.1.9 (2026-01-31)
- 新增 CLI `list` 子命令,显示支持的模型
- 新增 CLI 子命令结构支持(`cli``serv``download``run`
- 修复 Qwen3VL thinking startswith bug
- 修复 `aha run` 多输入 bug
### v0.1.8 (2026-01-17)
- 新增 Qwen3 文本模型支持
- 新增 Fun-ASR-Nano-2512 语音识别模型
- 修复 ModelScope Fun-ASR-Nano 模型加载错误
- 使用 rubato 更新音频重采样
### v0.1.7 (2026-01-07)
- 新增 GLM-ASR-Nano-2512 语音识别模型
- 合并 Metal (GPU) 支持,适用于 Apple Silicon
- 新增动态主目录和模型下载脚本
**[查看完整更新日志](docs/changelog.zh-CN.md)** →
## 快速开始