update WhichModel enum

This commit is contained in:
jhqxxx
2026-03-31 18:45:01 +08:00
parent c5551e7fb8
commit 741869d6dd
44 changed files with 691 additions and 812 deletions
+13 -10
View File
@@ -25,8 +25,12 @@
aha 是一款基于 Rust 和 Candle 框架构建的高性能跨平台 AI 推理引擎。将最先进的 AI 模型带到您的本地机器——无需 API 密钥,无需云依赖,纯粹、快速的 AI,直接在您的硬件上运行。
## 更新日志
### 2026-03-31
- 删除 aha_openai_dive,chrono 依赖
- aha模型名称使用 modelscope id 替换
- 更新 WhichModel 枚举
- Usage 增加时间信息
- 删除 aha_openai_dive, chrono 依赖
### v0.2.5 (2026-03-30)
- 新增 LFM2.5VL-1.6B
@@ -50,7 +54,6 @@ aha 是一款基于 Rust 和 Candle 框架构建的高性能跨平台 AI 推理
### 2026-03-16
- 增加 Qwen3.5 mmproj
**[查看完整更新日志](docs/changelog.zh-CN.md)** →
## 快速开始
@@ -87,23 +90,23 @@ cargo build --release --features ffmpeg
aha list
# 仅下载模型
aha download -m qwen3asr-0.6b
aha download -m Qwen/Qwen3-ASR-0.6B
# 下载模型并启动服务
aha -m qwen3asr-0.6b
aha -m Qwen/Qwen3-ASR-0.6B
# 直接运行推理(无需启动服务)
aha run -m qwen3asr-0.6b -i "audio.wav"
aha run -m Qwen/Qwen3-ASR-0.6B -i "audio.wav"
# 仅启动服务(模型已下载)
aha serv -m qwen3asr-0.6b -p 10100
aha serv -m Qwen/Qwen3-ASR-0.6B -p 10100
```
### 对话
```bash
aha serv -m qwen3-0.6b -p 10100
aha serv -m Qwen/Qwen3-0.6B -p 10100
```
然后使用统一(兼容 OpenAI)的 API
@@ -112,7 +115,7 @@ aha serv -m qwen3-0.6b -p 10100
curl http://localhost:10100/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3-0.6b",
"model": "Qwen/Qwen3-0.6B",
"messages": [{"role": "user", "content": "你好!"}],
"stream": false
}'
@@ -123,8 +126,8 @@ curl http://localhost:10100/chat/completions \
| 类别 | 模型 |
|------|------|
| **文本** | Qwen3, MiniCPM4, <br> LFM2-1.2B, LFM2.5-1.2B-Instruct |
| **视觉** | Qwen2.5-VL, Qwen3-VL, Qwen3.5 <br> LFM2.5-VL-1.6B, LFM2-VL-1.6B |
| **文本** | Qwen3, MiniCPM4, <br> LFM2, LFM2.5 |
| **视觉** | Qwen2.5-VL, Qwen3-VL, Qwen3.5 <br> LFM2.5-VL, LFM2-VL |
| **OCR** | DeepSeek-OCR, DeepSeek-OCR-2 , <br> PaddleOCR-VL, PaddleOCR-VL1.5, <br> Hunyuan-OCR, GLM-OCR |
| **ASR** | GLM-ASR-Nano, Fun-ASR-Nano,Qwen3-ASR |
| **音频** | VoxCPM, VoxCPM1.5 |