tckm.yan/aha
0
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

Merge branch 'pr/happynewplay/41'

Browse Source
This commit is contained in:
jhqxxx
2026-04-06 18:23:23 +08:00
parent ed4811a01f aec47e47af
commit 110a1bc5eb
33 changed files with 11898 additions and 23 deletions
Download Patch File Download Diff File Expand all files Collapse all files
README.zh-CN.md
+15
View File
@@ -119,6 +119,21 @@ aha cli -m Qwen/Qwen3-ASR-0.6B
# 直接运行推理（无需启动服务）
aha run -m Qwen/Qwen3-ASR-0.6B -i "audio.wav"
# 本地运行 all-MiniLM-L6-v2 向量模型（原生 safetensors）
aha run -m all-minilm-l6-v2 -i "Rust embedding test" --weight-path D:\model_download\all-MiniLM-L6-v2
# 本地运行 all-MiniLM-L6-v2 向量模型（GGUF）
aha run -m all-minilm-l6-v2 -i "Rust embedding test" --artifact-format gguf --gguf-path D:\model_download\All-MiniLM-L6-v2-Embedding-GGUF --tokenizer-dir D:\model_download\all-MiniLM-L6-v2
# 本地运行 all-MiniLM-L6-v2 向量模型（ONNX）
aha run -m all-minilm-l6-v2 -i "Rust embedding test" --artifact-format onnx --onnx-path D:\model_download\all-MiniLM-L6-v2\onnx --tokenizer-dir D:\model_download\all-MiniLM-L6-v2
# 本地运行 GLM-OCR（GGUF）
aha run -m glm-ocr -i .\assets\img\ocr_test1.png --artifact-format gguf --gguf-path D:\model_download\GLM-OCR-GGUF
# 本地运行 GLM-OCR（ONNX）
aha run -m glm-ocr -i .\assets\img\ocr_test1.png --artifact-format onnx --onnx-path D:\model_download\GLM-OCR-ONNX --tokenizer-dir D:\model_download\GLM-OCR-ONNX
# 仅启动服务（模型已下载）
aha serv -m Qwen/Qwen3-ASR-0.6B -p 10100