模型下载与管理
本章介绍如何查找当前硬件可用的模型，并下载、查看和删除本地模型。
模型名称和推理平台
模型名称与类型
LlamaPi 支持带参数规模和不带参数规模的模型名称：
| 格式 | 示例 |
|---|---|
<model>:<size> | qwen3:4b |
<model> | bge-m3 |
当前模型分为两类：
| 类型 | 用途 |
|---|---|
chat | 对话、文本生成和工具调用 |
embedding | 将文本转换为向量 |
当前支持的推理平台
| 推理平台 | 模型类型 | 当前支持的硬件 |
|---|---|---|
rknn3 | chat | RK1820、RK1828 |
rkllm | chat | RK3588 |
rknn2 | embedding | RK3588 |
同一个模型可能包含适用于不同推理平台和硬件的变体。通常由 LlamaPi 根据当前硬件自动选择；需要手动指定时，使用 --platform <platform>/<chip>。
LlamaPi 会检测当前硬件和可用推理平台。后续版本会继续扩展硬件和推理平台支持。
查找和下载模型
查找当前硬件可用的模型
llamapi list --online该命令可列出适用于当前硬件的所有可下载模型。
下载模型
执行下列命令，自动选用推荐平台并下载对应模型：
llamapi pull qwen3:4b可添加 --platform 参数，下载指定推理平台的模型：
llamapi pull qwen3:4b --platform rkllm/rk3588下载完成后，LlamaPi 会验证模型文件并显示模型大小。
管理本地模型
查看本地模型
llamapi list本地模型默认保存在：
/var/lib/llamapi/models删除本地模型
llamapi rm qwen3:4b删除指定推理平台的模型变体：
llamapi rm qwen3:4b --platform rkllm/rk3588如果模型正在运行，LlamaPi 会询问是否先卸载模型。删除本地文件后，再次使用该模型时需要重新下载。