快速开始
阅读本节,安装 LlamaPi 并运行第一个模型。
安装 LlamaPi
设备已配置 Firefly APT 软件源时,可直接安装 LlamaPi:
sudo apt install llamapi也可以从 Firefly 官网下载页获取 deb 安装包,将其复制到设备上,再进入文件所在目录安装:
sudo dpkg -i ./firefly-llamapi-*.deb使用 LlamaPi 运行模型
使用 llamapi run 命令运行 qwen3.5:4b 模型:
llamapi run qwen3.5:4bllamapi run 命令会自动选择并下载当前硬件可用的模型:
模型下载并加载完成后,终端会进入交互式对话,在提示符中与模型进行对话:
对于具有多模态能力的模型可以使用@在对话中引入附件:
使用 /exit 或 Ctrl+D 退出对话。
查看当前硬件可用的模型
列出当前硬件可用的模型:
llamapi list --online以 RK3588 + RK1828 硬件平台为例:

