快速开始
阅读本节,安装 LlamaPi 并运行第一个模型。
安装 LlamaPi
设备已配置 Firefly APT 软件源时,可直接安装 LlamaPi:
sudo apt install llamapi也可以将 deb 包复制到设备上,再进入文件所在目录安装:
sudo dpkg -i ./firefly-llamapi-*.deb使用 LlamaPi 运行模型
使用 llamapi run 命令运行 qwen3:4b 模型:
llamapi run qwen3:4bllamapi run 命令会自动选择并下载当前硬件可用的模型:
模型下载并加载完成后,终端会进入交互式对话:
在提示符中与模型进行对话,使用 /exit 或 Ctrl+D 退出对话。
查看当前硬件可用的模型
列出当前硬件可用的模型:
llamapi list --online以下以 RK3588 + RK1828 硬件平台为例:

