Welcome to Firefly
切换语言
Firefly文档中心
最近更新: 2026-09-30 17:53:32

快速开始

阅读本节,安装 LlamaPi 并运行第一个模型。

安装 LlamaPi

设备已配置 Firefly APT 软件源时,可直接安装 LlamaPi:

sudo apt install llamapi

也可以从 Firefly 官网下载页获取 deb 安装包,将其复制到设备上,再进入文件所在目录安装:

sudo dpkg -i ./firefly-llamapi-*.deb

使用 LlamaPi 运行模型

使用 llamapi run 命令运行 qwen3.5:4b 模型:

llamapi run qwen3.5:4b

llamapi run 命令会自动选择并下载当前硬件可用的模型: 模型下载并加载完成后,终端会进入交互式对话,在提示符中与模型进行对话: 对于具有多模态能力的模型可以使用@在对话中引入附件:

使用 /exit 或 Ctrl+D 退出对话。

查看当前硬件可用的模型

列出当前硬件可用的模型:

llamapi list --online

以 RK3588 + RK1828 硬件平台为例:

下一步

本页目录