Welcome to Firefly
切换语言
Firefly文档中心
最近更新: 2026-08-19 11:49:12

快速开始

阅读本节,安装 LlamaPi 并运行第一个模型。

安装 LlamaPi

设备已配置 Firefly APT 软件源时,可直接安装 LlamaPi:

sudo apt install llamapi

也可以将 deb 包复制到设备上,再进入文件所在目录安装:

sudo dpkg -i ./firefly-llamapi-*.deb

使用 LlamaPi 运行模型

使用 llamapi run 命令运行 qwen3:4b 模型:

llamapi run qwen3:4b

llamapi run 命令会自动选择并下载当前硬件可用的模型:

模型下载并加载完成后,终端会进入交互式对话:

在提示符中与模型进行对话,使用 /exitCtrl+D 退出对话。

查看当前硬件可用的模型

列出当前硬件可用的模型:

llamapi list --online

以下以 RK3588 + RK1828 硬件平台为例:

下一步

本页目录