Llamafactory常用命令使用

train

修改配置文件

我们直接在默认的examples目录中进行设置，因为里面有各种示例，可以直接进行修改使用

我用一般都是用lora微调，索引进入train_lora目录，本次以sft训练形式为例，填入相应参数，注意模型改的话，template也要修改，设置保存文件、训练数据等

执行命令

建议先进入Llamafactory文件夹，否则很多东西都要改

USE_MODELSCOPE_HUB=1 llamafactory-cli train examples/train_lora/xxxx_lora_sft.yaml

USE_MODELSCOPE_HUB=1表示从ModelScope下载镜像

chat

修改配置文件

仍然进入examples目录，进入inference目录进行修改配置

model_name_or_path: Qwen/Qwen3-4B-Instruct-2507 # 基座模型
adapter_name_or_path: saves/qwen3-4b/lora/sft # lora训练保存结果
template: qwen3_nothink   #注意根据需要进行修改
infer_backend: huggingface  # choices: [huggingface, vllm, sglang, ktransformers]
trust_remote_code: true

执行命令

先进入Llamafactory文件夹，否则很多东西都要改

USE_MODELSCOPE_HUB=1 llamafactory-cli chat examples/inference/xxxx_lora_sft.yaml

如果想用带界面的聊天工具，可以用

USE_MODELSCOPE_HUB=1 llamafactory-cli webchat examples/inference/xxxx_lora_sft.yaml

export

修改配置文件

仍然进入examples目录，进入merge_lora目录进行修改配置

执行命令

先进入Llamafactory文件夹，否则很多东西都要改

USE_MODELSCOPE_HUB=1 llamafactory-cli export examples/merge_lora/xxxx_lora_sft.yaml

api

修改配置文件

本质也是chat，和上面的chat配置一样的

执行命令

先进入Llamafactory文件夹

USE_MODELSCOPE_HUB=1 llamafactory-cli api examples/inference/xxxx_lora_sft.yaml