【本地模型】基础:模型管理使用教程

1、管理和使用模型

1、点击下载可以下载模型

2、点击启动,可以开启模型

3、模型启动后,点击聊天可以进入对话界面,与模型进行对话:

4、点击设置可以设置模型的参数以及端口号

调整参数:大部分参数不需要调整,如果遇到模型上下文不足,可以仅调节-c后面的数字,这个是上下文最大的长度。

调整完成之后,点击保存,然后重启模型生效