1、点击下载可以下载模型
2、点击启动,可以开启模型
3、模型启动后,点击聊天可以进入对话界面,与模型进行对话:
4、点击设置可以设置模型的参数以及端口号
调整参数:大部分参数不需要调整,如果遇到模型上下文不足,可以仅调节-c后面的数字,这个是上下文最大的长度。
调整完成之后,点击保存,然后重启模型生效