能把deepseek V4 Flash 搬到星核主机上来么。。。

日常交流
1

好像不太行。。。参数量太大了，内存罩不住。。。目前看魔搭上没啥好的量化模型。

2

27B还是星核甜点

3

已经加入了 novamax里面有 ，但是一直报Error occurred during execution of model: DeepSeek-V4-Flash-IQ2XXS.gguf. Reason: Field ‘max_tokens’: [json.exception.type_error.302] type must be number, but is null (Details: C:\Users\chen\AppData\Local\Temp\novapaw_query_error_xff0ylg1.json) 现在论坛反正是没人解答，我也不知道怎么弄。

4

我尝试了很多次，还是不行。不知道怎么搞。。。

5

模型用202607021720版本引擎在1236端口启动后，在novapaw中选择lmstudio供应商使用会报错，但使用老引擎没有问题，使用nova AI作为供应商也没有问题 - BUG反馈 - NovaAI 有个类似的，但我没尝试弄。你看看能不能弄