本地的LLM兜底问题(三代Ultra_32G)

Viewed 0

在考虑本地LLM的都低问题,三代ultra本(应该是挺经典的,今年主推)32G。这个牧马人似乎封装了openVINO,挺好的,但是目前商店的模型不行,唯一能用的qwen3.6对显存要求比较高,arc芯片优化调不出来,Gemma好像都不行,还在调试中。

0 Answers
Related