如何将开源大模型的权重文件从safetensors格式转换为gguf格式？
在使用开源大模型时，我们经常会遇到从HuggingFace或者modelscope中获取的权重文件不是gguf格式的情况。这时候，我们需要对权重文件进行转换。今天，我们就以Qwen-1.5 32B模型为例，来聊聊如何进行这个转换。 第...
在使用开源大模型时，我们经常会遇到从HuggingFace或者modelscope中获取的权重文件不是gguf格式的情况。这时候，我们需要对权重文件进行转换。今天，我们就以Qwen-1.5 32B模型为例，来聊聊如何进行这个转换。 第...