我使用的是910b双卡,mindspore=2.2.0,python=3.9.0,我的启动代码如下: 我使用的模型是Qwen1.5-32B-Chat-Int4,从hf获取的safetensors版本,具体结构如下所示: 使用我的启动代码运行后,系统提示“TypeError: init() got an unexpected keyword argument 'torch_dtype'”,具体实现过程如下所示: 劳烦协助排查下这个错误该如何修正?谢谢。
登录 后才可以发表评论