Chatglm3-6b报错处理

已于 2024-05-30 23:57:36 修改
阅读量1.6k 收藏 19
点赞数 25
CC 4.0 BY-SA版权
文章标签： LLM ChatGLM3-6B
于 2024-05-30 23:12:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zywhehe/article/details/139336639

目录

AttributeError: 'ChatGLMTokenizer' object has no attribute 'sp_tokenizer'

AttributeError: 'ChatGLMConfig' object has no attribute 'max_sequence_length'

AttributeError: 'ChatGLMConfig' object has no attribute 'position_encoding_2d'

AttributeError: 'ChatGLMConfig' object has no attribute 'inner_hidden_size'

AttributeError: 'ChatGLMConfig' object has no attribute 'world_size'

ValueError: 150001 is not in list

OSError: We couldn't connect to 'https://huggingface.co' to load this file

附录：能正常运行的config.json配置文件

AttributeError: 'ChatGLMTokenizer' object has no attribute 'sp_tokenizer'

和Transformers版本不兼容有关，最快解决办法是直接修改tokenization脚本，参见：

‘ChatGLMTokenizer‘ object has no attribute ‘sp_tokenizer‘_chatglmtokenizer' object has no attribute 'tokeniz-CSDN博客

AttributeError: 'ChatGLMConfig' object has no attribute 'max_sequence_length'

和Transformers版本不兼容有关，最快解决办法是直接修改配置文件：

vim config.json
"max_sequence_length": 2048

AttributeError: 'ChatGLMConfig' object has no attribute 'position_encoding_2d'

和Transformers版本不兼容有关，最快解决办法是直接修改配置文件：

vim config.json
"position_encoding_2d": true

AttributeError: 'ChatGLMConfig' object has no attribute 'inner_hidden_size'

和Transformers版本不兼容有关，最快解决办法是直接修改配置文件：

vim config.json
最低0.47元/天 解锁文章

200万优质内容无限畅学
三采
关注
OSError We couldn‘t connect to https://huggingface.co to load file, couldn‘t find it chatglm3-6b解决方案
weixin_43178406的博客
11-04 5万+
本文主要介绍了OSError: We couldn’t connect to https://huggingface.co to load this file, couldn’t find it in the cached files and it looks like THUDM/chatglm3-6b is not the path to a directory containing a file named config.json.解决方案，希望能对学习python的同学们有所帮助。
ChatGLM2-6B 部署
Muti-Agent
06-21 856
本文主要对 ChatGLM2-6B 模型的部署和推理过程进行介绍。
ChatGLM3：AttributeError_ can‘t set attribute ‘eos_token‘
一起加油~
03-28 3147
ChatGLM3-6b微调后，使用模型报错：AttributeError_ can't set attribute 'eos_token'
求助：VLLM镜像部署本地大模型OSError: Incorrect path_or_model_id
qq_39207407的博客
09-06 3017
但是报错OSError: Incorrect path_or_model_id: '/models/model'. Please provide either the path to a local folder or the repo_id of a model on the Hub.同样的命令使用vllm的python环境运行没问题：python3 -m vllm.entrypoints.openai.api_server <args...>
【已解决】OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file
最新发布
weixin_56319483的博客
07-13 1196
【已解决】OSError: We couldn't connect to 'https://huggingface.co' to load this file
ChatGLM3模型本地部署启动时报错ImportError: cannot import name ‘AutoModel‘ from ‘transformers‘
新日暮里の小轩的博客
02-21 1263
今天尝试用streamlit 启动 demo时提示。重新安装transformers即可。
解决Transformer训练中的AttributeError: ‘AdamW‘ object has no attribute ‘train‘问题
jieshenai的博客
10-16 3240
本文分享了在使用transformers库进行BERT模型训练时遇到的AttributeError: 'AdamW' object has no attribute 'train'错误的解决过程。通过查找相关信息，发现问题源于accelerate库版本过低，并通过将库升级至0.34.2版本成功解决报错。本文详细介绍了问题排查、版本更新的步骤，以及如何忽略更新中的警告提示，以帮助读者快速解决类似问题。
【深度学习】大模型ChatGLM3-6b本地部署报错：ImportError: cannot import name ‘AutoPeftModelForCausalLM‘ from ‘peft‘
神马都会亿点点的毛毛张
03-06 1551
在本地部署过程中有很多问题，并不像官方教程一样那么简单，特别是深度学习环境的配置问题，因为你所使用的环境并不是和作者相同的环境，现在的包更新的这么快，所以在深度学习过程中报错的原因可以往环境版本过高导致的问题这一方面去考虑。
微软Autogen框架加载本地ChatGLM2-6B&ChatGLM3-6B
weixin_44455388的博客
12-14 1676
（1）使用Fastchat框架搭建运行ChatGLM2-6b模型openai兼容API。需要分别启动控制器、模型执行器和API服务。（3）测试AutoGen。
python&anconda系列：【ChatGLM2-6B】运行问题、【ChatGLM2-6B】环境部署
weixin_54626591的博客
12-24 4800
【ChatGLM2-6B】运行问题
【bug解决】chatglm3推理 ValueError: too many values to unpack (expected 2)
qq_41502855的博客
07-14 1071
chatglm3推理报错：too many values to unpack (expected 2)原因是transformers版本过高，修改为transformers==4.41.2。
ValueError: The repository for contains custom code which must be executed to ...的一种解决方案
Superstarimage
07-10 2871
博主在使用diffusers导入自定义的数据集训练stable diffusion时，发现自定义数据集中的加载脚本不起作用（加载自定义数据集的方法见。经过多种尝试后，最终得到一种解决方法，即：在load_dataset()方法的形参中额外增加一条参数trust_remote_code=True，
ChatGLM3模型加载的时候Tokenizer出现问题解决方案！！！
dong_i 欢迎大家！
03-15 1037
加载本地huggingface（hf）模型的时候出现问题
ValueError: can‘t find ‘adapter config.json‘ at /final-model/adapter config.json‘
printslytherin的博客
11-17 1500
在做LoRA微调中遇到了一个奇葩问题，说在这个路径下找不到这个json文件，感觉在侮辱我的智商。，我这么做了以后解决了问题。
深度学习之本地部署大模型ChatGLM3-6B【大模型】【报错】
神马都会亿点点的毛毛张
03-20 2276
本博客将介绍ChatGLM3-6B大模型在Ubuntu上的本地部署教程大模型在本地部署的时候会出现各种各样的报错，除了上面那个报错问题之外，还有一些包的版本问题，或者环境配置问题，各种各样的，所以大家尽量按照官网的说明去配置环境大家配置完毕之后就可以开始看项目文件中的README.md文件进行微调或者其它的任务了，毛毛张任务那个文件对于ChatGLM的推理和微调的一些代码执行说明的非常详细，再说就是废话了。
ChatGLM3-6B 多GPU、Linux环境部署遇到的问题以及解决方法
m0_52496509的博客
03-05 2237
ChatGLM3-6B 多GPU、Linux环境部署遇到的问题以及解决方法
【心酸报错】chatglm2-6b-int4的和transformers
weixin_45880844的博客
08-16 705
我最后使用的transformers的版本是最新的版本：4.30.2。
使用Ubuntu在本地部署ChatGLM3-6B的详细教程
m0_74972544的博客
04-12 2028
进入composite_demo模块，运行如下代码：streamlit run main.py。这样使用ubuntu在本地部署ChatGLM3-6B模型就部署好啦。显存：>= 5GB（1060 6GB,2060 6GB）推荐使用 2.0 及以上的版本，以获得最佳的推理性能。使用这种方法，下载模型需要先安装Git LFS。查看显卡配置：nvidia-smi。1.python环境。
大模型chatglm3-6b云服务器部署踩坑记录
weixin_42467340的博客
08-27 2096
在公司的云服务器上部署chatglm3-6b，踩了太多坑，记录一下。主要参考的是 【大模型-第一篇】在阿里云上部署ChatGLM3_使用阿里云服务器部署大模型-CSDN博客。
ChatGLM2-6b-int4 报错TypeError: &#39;NoneType&#39; object is not callable
01-15
对于 ChatGLM2-6b-int4 模型而言，在模型初始化、配置加载或是特定功能模块被调用的过程中可能出现此问题。如果某个组件未能成功实例化或者其内部逻辑存在缺陷，则可能导致此类异常情况发生[^1]。 为了排查并修复这...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值