ChatGLM2-6B-相关代码,逐行详解版。
逐步更新,欢迎大家Star,Fork,参与进来,提交PR。
注:xxx表示伪目录,非有效。
这个项目主要是数据相关的流转,测试,还有p tuning v2相关微调。若是想弄懂大模型的原理,建议看GLM-Explained
此外,大模型还基于两个非常重要的基础库,那便是transformers,和pytorch,同样这两个库也有关键代码的逐行解析版本。
- x/
- chatglm2PT
- /configuration_chatglm.py 这段代码定义了一个名为ChatGLMConfig的类,用于配置和管理ChatGLM模型。
- /modelling_chatglm.py
- x/
- README.md