mindformers.models
基类
所有预训练模型的基类。 |
|
所有配置类的基类。 |
|
所有慢速分词器的基类。 |
|
快速分词器的基类,封装了 HuggingFace 分词器库。 |
|
|
转换模态内容模板的基类,可以被特定的模型实现。 |
Llama
在线计算并提供执行LLama训练时的损失值和逻辑值。 |
|
Llama 配置类,定义了模型大小。 |
|
基于字节级字节对编码(Byte-Pair-Encoding)构建Llama分词器。 |
|
构建基于字节级字节对编码(Byte-Pair-Encoding)的 Llama 快速分词器。 |
GLM
在线计算并提供执行ChatGLM2训练时的损失值和逻辑值。 |
|
ChatGLM2模型配置类,里面定义了模型的相关配置参数。 |
|
构造一个基于Byte-Pair-Encoding的ChatGLM3模型分词器。 |
|
构造一个基于Byte-Pair-Encoding的ChatGLM4模型分词器。 |