jiangchengchengNLP commited on
Commit
d449078
1 Parent(s): 8d8d65b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +1 -1
README.md CHANGED
@@ -6,7 +6,7 @@ license: apache-2.0
6
 
7
  简介
8
 
9
- 本项目基于华佗 GPT2-7B 模型,使用 transformers 库中的 bitsandbytes 方法进行了 int8 量化,并将量化后的模型上传到了 Hugging Face 模型库。量化后的模型大小约为 8GB,原模型大小为 26.8GB。该模型可以被 transformers 和 vllm 库加载,并配备了对应的 tokenizer 模型文件。
10
 
11
  模型详情
12
 
 
6
 
7
  简介
8
 
9
+ 本项目基于华佗 GPT2-7B 模型,使用 transformers 库中的 bitsandbytes 方法进行了 int8 量化,并将量化后的模型上传到了 Hugging Face 模型库。量化后的模型大小约为 8GB,原模型大小为 14GB。该模型可以被 transformers 和 vllm 库加载,并配备了对应的 tokenizer 模型文件。
10
 
11
  模型详情
12