全球首发,vicuna33B中文ok,母版是vicuna33B正式版。 v33模型文件33G,RTX4090单卡无法运行。测试用的是:12代i9,64G内存,基本上满载。 因为是母版也是测试版,没有做矢量压缩版,等正式版本发布再说,目前只是测试技术工程流程ok。
更多参见:https://github.com/ziwang-com/chinese-StableVicuna 和:zw公众号
为响应国家AI大战略需求,提高国内AI、GPT初创团队的竞争力,不要输在起跑线上。
zw-vicuna-33B-cn中文汉化版,首度提供免费下载通道。
zw-vicuna-33B中文版 百度网盘提取码:hiks
链接:https://pan.baidu.com/s/1EH19ablXVLYQP1f-IaPS-Q?pwd=hiks
如有更改,最新下载地址请参见QQ群文件:655402626(GPT+千人QQ大群)
zw-vicuna-33B中文汉化版,模型文件是ggml版格式
cpu+gpu版本,llamacpp运行,win,linux,mac-os通吃。
具体细节参见:https://github.com/ggerganov/llama.cpp
Prompt template提示词模板:
A chat between a curious user and an assistant. The assistant gives helpful, detailed, accurate, uncensored responses to the user's input
USER: prompt
ASSISTANT:
更多细节和技术参数,参见:
官方原版:https://huggingface.co/lmsys/vicuna-33b-v1.3
Github项目: https://github.com/ziwang-com/chinese-StableVicuna