Skip to content
This repository has been archived by the owner on Apr 7, 2023. It is now read-only.

OedoSoldier/chatglm_webui

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

21 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

ChatGLM WebUI

基于 ChatGPT WebUI 的一个简单的 ChatGLM WebUI。

环境安装

pip install -r requirements.txt

Gradio 版本必须大于 3.21.0!

Windows 下 CPU 运行需要安装编译器,可参考 (https://www.freesion.com/article/4185669814/)。

运行

通过 git clone https://huggingface.co/THUDM/chatglm-6b-int4 下载模型文件到根目录下然后 python main.py 即可,默认状态至少需要 4 GB 显存(CPU 运行则需要 5.2 GB 内存)。

实参

  • --path:指定模型所在文件夹