Skip to content

llmapi-io/llmapi-chat

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

12 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

LLMApi Chat

LLMApi Chat

可私有化部署的ChatGPT WEB聊天服务端

介绍

English

llmapi-chat 基于llmapi.io服务提供了简单的聊天服务器后端,可以直接和ChatGPT GPT-3 llama等大模型聊天交互

已经支持的能力

  • 连续对话: 使用ChatGPT进行多轮连续对话
  • 文字补全: 使用GPT-3welm模型进行文字补全
  • 文字嵌入: 使用openai的Embedding模型,将语句转为向量,可以用来做分类、搜索等任务
  • 文字生图: 使用dall-e模型,将文字转为图片
  • 实时搜索: 使用NewBing接口,体验Bing搜索(基于ChatGPT,非官方接口)

安装和运行

  1. 本地安装运行
./build.sh
./start.sh
  1. 使用docker运行
docker build -t llmapi-chat:0.1.0 .
docker run --name webchat -d -p 8081:8081 llmapi-chat:0.1.0

访问

在浏览器打开:http://127.0.0.1:8081即可访问webchat页面

你可以在llmapi.io上注册账号即可获得apikey,按照以下示例,完成配置后即可与ChatGPT GPT-3以及其他流行的LLM进行聊天:

Chat demo

致谢

本项目基于chatGPT-web开发