ChatGPT_reverse_proxy

ChatGPT_reverse_proxy 是 ai api 反向代理。可以在自建服务器、云函数上使用。

• 默认支持 OpenAI API 反向代理，请求 api 时，直接把接口地址 ( https://api.openai.com ) 替换为反向代理服务的地址。
• 支持 Azure OpenAI API 反向代理，将 OXY_TARGET 环境变量修改为 Azure OpenAI 服务地址示例：https://docs-test-001.openai.azure.com

  Azure 检索密钥和服务地址
  https://learn.microsoft.com/zh-cn/azure/ai-services/openai/chatgpt-quickstart?tabs=command-line%2Cpython&pivots=programming-language-go
  

可用的环境变量

1. OXY_TARGET: 反向代理目标，默认=https://api.openai.com
2. OXY_PORT: 代理服务端口，默认=9000
3. OXY_HOP_HEADER_PREFIX: 跳过 http header 前缀，默认为空

自托管chatGPT反向代理服务

使用二进制发行版

1. 支持的操作系统

   • Windows
   • Linux
   • macOS
   • FreeBSD

2. 下载 chatgpt_reverse_proxy 最新版本 releases

3. 开始运行它:

   linux

   如需重新定义环境变量

   $ export OXY_PORT=9000
   

   运行反向代理服务

   $ ./chatgpt_reverse_proxy
   

4. OpenAI API 端点地址样例：

   http://localhost:9000/v1/completions
   http://localhost:9000/v1/chat/completions
   

docker

1. 拉取容器映像

   $ docker pull ghcr.io/lenye/chatgpt_reverse_proxy
   

2. docker compose

   docker_compose.yml

   services:
      chatgpt_reverse_proxy:
         image: ghcr.io/lenye/chatgpt_reverse_proxy:latest
         restart: unless-stopped
         ports:
            - "9000:9000"
         volumes:
            - /etc/localtime:/etc/localtime:ro
            - /etc/timezone:/etc/timezone:ro
         environment:
            OXY_PORT: "9000"
            OXY_TARGET: "https://api.openai.com"
            OXY_HOP_HEADER_PREFIX: ""
   

   运行反向代理服务

   $ docker compose up -d
   

在云函数搭建chatGPT反向代理服务

https://service-xxx-xxx.xxx.apigw.tencentcs.com/v1/completions
https://service-xxx-xxx.xxx.apigw.tencentcs.com/v1/chat/completions

使用样例

OpenAI

package main

import (
	"context"
	"fmt"
	"os"

	"github.com/sashabaranov/go-openai"
)

func main() {
	cfg := openai.DefaultConfig(os.Getenv("OPENAI_API_KEY"))

	// 修改 BaseURL 为反向代理服务的地址，当前示例为腾讯云函数的地址，不要忘记"/v1"
	cfg.BaseURL = "https://service-xxx-xxx.xxx.apigw.tencentcs.com/v1"

	client := openai.NewClientWithConfig(cfg)

	ctx := context.Background()
	// list models
	models, err := client.ListModels(ctx)
	if err != nil {
		fmt.Printf("ListModels error: %v\n", err)
		os.Exit(1)
	}
	// print the first model's id
	fmt.Println(models.Models[0].ID)
}

其他样例

import os

import openai

openai.api_key = os.getenv("OPENAI_API_KEY")

# 修改 api_base 为反向代理服务的地址，当前示例为腾讯云函数的地址，不要忘记"/v1"
openai.api_base = "https://service-xxx-xxx.xxx.apigw.tencentcs.com/v1"

# list models
models = openai.Model.list()
# print the first model's id
print(models.data[0].id)

License

ChatGPT_reverse_proxy is released under the Apache 2.0 license.

免责声明

• 本项目提供的代码和功能，作者不保证所有功能正常运作，不保证代码没有错误或缺陷，不保证代码错误或缺陷被及时更正。
• 使用者在任何情况下均不得将本项目的作者、贡献者或其他相关方与使用者的使用行为联系起来，或要求其对使用者使用本项目所产生的任何损失或损害负责。
• 使用者在使用本项目的代码和功能时，必须自行研究相关法律法规，并确保其使用行为合法合规。任何因违反法律法规而导致的法律责任和风险，均由使用者自行承担，本项目的作者、贡献者或其他相关方不承担任何法律及连带责任。
• 基于本项目进行的任何二次开发、修改或编译的程序与原创作者无关，原创作者不承担与二次开发行为或其结果相关的任何责任，使用者应自行对因二次开发可能带来的各种情况负全部责任。

在使用本项目的代码和功能之前，请您认真考虑并接受以上免责声明。如果您对上述声明有任何疑问或不同意，请不要使用本项目的代码和功能。如果您使用了本项目的代码和功能，则视为您已完全理解并接受上述免责声明，并自愿承担使用本项目的一切风险和后果，作者对您使用本项目所产生的任何损失、责任、或风险概不负责。