Skip to content

Latest commit

 

History

History
106 lines (88 loc) · 5.08 KB

README.md

File metadata and controls

106 lines (88 loc) · 5.08 KB
Raw

我Vercel又复活啦!!!!!! 已支持==流式响应==!!!!!! (把Express丢了)

并发这次也确实提高了, 之前确实测得不准，这次真够用了

ChatGPT Next Web 测试

当然这么长的回复10s肯定发不完 Stream

依然存在的问题

  • 超过10s之后会断流。(因为Vercel免费版持续时间最大值10秒)

解决办法:

氪金!!! Vercel Pro 超时上限为300s，跳转Pro部署介绍

Vercel部署按钮

==不推荐==，无法同步更新，并且新版需要数据库了，==点了也还需要配置数据库步骤==

Deploy with Vercel

Deploy

以下均建议绑定自定义域名解决Vercel域名被阻断问题

1. 结合 Vercel 的KV数据库部署 (kv数据库每天只有3k次、每月30k次访问，仅够个人低频率使用)

  1. fork 本仓库，fork时，取消勾选 Copy the main branch only
  2. 进入Vercel，导入您fork的仓库
  3. 点击Deploy，等待部署完成
  4. 进入Storage选项卡，创建一个KV数据库，Database Name随便起，Primary Region区域推荐选San Francisco，点击Create
  5. 务必确认kv数据库的Projects选项卡连接了你的项目
  6. (可选) 在Settings的Domains下绑定你自己的域名。
  7. 转到顶部Deployments选项卡，Redeploy重新部署你的项目
  8. 完成! 鼓掌

2. 结合 Upstash 的Redis数据库部署 (每天10k次访问) 推荐!

官方文档

  1. 跳转到Upstash创建并登录您的账户，创建一个Redis数据库
  2. Region 推荐选 California, USA，Eviction勾选，然后创建 Create Database
  3. 注意UPSTASH_REST_API_URL和UPSTASH_REST_API_TOKEN，等下要复制这两对数据名和数据的值，这两对数据等下要在Vercel的Environment Variables里填入 Upstash API
  4. fork 本仓库，fork时，取消勾选 Copy the main branch only
  5. 在vercel中导入您fork的仓库
  6. 在 Environment Variables 输入框中填入 第3步 的两对数据 Environment Variables
  7. 点击Deploy
  8. (可选) 在Settings的Domains下绑定你自己的域名。
  9. 转到顶部Deployments选项卡，Redeploy重新部署你的项目
  10. 完成! 鼓掌

3. Vercel Pro 计划的尊贵用户，移除请求最大持续时间10s上限

  1. 前几步部署和上述两种计划相同，按需选择
  2. 只需在最后Redeploy重新部署前，到Settings下的Git页面，在Production Branch填入vercel-pro点击Save guide
  3. 然后转到顶部Deployments选项卡，注意不要在下面已经部署的记录里选!!!，点击如图右上角的三个点 Create Deployment选择vercel-pro然后Create Deployment deploy
  4. 完成! 鼓掌

Request Example

You don't have to pass Authorization, of course, you can also pass any string randomly.

curl https://[Your Vercel Domain]/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer any_string_you_like" \
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [
      {
        "role": "user",
        "content": "Hello!"
      }
    ],
    "stream": true
    }'

高级设置

Environment Variables (如果你不知道是干嘛的，请不要随意设置)

Key Value Note
AUTH_TOKEN You_set_the_apikey_yourself. This is your API key for accessing FreeGPT35.
UPSTASH_REST_API_URL Your_Upstash_URL This is Your_Upstash_URL
UPSTASH_REST_API_TOKEN Your_Upstash_Token This is Your_Upstash_Token

并发调整

默认定时4分钟更新16个token，token决定并发，一般绝对够用了，如需上调要考虑能在10s请求时间上限内刷新完token (Pro用户可自行规划)

Compatibility

You can use it in any app, such as OpenCat, Next-Chat, Lobe-Chat, Bob, etc. Feel free to fill in an API Key with any string, for example, gptyyds.

Bob

Bob

Credits

Similar Project

  • aurora: Golang development, support for multiple deployment methods

License

AGPL 3.0 License