Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

请求增加glm-4-air等glm其他系列模型 #2055

Closed
1 task done
yueweix opened this issue Jun 6, 2024 · 7 comments
Closed
1 task done

请求增加glm-4-air等glm其他系列模型 #2055

yueweix opened this issue Jun 6, 2024 · 7 comments

Comments

@yueweix
Copy link

yueweix commented Jun 6, 2024

⚠️ 搜索是否存在类似issue

  • 我已经搜索过issues和disscussions,没有发现相似issue

总结

根据官网介绍可以看到glm-4-air这个模型具有不弱于GLM-4的性能和速度,而且价格更加划算

举例

https://open.bigmodel.cn/pricing

动机

因为GLM-4的api费用比较高,而最近新推出的Air系列在具有比较好的性能的同时,资费也更为合理,希望能够增加对其的支持

@choupiyang
Copy link

同上

@alexg9781
Copy link

请问配置 "model": "glm-4", 后, api_key 在上面变量中填写
运行一直提示没有配置 api_key, 不知道配置在那个key 中

@leesonchen
Copy link
Contributor

请问配置 "model": "glm-4", 后, api_key 在上面变量中填写 运行一直提示没有配置 api_key, 不知道配置在那个key 中

“zhipu_ai_api_key”: "xxx"

@leesonchen
Copy link
Contributor

⚠️ 搜索是否存在类似issue

  • 我已经搜索过issues和disscussions,没有发现相似issue

总结

根据官网介绍可以看到glm-4-air这个模型具有不弱于GLM-4的性能和速度,而且价格更加划算

举例

https://open.bigmodel.cn/pricing

动机

因为GLM-4的api费用比较高,而最近新推出的Air系列在具有比较好的性能的同时,资费也更为合理,希望能够增加对其的支持

在我的pr里面增加了这个功能。 #2065

@yueweix
Copy link
Author

yueweix commented Jun 12, 2024

我这边用了一个取巧的办法来实现调用GLM-4-Air系列
但是,我无法确定是否成功,因为我目前处于GLM模型的免费赠送Token阶段,我无法根据价格推算我到底调用的是否是GLM-4-Air模型(而且我自己也不会其他方法验证)

尝试操作如下

修改 bot 文件夹下的 zhipuai 文件夹内的 zhupu_ai_session.pyzhipuai_bot.py 两个文件,利用搜索替换其中的 glm-4 字段为 glm-4-air

然后在我们的配置文件也就是 config.json 中,按照输入 glm-4 模型的方法,配置好我们的 api_keyapi_url (请注意我这里是举例,实际配置 GLM 模型需要的两个变量名并不是这两个,实际参数见下图)
image

model 还是填写 glm-4,而不是 glm-4-air,因为之前修改好了那两个 python 文件,因此按理说会将我们请求的 glm-4 变成 glm-4-air(我并不能确定这样的取巧方法是否成功,但是是可以成功请求并返回结果的)

结果

如果按照以上操作完毕且不出意外的话,就可以成功调用了(我是成功了,但是无法确定是否真的是调用了 glm-4-air 还是 glm-4,这只是我个人粗糙的取巧尝试,仅供参考)

@6vision
Copy link
Collaborator

6vision commented Jun 15, 2024

拉取这个pr #2046
在json文件增加配置:
"bot_type": "glm-4",
"model": "glm-4-flash",
"zhipu_ai_api_key": "efd1f61b8a92e.PgCqQPUm14OEchWP",
"zhipu_ai_api_base": "https://open.bigmodel.cn/api/paas/v4",

@yueweix
Copy link
Author

yueweix commented Jun 22, 2024

感谢🙏帮助

@6vision 6vision mentioned this issue Aug 1, 2024
2 tasks
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Projects
None yet
Development

No branches or pull requests

5 participants