Skip to content

Commit

Permalink
Update README.md
Browse files Browse the repository at this point in the history
  • Loading branch information
leezhuuuuu authored Sep 19, 2024
1 parent d2c3848 commit 5a3c3e4
Showing 1 changed file with 39 additions and 33 deletions.
72 changes: 39 additions & 33 deletions README.md
Original file line number Diff line number Diff line change
@@ -1,75 +1,81 @@
# o1 思维过程模拟器

这是一个模拟gpt-4o1思维过程的项目,基于 [bklieger-groq 的 g1-prototype](https://github.com/bklieger-groq/g1-prototype) 进行改进和扩展。项目包含两个主要部分:Streamlit应用和Cloudflare Worker。
这是一个模拟 GPT-4o1 思维过程的项目,基于 [bklieger-groq 的 g1-prototype](https://github.com/bklieger-groq/g1-prototype) 进行改进和扩展。项目包含两个主要部分:Streamlit 应用和 Cloudflare Worker。

## 项目简介

本项目旨在创建一个灵活的思维过程模拟器,可以使用各种大型语言模型实现多步推理,提高输出的准确性和可解释性。
本项目旨在创建一个灵活的思维过程模拟器,可以使用各种大型语言模型实现多步推理,提高输出的准确性和可解释性。

## 试用链接

[Streamlit 演示](https://o1s.leez.tech)
[Cloudflare Worker 演示](https://o1.leez.tech)

## Streamlit 应用

### 主要特性

- 支持多种大型语言模型,如Llama-3.1 70b等
- 兼容不同的API端点服务商
- 实现多步思考过程,每一步都有标题和详细内容
- 基于Streamlit构建的交互式Web界面
- 支持自定义API配置
- 支持多种大型语言模型,如 Llama-3.1 70b 等
- 兼容不同的 API 端点服务商
- 实现多步思考过程每一步都有标题和详细内容
- 基于 Streamlit 构建的交互式 Web 界面
- 支持自定义 API 配置

### 使用方法

1. 运行应用:
1. 安装 Streamlit:
```
pip install streamlit
```

2. 运行应用:
```
streamlit run app.py
```

2. 在浏览器中打开显示的本地URL
3. 在浏览器中打开显示的本地 URL

3. 在侧边栏中配置API端点、密钥和模型选择
4. 在侧边栏中配置 API 端点、密钥和模型选择

4. 在主界面输入您的问题,然后观察生成的多步思考过程
5. 在主界面输入您的问题然后观察生成的多步思考过程

### 注意事项

- 需要有效的API密钥(取决于所选择的服务商)
- 当前版本限制了最多25个推理步骤
- 项目支持多种模型和API端点,请根据需要进行配置
- 需要有效的 API 密钥(取决于所选择的服务商
- 当前版本限制了最多 25 个推理步骤
- 项目支持多种模型和 API 端点,请根据需要进行配置

## Cloudflare Worker

### 主要特性

- 使用JavaScript/TypeScript实现,可部署为Cloudflare Worker
- 保留了Streamlit应用的核心功能
- 提供简单的HTML界面用于输入参数和显示结果
- 支持流式响应,实时显示思考步骤
- 错误重试机制,提高稳定性
- 使用 JavaScript/TypeScript 实现,可部署为 Cloudflare Worker
- 保留了 Streamlit 应用的核心功能
- 提供简单的 HTML 界面用于输入参数和显示结果
- 支持流式响应实时显示思考步骤
- 错误重试机制提高稳定性

### 使用方法

1.`worker.js`文件部署到Cloudflare Worker
1. `worker.js` 文件部署到 Cloudflare Worker

2. 访问Worker的URL,您将看到一个Web界面
2. 访问 Worker 的 URL,您将看到一个 Web 界面

3. 在界面中填写API URL、API Key、模型和查询
3. 在界面中填写 API URL、API Key、模型和查询

4. 提交查询后,结果将逐步显示在页面上
4. 提交查询后结果将逐步显示在页面上

### 注意事项

- 需要有Cloudflare账户并了解如何部署Worker
- API密钥等敏感信息应通过Cloudflare的环境变量功能进行管理
- 可能需要根据具体需求调整Worker的资源限制
- 需要有 Cloudflare 账户并了解如何部署 Worker
- API 密钥等敏感信息应通过 Cloudflare 的环境变量功能进行管理
- 可能需要根据具体需求调整 Worker 的资源限制
- **重要提示**:当前版本使用客户端网络请求,因此大陆网络不能直接访问 Groq 的 API

## 贡献

欢迎提交问题报告、改进建议或直接贡献代码!

## 试用链接

[streamlit](https://o1s.leez.tech)
[cloudfare worker](https://o1.leez.tech)
欢迎提交问题报告、改进建议或直接贡献代码!

## 致谢

特别感谢 [bklieger-groq](https://github.com/bklieger-groq) 提供的原始g1-prototype项目,为本项目的开发提供了基础。
特别感谢 [bklieger-groq](https://github.com/bklieger-groq) 提供的原始 g1-prototype 项目,为本项目的开发提供了基础。

0 comments on commit 5a3c3e4

Please sign in to comment.