o1 思维过程模拟器

这是一个模拟 GPT-4o1 思维过程的项目，基于 bklieger-groq 的 g1-prototype 进行改进和扩展。项目包含两个主要部分：Streamlit 应用和 Cloudflare Worker。

项目简介

本项目旨在创建一个灵活的思维过程模拟器，可以使用各种大型语言模型实现多步推理，提高输出的准确性和可解释性。

试用链接

Streamlit 演示
Cloudflare Worker 演示

Streamlit 应用

主要特性

• 支持多种大型语言模型，如 Llama-3.1 70b 等
• 兼容不同的 API 端点服务商
• 实现多步思考过程，每一步都有标题和详细内容
• 基于 Streamlit 构建的交互式 Web 界面
• 支持自定义 API 配置

使用方法

1. 安装 Streamlit:

   pip install streamlit
   

2. 运行应用:

   streamlit run app.py
   

3. 在浏览器中打开显示的本地 URL

4. 在侧边栏中配置 API 端点、密钥和模型选择

5. 在主界面输入您的问题，然后观察生成的多步思考过程

注意事项

• 需要有效的 API 密钥（取决于所选择的服务商）
• 当前版本限制了最多 25 个推理步骤
• 项目支持多种模型和 API 端点，请根据需要进行配置

Cloudflare Worker

主要特性

• 使用 JavaScript/TypeScript 实现，可部署为 Cloudflare Worker
• 保留了 Streamlit 应用的核心功能
• 提供简单的 HTML 界面用于输入参数和显示结果
• 支持流式响应，实时显示思考步骤
• 错误重试机制，提高稳定性

使用方法

1. 将 worker.js 文件部署到 Cloudflare Worker

2. 访问 Worker 的 URL，您将看到一个 Web 界面

3. 在界面中填写 API URL、API Key、模型和查询

4. 提交查询后，结果将逐步显示在页面上

注意事项

• 需要有 Cloudflare 账户并了解如何部署 Worker
• API 密钥等敏感信息应通过 Cloudflare 的环境变量功能进行管理
• 可能需要根据具体需求调整 Worker 的资源限制
• 重要提示：当前版本使用客户端网络请求，因此大陆网络不能直接访问 Groq 的 API

贡献

欢迎提交问题报告、改进建议或直接贡献代码！

致谢

特别感谢 bklieger-groq 提供的原始 g1-prototype 项目，为本项目的开发提供了基础。