gpt-oss-20b¶

在这篇文章中

• gpt-oss-20b 的主要功能
• 部署功能
• 部署 gpt-oss-20b 后的入门指南
• 使用 API 订购带有 gpt-oss-20b 的服务器

gpt-oss-20b 的主要功能¶

• 优化的架构：gpt-oss-20b 模型总参数为 200 亿，仅激活 36 亿参数，在高效利用资源的同时确保高性能。
• 扩展的代理能力：该模型内置了函数调用、网页浏览、Python 代码执行以及生成结构化输出的能力。它在解决任务和调用工具方面表现出色。
• 可调节强度的推理：在功能上，该模型是一个可靠的任务求解器，支持思维链（chain-of-thought）推理等方法。它提供三个可自定义的推理强度级别。
• 性能与兼容性：gpt-oss-20b 模型在常见基准测试中表现出与 OpenAI o3-mini 相当的结果。得益于优化，它可以在配备 16 GB 内存的边缘设备上运行。
• 多语言支持：该模型具备多语言功能。为了获得最佳效果，建议明确指定交互的目标语言和文化背景。
• 数据量化：对 MXFP4 格式的支持确保了模型在资源受限硬件上的高效运行，提升了整体系统性能。

部署功能¶

构建的技术规格：

• 内核更新至版本 6 的 Ubuntu 22.04；
• 最新的 Nvidia 驱动程序；
• CUDA Toolkit；
• 用于管理模型的 Ollama；
• 用于 Web 界面的 OpenWebUI。

安装特点：

• 安装时间为 25-45 分钟，包括操作系统设置；
• Ollama 服务器在 GPU/RAM 内存中加载并运行 gpt-oss-20b 模型；
• Open WebUI 作为连接到 Ollama 服务器的 Web 应用程序进行部署；
• 用户通过 Open WebUI Web 界面与模型交互，以完成编程和代理任务；
• 所有计算和代码处理均在服务器本地进行；
• 管理员可以使用 OpenWebUI 工具配置模型以执行特定的开发任务；
• 支持各种量化级别以优化内存使用。

部署 gpt-oss-20b 后的入门指南¶

付款后，服务器就绪的通知将发送至下单时注册的电子邮件。邮件中将包含 VPS IP 地址、服务器访问的登录名和密码，以及 OpenWebUI 控制面板的链接。客户通过 服务器管理面板和 API — Invapi 管理设备。

• 操作系统服务器访问凭据（例如通过 SSH）将通过收到的电子邮件发送。
• 带有 Open WebUI Web 界面的 Ollama 控制面板链接：位于 Invapi 控制面板的 webpanel 标签中，路径为 Configuration >> Tags 选项卡。确切的链接（例如 https://gpt-oss<Server_ID_from_Invapi>.hostkey.in）将在服务器交付时发送的电子邮件中提供。

首次访问 webpanel 标签链接时，将打开欢迎页面。点击 Get started 按钮开始设置。

点击 webpanel 标签中的链接后，将打开 Get started with Open WebUI 登录窗口，您需要在此处创建聊天机器人的管理员账户名称、电子邮件和密码，然后按下 Create Admin Account 按钮：

注册成功后，将打开带有 Gpt-oss-20b 访问权限的主 Open WebUI 界面：

使用 API 订购带有 gpt-oss-20b 的服务器¶

要使用 API 安装此软件，请遵循 这些说明。