一个网关，所有模型 — ngrok AI Gateway

ngrok.ai 作为一个统一的网关，用于访问各种 AI 模型，无论是公共提供者还是自定义端点。它通过允许用户通过一个托管网关连接多个模型，简化了集成过程，并配备了可观察性和访问控制功能。该平台旨在帮助开发者简化与 AI 模型的交互，而无需进行广泛的基础设施部署。

1. 统一网关

   ngrok.ai 提供一个单一的网关来访问多个 AI 模型，包括公共提供者和自托管模型，提高了便利性和效率。

2. 简单集成

   用户可以快速将基础 URL 更改为 https://gateway.ngrok.ai 并更换 API 密钥以开始路由，无需复杂的设置。

3. 本地 LLM 支持

   该平台允许与自托管模型进行私密连接，消除了对公共 IP 或入站端口的需求，确保安全和私密的连接。

4. 密钥管理

   用户可以管理来自 OpenAI 和 Anthropic 等提供者的现有 API 密钥，允许在保持当前费率的同时进行简单路由。

5. 访问控制

   ngrok.ai 使用户能够为不同的应用程序或开发者分配单独的访问密钥，通过控制可以访问哪些模型和提供者来增强安全性。

6. 可观察性功能

   该平台提供仪表板以监控使用情况、成本、令牌、延迟和错误，为用户提供有关其路由活动的洞察。

7. 智能默认设置和可编程性

   用户可以通过 API 配置网关，允许在不需要重新仪器化其应用程序的情况下实现高级功能。

1. 首先访问 ngrok.ai 网站并登录到您的账户。
2. 在您的应用程序中将基础 URL 更改为 https://gateway.ngrok.ai。
3. 更换您的 API 密钥以开始路由请求。
4. 请参考文档以获取有关集成本地模型和管理密钥的详细说明。
5. 利用可观察性功能监控您的使用情况并优化成本。

什么是 ngrok.ai？

ngrok.ai 是一个网关，允许用户连接到各种 AI 模型，提供一个简化的界面来路由请求到公共和自托管模型。

ngrok.ai 如何工作？

通过更改基础 URL 和 API 密钥，用户可以通过 ngrok.ai 网关路由请求，该网关无缝管理与不同 AI 模型的连接。

我可以使用我现有的 API 密钥与 ngrok.ai 吗？

是的，ngrok.ai 允许您从 OpenAI 和 Anthropic 等提供者带入自己的密钥，使您能够保持当前的定价和管理。

使用 ngrok.ai 的好处是什么？

该平台提供统一的网关，通过访问控制增强安全性，提供监控使用情况的可观察性功能，并能够连接公共和私有模型。

我如何开始使用 ngrok.ai？

要开始使用，请访问 ngrok.ai 网站，创建一个账户，并按照文档将网关集成到您的应用程序中。

定价结构为每百万个令牌 $0.05，此外还有推理成本。用户可以使用 ngrok 密钥或带入自己的密钥，无需订阅或承诺。

1. ngrok.ai 有效地整合了对各种 AI 模型的访问，使其成为希望简化工作流程的开发者的宝贵工具。
2. 该平台的可观察性功能提供了有关使用情况和成本的重要洞察，可以帮助用户优化其 AI 交互。
3. 然而，对外部 API 密钥的依赖可能会使某些用户的设置变得复杂，特别是那些不熟悉密钥管理的用户。
4. 尽管网关简化了路由，但用户仍需对所使用的模型有扎实的理解，以最大限度地发挥平台的潜力。
5. 总体而言，ngrok.ai 是开发者的强大解决方案，但在用户入门和文档方面的进一步增强可以改善新用户的体验。