一個網關，所有模型 — ngrok AI Gateway

ngrok.ai 作為一個統一的網關，讓用戶可以訪問各種 AI 模型，無論是公共提供者還是自定義端點。它通過允許用戶通過單一的托管網關連接多個模型，簡化了集成過程，並配備了可觀察性和訪問控制功能。該平台旨在幫助開發者簡化他們與 AI 模型的互動，而無需進行廣泛的基礎設施部署。

1. 統一網關

   ngrok.ai 提供一個單一的網關來訪問多個 AI 模型，包括公共提供者和自托管模型，提升了便利性和效率。

2. 簡單集成

   用戶可以快速將其基本 URL 更改為 https://gateway.ngrok.ai，並更換其 API 密鑰以開始路由，無需複雜的設置。

3. 本地 LLM 支持

   該平台允許與自托管模型進行私密連接，消除了對公共 IP 或入站端口的需求，確保安全和私密的連接。

4. 密鑰管理

   用戶可以管理來自 OpenAI 和 Anthropic 等提供者的現有 API 密鑰，允許在保持當前費率的同時進行簡單的路由。

5. 訪問控制

   ngrok.ai 使得用戶可以為不同的應用程序或開發者分配單獨的訪問密鑰，通過控制可以訪問哪些模型和提供者來增強安全性。

6. 可觀察性功能

   該平台提供儀表板來監控使用情況、成本、令牌、延遲和錯誤，讓用戶深入了解其路由活動。

7. 智能默認和可編程性

   用戶可以通過 API 配置網關，允許在不需要重新儀表化其應用程序的情況下實現高級功能。

1. 首先訪問 ngrok.ai 網站並登錄到您的帳戶。
2. 在您的應用程序中將基本 URL 更改為 https://gateway.ngrok.ai。
3. 更換您的 API 密鑰以開始路由請求。
4. 參考文檔以獲取有關集成本地模型和管理密鑰的詳細說明。
5. 利用可觀察性功能來監控您的使用情況並優化成本。

ngrok.ai 是什麼？

ngrok.ai 是一個網關，允許用戶連接到各種 AI 模型，提供一個簡化的界面來路由請求到公共和自托管模型。

ngrok.ai 如何運作？

通過更改基本 URL 和 API 密鑰，用戶可以通過 ngrok.ai 網關路由其請求，該網關無縫管理與不同 AI 模型的連接。

我可以使用我現有的 API 密鑰與 ngrok.ai 嗎？

是的，ngrok.ai 允許您從 OpenAI 和 Anthropic 等提供者帶入自己的密鑰，使您能夠保持當前的定價和管理。

使用 ngrok.ai 有什麼好處？

該平台提供統一的網關、通過訪問控制增強的安全性、用於監控使用情況的可觀察性功能，以及連接公共和私有模型的能力。

我該如何開始使用 ngrok.ai？

要開始使用，請訪問 ngrok.ai 網站，創建一個帳戶，並按照文檔將網關集成到您的應用程序中。

定價結構為每百萬個令牌 $0.05，此外還需支付推理費用。用戶可以使用 ngrok 密鑰或帶入自己的密鑰，無需訂閱或承諾。

1. ngrok.ai 有效地整合了對各種 AI 模型的訪問，使其成為開發者簡化工作流程的寶貴工具。
2. 該平台的可觀察性功能提供了有關使用情況和成本的基本洞察，幫助用戶優化其 AI 互動。
3. 然而，對外部 API 密鑰的依賴可能會使某些用戶的設置變得複雜，特別是對於不熟悉密鑰管理的用戶。
4. 雖然網關簡化了路由，但用戶仍需對其所使用的模型有充分的了解，以最大化平台的潛力。
5. 總體而言，ngrok.ai 是一個強大的解決方案，但在用戶入門和文檔方面的進一步改進可以改善新手的體驗。