最後更新
Mistral API 整合指南
您可以透過僅更新 base URL 和 API 金鑰,以我們的無審查替代方案取代標準的 Mistral API。本指南說明如何將現有的 OpenAI-compatible 程式碼遷移,以執行我們的無審查模型,且無需更改您的邏輯。
為什麼要從標準 Mistral API 切換?
開發者常遇到干擾工作流程的內容過濾器。標準 API 會拒絕特定主題。我們的無審查模型直接回答。你保留對輸出的完全控制權。
標準的 Mistral API 很可靠。它提供熱門模型。然而,它會套用自己的審查層。您可能會看到對創意寫作或成人主題的拒絕。我們的 API 移除了這些障礙。它運行一個經過調校以減少限制的開放權重模型。您獲得相同的 OpenAI 相容端點。
成本也是一個考量因素。標準方案通常會將您鎖定在訂閱制中。我們使用預付信用額度系統。您只需為實際使用的部分付費。錯誤不會消耗您的 token。這種透明度有助於您準確預算。
遷移很簡單。您現有的程式碼可以運作。您只需更改基礎 URL。不需要複雜的重寫。這種靈活性適合希望進行無審查生成而無需管理本地模型的開發人員。
步驟 1:取得您的 API 金鑰
首先在我們的平台上建立帳戶。您可以使用 Google 登入,或使用電子郵件和密碼。無需電話號碼。這可保護您的隱私。
登入後,請前往儀表板。立即生成您的 API 金鑰。金鑰僅顯示一次。請複製並安全儲存。您將在每次請求時都需要使用它。
您自動獲得試用信用額度。新帳戶獲得 $0.50,有效期為 7 天。這讓您在投入資金之前可以測試整合。
您的金鑰有特定限制。您可以每分鐘發出 300 個請求。同時僅能執行 8 個請求。每個金鑰均與您的帳戶專屬綁定。如果您產生新的金鑰,舊金鑰將停止運作。這確保了您信用額度的存取安全。
步驟 2:配置您的基礎 URL
基礎網址是最重要的變更。將您的 SDK 指向我們的端點。使用標準的 OpenAI 格式。這可確保與您現有的程式庫相容。
將基礎 URL 設定為 HTTPS://api.mistralbaseurl.com/v1。此路徑反映了主要供應商的結構。您的程式碼將正確識別端點。您不需要新的驅動程式或客戶端。
更新程式碼中的 API 金鑰變數。將舊供應商的金鑰替換為新的金鑰。確保金鑰字串正確。拼寫錯誤會立即導致身份驗證錯誤。
透過簡單的 ping 測試連線。請求可用模型列表。您應該會看到我們的無審查模型列在其中。這確認您的配置正確。您現在可以發送提示了。
步驟 3:實作聊天完成
向聊天補全端點發送 POST 請求。使用模型 ID "uncensored"。這會觸發我們特定的大型語言模型。它處理您的輸入並生成文本。
將您的消息結構化為數組。包含 system、user 和 assistant 角色。模型嚴格遵循這些指示。您可以設置 temperature 和 top_p 等參數。這些控制輸出的創意性。
上下文視窗為 100,000 個 token。這允許處理長文件。您可以在單一請求中傳遞大量上下文。模型能在長序列中保持連貫性。這對於程式碼分析或摘要很有用。
最大輸出為 16,000 個 Token。如果您未設定 max_tokens,限制為 2,048。根據您的需求調整此參數。較長的回應需要更多額度。請相應規劃您的 Token 預算。
處理串流與 Token
串流改善使用者體驗。它生成 token 時發送。這降低了感知延遲。在您的 SDK 設定中啟用串流。
我們使用伺服器發送事件(SSE)。串流提供文字區塊。每個區塊包含回應的一部分。您可以即時顯示 token。
Token 用量報告在最後一個區塊中。這確保了計費的準確性。您能看到確切的消耗量。錯誤不會向您收費。拒絕是免費的。這能保護您的預算免受無效請求的影響。
定期監控您的信用額度餘額。您可以隨時透過加密貨幣充值。信用額度永不過期。這使您可以暫停使用而無需承擔罰款。您可以無限期保留您的餘額。
函式呼叫與 JSON 模式
我們的 API 支援結構化輸出。您可以強制啟用 JSON 模式。將 response_format 設為 json_object。模型僅回傳有效的 JSON。這對於整合至關重要。
函式呼叫運作無縫。在請求中定義您的工具。模型會識別應使用哪個工具。它會正確傳遞參數。您可以在程式碼中解析結果。
將 tool_choice 設為 auto 或特定。這讓您可以控制行為。該模型在需要時優先使用工具。這增強了複雜工作流程中的可靠性。
使用這些功能進行數據提取。自動化表單或 API 呼叫。uncensored 模型能很好地處理邊緣情況。它不會拒絕複雜的查詢。這使其適合生產任務。
常見錯誤:404 與 422 解析
錯誤通常表示設定問題。404 Not Found 錯誤很常見。這表示端點錯誤。請仔細檢查您的 base URL。確保您在路徑中包含 /v1。
發生 422 無法處理的實體錯誤。這通常是由於 JSON 無效所致。請檢查您的請求主體結構。確保所有必填欄位均已填寫。驗證模型 ID 是否正確。
速率限制返回 429 錯誤。您超過了每分鐘 300 次請求。稍後再重試。在程式碼中實施指數退避。這可防止壓垮 API。
檢查您的 API 金鑰有效性。確保它未過期。如果重新生成金鑰,金鑰會自動替換。為每個請求使用正確的金鑰。這可將停機時間降至最低。
成本比較:Mistral 與我們的 Uncensored API
我們的定價清晰明瞭。輸入 Token 每百萬個費用為 $0.15。輸出 Token 每百萬個費用為 $0.50。價格透明且可預測。
標準 API 通常收費較高。它們包含平台費用。我們的模型運行在我們自己的伺服器上。您直接為運算資源付費。這降低了基礎成本。
錯誤免費。您不會為失敗的請求付費。這在除錯時可以節省費用。您只為有效的輸出付費。
充值從 20 美元開始。您使用加密貨幣付款。提供額外贈金。存入 50 美元獲 5% 額外贈金。存入 100 美元獲 10% 額外贈金。存入 200 美元獲 15% 額外贈金。這獎勵更高的用量。
順利遷移最終檢查清單
驗證您的基礎 URL 是否正確。更新環境中的 API Key。使用簡單提示進行測試。如有需要,確保串流功能正常運作。
檢查您的速率限制處理機制。為 429 錯誤實施重試。監控您的 token 使用情況。根據需要調整 max_tokens。
為結構化資料啟用 JSON 模式。使用您的工具測試函式呼叫。確保模型回應正確。驗證輸出格式是否符合您的預期。
調整您的參數。設定溫度以獲得創意。使用 top_p 以增加多樣性。這些設定會影響輸出品質。進行實驗以找到最佳平衡。您的程式碼應保持不變,僅限 URL 和金鑰。