Hướng dẫn tích hợp API Mistral

Tại sao nên chuyển từ API Mistral tiêu chuẩn?

Nhà phát triển thường gặp các bộ lọc nội dung làm gián đoạn quy trình làm việc của họ. Các API tiêu chuẩn từ chối các chủ đề cụ thể. Mô hình không kiểm duyệt của chúng tôi trả lời trực tiếp. Bạn giữ toàn quyền kiểm soát đầu ra của mình.

API Mistral tiêu chuẩn rất đáng tin cậy. Nó cung cấp các mô hình phổ biến. Tuy nhiên, nó áp dụng các lớp kiểm duyệt của riêng mình. Bạn có thể thấy các từ chối đối với văn học sáng tạo hoặc chủ đề người trưởng thành. API của chúng tôi loại bỏ những rào cản đó. Nó chạy một mô hình trọng lượng mở được tinh chỉnh để ít hạn chế hơn. Bạn nhận được điểm cuối tương thích OpenAI giống nhau.

Chi phí là một yếu tố khác. Các gói tiêu chuẩn thường khóa bạn vào các gói đăng ký. Chúng tôi sử dụng hệ thống tín dụng trả trước. Bạn chỉ trả cho những gì mình sử dụng. Lỗi không tốn token của bạn. Sự minh bạch này giúp bạn lập ngân sách chính xác.

Chuyển đổi rất dễ dàng. Mã hiện có của bạn hoạt động. Bạn chỉ cần thay đổi URL cơ sở. Không cần các bản viết lại phức tạp. Sự linh hoạt này phù hợp với các nhà phát triển muốn tạo nội dung không kiểm duyệt mà không cần quản lý các mô hình cục bộ.

Bước 1: Lấy Khóa API của bạn

Bắt đầu bằng cách tạo tài khoản trên nền tảng của chúng tôi. Bạn có thể đăng nhập bằng Google hoặc sử dụng email và mật khẩu. Không cần số điện thoại. Điều này giữ bí mật danh tính của bạn.

Sau khi đăng nhập, hãy điều hướng đến bảng điều khiển. Tạo khóa API của bạn ngay lập tức. Khóa chỉ được hiển thị một lần. Sao chép nó và lưu trữ nó một cách an toàn. Bạn sẽ cần nó cho mọi yêu cầu.

Bạn nhận được tín dụng dùng thử tự động. Tài khoản mới nhận được $0.50 có giá trị trong bảy ngày. Điều này cho phép bạn kiểm tra tích hợp trước khi cam kết tiền.

Khóa của bạn có các giới hạn cụ thể. Bạn có thể thực hiện 300 yêu cầu mỗi phút. Chỉ tám yêu cầu được thực hiện đồng thời. Mỗi khóa là duy nhất cho tài khoản của bạn. Nếu bạn tạo khóa mới, khóa cũ sẽ ngừng hoạt động. Điều này đảm bảo truy cập an toàn vào số dư của bạn.

Bước 2: Cấu hình URL cơ sở của bạn

URL cơ sở là thay đổi quan trọng nhất. Trỏ SDK của bạn đến điểm cuối của chúng tôi. Sử dụng định dạng OpenAI tiêu chuẩn. Điều này đảm bảo tương thích với các thư viện hiện có của bạn.

Thiết lập URL cơ sở của bạn thành HTTPS://api.mistralbaseurl.com/v1. Đường dẫn này mô phỏng cấu trúc của các nhà cung cấp lớn. Mã của bạn sẽ nhận diện đúng các điểm cuối. Bạn không cần trình điều khiển hoặc client mới.

Cập nhật biến khóa API trong mã của bạn. Thay thế khóa nhà cung cấp cũ bằng khóa mới của bạn. Đảm bảo chuỗi khóa chính xác. Lỗi đánh máy sẽ gây ra lỗi xác thực ngay lập tức.

Kiểm tra kết nối với một lệnh ping đơn giản. Yêu cầu danh sách các mô hình có sẵn. Bạn sẽ thấy mô hình không kiểm duyệt của chúng tôi được liệt kê. Điều này xác nhận cấu hình của bạn là chính xác. Bạn đã sẵn sàng gửi các lời nhắc.

Bước 3: Triển khai Chat Completions

Gửi yêu cầu POST đến điểm cuối chat completions. Sử dụng ID mô hình "uncensored". Điều này kích hoạt mô hình ngôn ngữ lớn cụ thể của chúng tôi. Nó xử lý đầu vào của bạn và tạo văn bản.

Cấu trúc các thông điệp của bạn dưới dạng một mảng. Bao gồm các vai trò system, user và assistant. Mô hình tuân theo các hướng dẫn này một cách chặt chẽ. Bạn có thể đặt các tham số như temperature và top_p. Những điều này kiểm soát mức độ sáng tạo của đầu ra.

Cửa sổ ngữ cảnh là 100,000 token. Điều này cho phép xử lý các tài liệu dài. Bạn có thể truyền ngữ cảnh rộng rãi trong một yêu cầu duy nhất. Mô hình duy trì tính nhất quán qua các chuỗi dài. Điều này hữu ích cho việc phân tích mã hoặc tóm tắt.

Đầu ra tối đa là 16.000 token. Nếu bạn không đặt max_tokens, giới hạn là 2.048. Điều chỉnh tham số này dựa trên nhu cầu của bạn. Các phản hồi dài hơn yêu cầu nhiều tín dụng hơn. Lập ngân sách token của bạn phù hợp.

Xử lý phát trực tiếp và token

Tạo luồng cải thiện trải nghiệm người dùng. Nó gửi các token khi chúng được tạo. Điều này giảm độ trễ cảm nhận. Bật tạo luồng trong cài đặt SDK của bạn.

Chúng tôi sử dụng Server-Sent Events (SSE). Luồng dữ liệu cung cấp các chunk văn bản. Mỗi chunk chứa một phần của phản hồi. Bạn có thể hiển thị token theo thời gian thực.

Sử dụng token được báo cáo trong chunk cuối cùng. Điều này đảm bảo tính chính xác khi tính phí. Bạn thấy chính xác những gì đã được tiêu thụ. Lỗi không tính phí bạn. Từ chối miễn phí. Điều này bảo vệ ngân sách của bạn khỏi các yêu cầu lãng phí.

Theo dõi số dư tín dụng của bạn thường xuyên. Bạn có thể nạp tiền bằng tiền điện bất cứ lúc nào. Tín dụng không bao giờ hết hạn. Điều này cho phép bạn tạm dừng việc sử dụng mà không bị phạt. Bạn giữ lại số dư của mình vô thời hạn.

Function Calling và chế độ JSON

API của chúng tôi hỗ trợ đầu ra có cấu trúc. Bạn có thể ép buộc chế độ JSON. Đặt response_format thành json_object. Mô hình chỉ trả về JSON hợp lệ. Điều này rất quan trọng cho các tích hợp.

Gọi hàm hoạt động liền mạch. Xác định các công cụ của bạn trong yêu cầu. Mô hình xác định công cụ nào sẽ sử dụng. Nó truyền các đối số chính xác. Bạn có thể phân tích cú pháp kết quả trong mã của mình.

Đặt tool_choice thành auto hoặc cụ thể. Điều này cho bạn quyền kiểm soát hành vi. Mô hình ưu tiên sử dụng công cụ khi cần. Điều này nâng cao độ tin cậy trong các quy trình làm việc phức tạp.

Sử dụng các tính năng này để trích xuất dữ liệu. Tự động hóa biểu mẫu hoặc gọi API. Mô hình không kiểm duyệt xử lý tốt các trường hợp cạnh. Nó không từ chối các truy vấn phức tạp. Điều này làm cho nó phù hợp cho các tác vụ sản xuất.

Các lỗi phổ biến: Giải thích 404 và 422

Lỗi thường cho biết các vấn đề về cấu hình. Lỗi 404 Not Found là phổ biến. Nó có nghĩa là điểm cuối không đúng. Hãy kiểm tra kỹ URL cơ sở của bạn. Đảm bảo bạn bao gồm /v1 trong đường dẫn.

Lỗi 422 Unprocessable Entity xảy ra. Điều này thường xảy ra với JSON không hợp lệ. Hãy kiểm tra cấu trúc thân yêu cầu của bạn. Đảm bảo tất cả các trường bắt buộc đều có mặt. Xác minh ID mô hình có chính xác không.

Giới hạn tốc độ trả về lỗi 429. Bạn đã vượt quá 300 yêu cầu mỗi phút. Hãy chờ một lát trước khi thử lại. Triển khai cơ chế backoff theo cấp số nhân trong mã của bạn. Điều này ngăn chặn việc làm quá tải API.

Kiểm tra tính hợp lệ của khóa API của bạn. Đảm bảo nó chưa hết hạn. Khóa được thay thế tự động nếu được tạo lại. Sử dụng khóa chính xác cho mỗi yêu cầu. Điều này giảm thiểu thời gian ngừng hoạt động.

So sánh chi phí: Mistral so với API Uncensored của chúng tôi

Chi phí của chúng tôi rất đơn giản. Bạn trả $0.15 cho mỗi triệu token đầu vào. Token đầu ra có giá $0.50 cho mỗi triệu. Điều này minh bạch và dễ dự đoán.

API tiêu chuẩn thường tính phí cao hơn. Chúng bao gồm phí nền tảng. Mô hình của chúng tôi chạy trên máy chủ của chúng tôi. Bạn trả tiền cho việc tính toán trực tiếp. Điều này làm giảm chi phí cơ bản.

Lỗi miễn phí. Bạn không trả tiền cho các yêu cầu thất bại. Điều này tiết kiệm tiền trong quá trình gỡ lỗi. Bạn chỉ trả tiền cho các đầu ra hợp lệ.

Nạp tiền bắt đầu từ $20. Bạn thanh toán bằng tiền điện tử. Có sẵn tín dụng bonus. Thêm $50 để nhận thêm 5%. Thêm $100 để nhận thêm 10%. Thêm $200 để nhận thêm 15%. Điều này thưởng cho việc sử dụng ở mức cao hơn.

Danh sách kiểm tra cuối cùng cho Di chuyển Trơn tru

Xác minh URL cơ sở của bạn chính xác. Cập nhật khóa API trong môi trường. Kiểm tra với một prompt đơn giản. Đảm bảo streaming hoạt động nếu cần.

Kiểm tra cách xử lý giới hạn tốc độ của bạn. Triển khai các lần thử lại cho lỗi 429. Theo dõi mức sử dụng token của bạn. Điều chỉnh max_tokens khi cần thiết.

Bật chế độ JSON cho dữ liệu có cấu trúc. Kiểm tra function calling với các công cụ của bạn. Đảm bảo mô hình phản hồi đúng. Xác minh định dạng đầu ra phù hợp với kỳ vọng của bạn.

Điều chỉnh các tham số của bạn. Đặt nhiệt độ cho sự sáng tạo. Sử dụng top_p cho sự đa dạng. Các cài đặt này ảnh hưởng đến chất lượng đầu ra. Hãy thử nghiệm để tìm sự cân bằng tốt nhất. Mã của bạn sẽ không thay đổi ngoại trừ URL và khóa.