Посібник з інтеграції API Mistral

Чому варто змінити стандартний API Mistral?

Розробники часто стикаються з фільтрами контенту, які переривають їхні робочі процеси. Стандартні API відмовляються від певних тем. Наша uncensored модель відповідає безпосередньо. Ви зберігаєте повний контроль над своїм виводом.

Стандартний API Mistral є надійним. Він обслуговує популярні моделі. Однак він застосовує власні шари модерації. Ви можете бачити відмови для творчого письма або тем для дорослих. Наш API усуває ці бар'єри. Він працює з моделлю з відкритими вагами, налаштованою на менші обмеження. Ви отримуєте той самий ендпоінт, сумісний з OpenAI.

Вартість — ще один фактор. Стандартні плани часто прив’язують вас до підписок. Ми використовуємо систему передоплачених кредитів. Ви платите лише за те, що використовуєте. Помилки не коштують вам токенів. Ця прозорість допомагає точно планувати бюджет.

Міграція тривіальна. Ваш існуючий код працює. Ви змінюєте лише базовий URL. Складних переписувань не потрібно. Ця гнучкість підходить розробникам, які хочуть uncensored генерацію без управління локальними моделями.

Крок 1: Отримайте свій API-ключ

Почніть із створення облікового запису на нашій платформі. Ви можете увійти через Google або використовувати електронну пошту та пароль. Номер телефону не потрібен. Це зберігає вашу особисту інформацію приватною.

Увійшовши, перейдіть до панелі керування. Згенеруйте свій API-ключ негайно. Ключ показується лише один раз. Скопіюйте його та збережіть у безпечному місці. Він знадобиться вам для кожного запиту.

Ви отримуєте пробний кредит автоматично. Нові акаунти отримують $0.50, дійсний протягом 7 днів. Це дозволяє вам протестувати інтеграцію перед внесенням коштів.

Ваш ключ має конкретні ліміти. Ви можете робити 300 запитів за хвилину. Одночасно виконуються лише вісім запитів. Кожен ключ унікальний для вашого облікового запису. Якщо ви згенеруєте новий ключ, старий перестане працювати. Це забезпечує безпечний доступ до ваших кредитів.

Крок 2: Налаштуйте свою базову URL-адресу

Базовий URL-адреса — це єдина найважливіша зміна. Вкажіть ваш SDK на нашу кінцеву точку. Використовуйте стандартний формат OpenAI. Це гарантує сумісність з вашими існуючими бібліотеками.

Встановіть вашу базову URL-адресу на HTTPS://api.mistralbaseurl.com/v1. Цей шлях відображає структуру провідних постачальників. Ваш код правильно розпізнає кінцеві точки. Вам не потрібні нові драйвери або клієнти.

Update your API key variable in your code. Replace the old provider key with your new one. Ensure the key string is correct. Typos cause immediate authentication errors.

Перевірте з’єднання за допомогою простого пінгу. Запитайте список доступних моделей. Ви повинні побачити нашу модель без цензури в списку. Це підтверджує, що ваша конфігурація правильна. Тепер ви готові надсилати запити.

Крок 3: Реалізуйте завершення чату

Відправте POST-запит до кінцевої точки chat completions. Використовуйте ID моделі "uncensored". Це запускає нашу конкретну велику мовну модель. Вона обробляє ваш ввід і генерує текст.

Структуруйте повідомлення як масив. Включіть ролі system, user та assistant. Модель суворо дотримується цих інструкцій. Ви можете встановити такі параметри, як temperature та top_p. Вони контролюють креативність виводу.

Розмір контекстного вікна становить 100 000 токенів. Це дозволяє працювати з довгими документами. Ви можете передавати великий контекст одним запитом. Модель зберігає зв'язність у довгих послідовностях. Це корисно для аналізу коду або стиснення.

Максимальний вихід становить 16,000 токенів. Якщо ви не встановите max_tokens, ліміт становить 2,048. Налаштуйте цей параметр відповідно до ваших потреб. Довжчі відповіді вимагають більше кредитів. Плануйте свій токенний бюджет відповідним чином.

Обробка потокової передачі та токенів

Потокова передача покращує користувацький досвід. Вона надсилає токени по мірі їх генерації. Це зменшує сприйняту затримку. Увімкніть потокову передачу у налаштуваннях вашого SDK.

Ми використовуємо Server-Sent Events (SSE). Потік надає фрагменти тексту. Кожен фрагмент містить частину відповіді. Ви можете відображати токени в реальному часі.

Використання токенів повідомляється в кінцевому чанку. Це забезпечує точність розрахунків. Ви бачите рівно те, що було спожито. Помилки не коштують вам грошей. Відмови є безкоштовними. Це захищає ваш бюджет від марних запитів.

Регулярно відстежуйте баланс кредитів. Ви можете поповнити баланс через криптовалюту в будь-який час. Кредити не мають строку дії. Це дозволяє призупинити використання без штрафів. Ви зберігаєте свій баланс необмежений час.

Function Calling та режим JSON

Наш API підтримує структуровані виводи. Ви можете примусово встановити режим JSON. Встановіть response_format у json_object. Модель повертає лише валідний JSON. Це критично для інтеграцій.

Виклик функцій працює безперешкодно. Визначте свої інструменти в запиті. Модель визначає, який інструмент використовувати. Вона правильно передає аргументи. Ви можете проаналізувати результат у своєму коді.

Встановіть tool_choice як auto або конкретний. Це дає вам контроль над поведінкою. Модель пріоритезує використання інструментів, коли це необхідно. Це підвищує надійність у складних робочих процесах.

Використовуйте ці функції для витягування даних. Автоматизуйте форми або API-запити. uncensored модель добре обробляє крайні випадки. Вона не відхиляє складні запити. Це робить її придатною для продуктових завдань.

Поширені помилки: пояснення 404 та 422

Помилки зазвичай вказують на проблеми з конфігурацією. Поширена помилка 404 Not Found. Це означає, що ендпоінт неправильний. Уважно перевірте свій базовий URL. Переконайтеся, що ви включаєте /v1 у шлях.

Виникає помилка 422 Unprocessable Entity. Це часто трапляється через недійсний JSON. Перевірте структуру тіла запиту. Переконайтеся, що всі обов'язкові поля заповнені. Перевірте правильність ідентифікатора моделі.

Обмеження швидкості повертають помилки 429. Ви перевищили ліміт у 300 запитів за хвилину. Зачекайте короткий час перед повторною спробою. Реалізуйте експоненційне сповільнення у своєму коді. Це запобігає перевантаженню API.

Перевірте дійсність свого API-ключа. Переконайтеся, що він не прострочений. Ключі замінюються автоматично, якщо їх перегенерувати. Використовуйте правильний ключ для кожного запиту. Це мінімізує час простою.

Порівняння витрат: Mistral проти нашого uncensored API

Наші ціни прості. Ви платите $0.15 за мільйон вхідних токенів. Вихідні токени коштують $0.50 за мільйон. Це прозоро та передбачувано.

Стандартні API часто беруть більше. Вони включають комісії платформи. Наша модель працює на наших серверах. Ви платите за обчислення напряму. Це знижує базову вартість.

Помилки безкоштовні. Ви не платите за невдалі запити. Це економить гроші на налагодженні. Ви платите лише за валідні результати.

Поповнення починаються від $20. Ви платите криптовалютою. Доступні бонусні кредити. Додайте $50 для отримання 5% додатково. Додайте $100 для отримання 10% додатково. Додайте $200 для отримання 15% додатково. Це винагороджує за вищий рівень використання.

Остаточний чек-лист для гладкого міграції

Переконайтеся, що базова URL-адреса правильна. Оновіть свій API-ключ у середовищі. Протестуйте з простим запитом. Переконайтеся, що потокова передача працює, якщо це необхідно.

Перевірте обробку лімітів швидкості. Реалізуйте повторні спроби для помилок 429. Моніторьте використання токенів. Коригуйте max_tokens за необхідності.

Увімкніть режим JSON для структурованих даних. Протестуйте виклик функцій зі своїми інструментами. Переконайтеся, що модель правильно реагує. Перевірте, чи відповідає формат виводу вашим очікуванням.

Налаштуйте свої параметри. Встановіть temperature для креативності. Використовуйте top_p для різноманітності. Ці налаштування впливають на якість виводу. Експериментуйте, щоб знайти найкращий баланс. Ваш код має залишитися незмінним, окрім URL та ключа.