آخرین بهروزرسانی
راهنمای یکپارچهسازی API Mistral
میتوانید API استاندارد Mistral را با جایگزین بدون سانسور ما جایگزین کنید و فقط با بهروزرسانی base URL و API key، این راهنما توضیح میدهد که چگونه کد سازگار با OpenAI موجود خود را برای اجرای مدل بدون سانسور ما بدون تغییر منطق، مهاجرت دهید.
چرا از API استاندارد Mistral تغییر دهیم؟
توسعهدهندگان اغلب با فیلترهای محتوا مواجه میشوند که جریان کاری آنها را مختل میکند. APIهای استاندارد موضوعات خاصی را رد میکنند. مدل بدون سانسور ما مستقیماً پاسخ میدهد. شما کنترل کاملی بر خروجی خود دارید.
API استاندارد Mistral قابل اعتماد است. مدلهای محبوب را ارائه میدهد. با این حال، لایههای تعدیل محتوای خود را اعمال میکند. ممکن است برای نویسندگی خلاق یا مضامین بزرگسالان، ردّها را مشاهده کنید. API ما این موانع را حذف میکند. یک مدل وزنباز (open-weight) را اجرا میکند که برای محدودیتهای کمتر تنظیم شده است. شما همان نقطه پایانی سازگار با OpenAI را دریافت میکنید.
هزینه یک عامل دیگر است. طرحهای استاندارد اغلب شما را در اشتراکها قفل میکنند. ما از سیستم اعتبار پیشپرداخت استفاده میکنیم. شما فقط بابت آنچه استفاده میکنید پرداخت میکنید. خطاها توکن از شما نمیگیرند. این شفافیت به شما کمک میکند بودجهبندی دقیقی داشته باشید.
مهاجرت trivial است. کد موجود شما کار میکند. شما فقط URL پایه را تغییر میدهید. بازنویسیهای پیچیده مورد نیاز نیست. این انعطافپذیری برای توسعهدهندگانی که میخواهند تولید بدون سانسور داشته باشند بدون مدیریت مدلهای محلی مناسب است.
مرحله 1: کلید API خود را دریافت کنید
ابتدا یک حساب در پلتفرم ما ایجاد کنید. میتوانید با گوگل وارد شوید یا از ایمیل و رمز عبور استفاده کنید. شماره تلفن لازم نیست. این هویت شما را خصوصی نگه میدارد.
پس از ورود، به داشبورد بروید. کلید API خود را بلافاصله ایجاد کنید. کلید فقط یک بار نمایش داده میشود. آن را کپی کرده و به طور ایمن ذخیره کنید. برای هر درخواستی به آن نیاز خواهید داشت.
اعتبار آزمایشی بهطور خودکار دریافت میکنید. حسابهای جدید ۰.۵۰ دلار اعتبار دریافت میکنند که به مدت ۷ روز معتبر است. این به شما اجازه میدهد ادغام را قبل از تعهد مالی تست کنید.
کلید شما محدودیتهای خاصی دارد. میتوانید ۳۰۰ درخواست در دقیقه ارسال کنید. فقط هشت درخواست به صورت همزمان اجرا میشوند. هر کلید منحصر به فرد حساب کاربری شماست. اگر کلید جدیدی تولید کنید، کلید قبلی از کار میافتد. این امر دسترسی امن به اعتبارات شما را تضمین میکند.
مرحله 2: پیکربندی URL پایه خود
URL پایه مهمترین تغییر است. SDK خود را به نقطه پایان ما پوینت کنید. از فرمت استاندارد OpenAI استفاده کنید. این کار با کتابخانههای موجود شما سازگار است.
URL پایه خود را به HTTPS://api.mistralbaseurl.com/v1 تنظیم کنید. این مسیر ساختار ارائهدهندگان بزرگ را بازتاب میدهد. کد شما نقاط پایانی را به درستی شناسایی میکند. نیازی به درایورها یا کلاینتهای جدید ندارید.
متغیر کلید API خود را در کد بهروزرسانی کنید. کلید ارائهدهنده قدیمی را با کلید جدید خود جایگزین کنید. مطمئن شوید که رشته کلید صحیح است. اشتباهات تایپی بلافاصله خطاهای احراز هویت ایجاد میکنند.
اتصال را با یک ping ساده آزمایش کنید. لیست مدلهای موجود را درخواست دهید. باید مدل بدون سانسور ما را در لیست ببینید. این تأیید میکند که پیکربندی شما صحیح است. اکنون آماده ارسال پرامپتها هستید.
مرحله ۳: تکمیل چت را پیادهسازی کنید
یک درخواست POST به نقطه پایانی تکمیل چت ارسال کنید. از شناسه مدل "uncensored" استفاده کنید. این مدل زبانی بزرگ اختصاصی ما را فعال میکند. ورودی شما را پردازش کرده و متن تولید میکند.
پیامهای خود را به عنوان یک آرایه ساختار دهید. نقشهای system، user و assistant را شامل شوید. مدل این دستورالعملها را به دقت دنبال میکند. میتوانید پارامترهایی مانند temperature و top_p را تنظیم کنید. اینها خلاقیت خروجی را کنترل میکنند.
پنجره زمینه ۱۰۰,۰۰۰ توکن است. این امکان پردازش اسناد طولانی را فراهم میکند. میتوانید زمینه گستردهای را در یک درخواست ارسال کنید. مدل انسجام خود را در توالیهای طولانی حفظ میکند. این ویژگی برای تحلیل کد یا خلاصهسازی مفید است.
حداکثر خروجی 16,000 توکن است. اگر max_tokens را تنظیم نکنید، محدودیت 2,048 است. این پارامتر را بر اساس نیازهای خود تنظیم کنید. پاسخهای طولانیتر اعتبار بیشتری نیاز دارند. بودجه توکن خود را به طور مناسب برنامهریزی کنید.
مدیریت جریانسازی و توکنها
استریم تجربه کاربری را بهبود میبخشد. توکنها را همانطور که تولید میشوند ارسال میکند. این تأخیر ادراکی را کاهش میدهد. استریم را در تنظیمات SDK خود فعال کنید.
ما از رویدادهای ارسالی سرور (SSE) استفاده میکنیم. جریان قطعاتی از متن ارائه میدهد. هر قطعه بخشی از پاسخ را شامل میشود. میتوانید توکنها را به صورت بلادرنگ نمایش دهید.
مصرف توکن در قطعه نهایی گزارش میشود. این برای صورتحساب دقیق است. شما دقیقاً میبینید چه چیزی مصرف شده است. خطاها هزینهای ندارند. رد شدن درخواستها رایگان است. این از بودجه شما در برابر درخواستهای هدر رفته محافظت میکند.
موجودی اعتبار خود را بهطور منظم پایش کنید. میتوانید هر زمان از طریق رمزارزی شارژ کنید. اعتبارات هرگز منقضی نمیشوند. این به شما اجازه میدهد استفاده را بدون جریمه متوقف کنید. موجودی خود را برای همیشه حفظ میکنید.
فراخوانی تابع و حالت JSON
API ما از خروجیهای ساختاریافته پشتیبانی میکند. میتوانید حالت JSON را اعمال کنید. response_format را روی json_object تنظیم کنید. مدل فقط JSON معتبر برمیگرداند. این برای ادغامها حیاتی است.
فراخوانی تابع به صورت بیدرنگ کار میکند. ابزارهای خود را در درخواست تعریف کنید. مدل شناسایی میکند که از کدام ابزار استفاده کند. استدلالها را به درستی منتقل میکند. میتوانید نتیجه را در کد خود تجزیه کنید.
tool_choice را روی auto یا خاص تنظیم کنید. این به شما کنترل بر رفتار میدهد. مدل استفاده از ابزار را در صورت نیاز در اولویت قرار میدهد. این قابلیت اطمینان را در کارکردهای پیچیده افزایش میدهد.
از این ویژگیها برای استخراج داده استفاده کنید. فرمها یا فراخوانیهای API را خودکار کنید. مدل بدون سانسور موارد حاشیهای را به خوبی مدیریت میکند. آنها به پرسوجوهای پیچیده پاسخ نمیدهد. این آن را برای وظایف تولید مناسب میسازد.
خطاهای رایج: توضیح 404 و 422
خطاها معمولاً نشاندهنده مشکلات پیکربندی هستند. خطای 404 Not Found رایج است. به این معنی که نقطه پایدار اشتباه است. URL پایه خود را با دقت بررسی کنید. مطمئن شوید که /v1 را در مسیر گنجاندهاید.
خطای ۴۲۲ Unprocessable Entity رخ میدهد. این اغلب با JSON نامعتبر اتفاق میافتد. ساختار بدنه درخواست خود را بررسی کنید. اطمینان حاصل کنید که تمام فیلدهای ضروری وجود دارند. بررسی کنید که شناسه مدل صحیح است.
محدودیت نرخها خطاهای 429 بازمیگردانند. شما بیش از ۳۰۰ درخواست در دقیقه ارسال کردهاید. پیش از تلاش مجدد، کمی صبر کنید. بازگشت نمایی را در کد خود پیادهسازی کنید. این کار از بار بیش از حد API جلوگیری میکند.
اعتبار کلید API خود را بررسی کنید. اطمینان حاصل کنید که منقضی نشده است. کلیدها در صورت بازیابی مجدد به صورت خودکار جایگزین میشوند. از کلید صحیح برای هر درخواست استفاده کنید. این زمان توقف را به حداقل میرساند.
مقایسه هزینه: Mistral در مقابل API بدون سانسور ما
قیمتگذاری ما ساده است. شما برای هر میلیون توکن ورودی ۰.۱۵ دلار و برای هر میلیون توکن خروجی ۰.۵۰ دلار پرداخت میکنید. این قیمتگذاری شفاف و قابل پیشبینی است.
APIهای استاندارد اغلب هزینه بیشتری دریافت میکنند. آنها هزینههای پلتفرم را شامل میشوند. مدل ما روی سرورهای ما اجرا میشود. شما مستقیماً بابت محاسبات هزینه میپردازید. این هزینه پایه را کاهش میدهد.
خطاها رایگان هستند. شما بابت درخواستهای ناموفق هزینهای پرداخت نمیکنید. این موضوع در اشکالزدایی صرفهجویی در هزینهها دارد. شما فقط بخرج خروجیهای معتد هزینه میپردازید.
شارژ حسابها از $20 شروع میشود. شما با ارز دیجیتال پرداخت میکنید. اعتبار هدیهای موجود است. $50 اضافه کنید تا 5٪ اضافه دریافت کنید. $100 اضافه کنید تا 10٪ اضافه دریافت کنید. $200 اضافه کنید تا 15٪ اضافه دریافت کنید. این موضوع استفاده بالاتر را پاداش میدهد.
چکلیست نهایی برای یک مهاجرت روان
URL پایه شما صحیح است. کلید API خود را در محیط بهروزرسانی کنید. با یک پرسوجوی ساده آزمایش کنید. اطمینان حاصل کنید که اگر لازم است، جریان کار میکند.
مدیریت محدودیت نرخ خود را بررسی کنید. برای خطاهای 429 تلاشهای مجدد پیادهسازی کنید. مصرف توکن خود را نظارت کنید. max_tokens را مطابق با نیاز تنظیم کنید.
برای دادههای ساختاریافته حالت JSON را فعال کنید. Function Calling را با ابزارهای خود تست کنید. اطمینان حاصل کنید که مدل بهدرستی پاسخ میدهد. فرمت خروجی را با انتظارات خود تطبیق دهید.
پارامترهای خود را شخصیسازی کنید. دما را برای خلاقیت تنظیم کنید. top_p را برای تنوع استفاده کنید. این تنظیمات بر کیفیت خروجی تأثیر میگذارند. برای یافتن بهترین تعادل آزمایش کنید. کد شما باید به جز URL و کلید تغییر نکند.