מדריך אינטגרציה ל-API של Mistral

למה לעבור מ-API הסטנדרטי של Mistral?

מפתחים רבים נתקלים במסנני תוכן שמפריעים לזרימת העבודה שלהם. APIs סטנדרטיים מסרנים נושאים ספציפיים. המודל ללא צנזורה שלנו עונה ישירות. אתה שומר על שליטה מלאה על הפלט שלך.

ממשק ה-API הסטנדרטי של Mistral אמין. הוא משרת מודלים פופולריים. עם זאת, הוא מיישם את שכבות הסינון העצמיות שלו. ייתכן שתראה סירובים לכתיבה יצירתית או נושאים למבוגרים. ה-API שלנו מסיר מכשולים אלו. הוא מריץ מודל בעל משקל פתוח המכוון למגבלות מועטות יותר. אתה מקבל את נקודת הקצה התואמת OpenAI.

העלות היא עוד גורם. תוכניות סטנדרטיות לרוב ננעלות אותך במינויים. אנו משתמשים במערכת קרדיטים בתשלום מראש. אתה משלם רק על מה שאתה משתמש. שגיאות לא עולות לך טוקנים. שקיפות זו עוזרת לך לתקצב במדויק.

ההגירה טריוויאלית. הקוד הקיים שלך עובד. אתה רק משנה את כתובת הבסיס. אין צורך בכתיבות מחדש מורכבות. גמישות זו מתאימה למפתחים שרוצים יצירה ללא צנזורה ללא ניהול מודלים מקומיים.

שלב 1: השגת מפתח ה-API שלכם

התחל ביצירת חשבון בפלטפורמה שלנו. ניתן להתחבר עם Google או להשתמש בדוא"ל וסיסמה. לא נדרש מספר טלפון. זה שומר על פרטיות הזהות שלך.

ברגע שנכנסת, נווט לדשבורד. צור את מפתח ה-API שלך מיד. המפתח מוצג רק פעם אחת. העתק אותו ושמור אותו באופן מאובטח. תזדקק לו לכל בקשה.

אתה מקבל קרדיט ניסיוני אוטומטית. חשבונות חדשים מקבלים $0.50 בתוקף ל-7 days. זה מאפשר לך לבדוק את האינטגרציה לפני השקעת כספים.

למפתח שלך יש מגבלות ספציפיות. ניתן לבצע 300 בקשות לדקה. רק שמונה בקשות רצות במקביל. כל מפתח הוא ייחודי לחשבון שלך. אם תייצר מפתח חדש, הישן יפסיק לעבוד. זה מבטיח גישה מאובטחת לקרדיטים שלך.

שלב 2: תצורת כתובת הבסיס שלכם

כתובת ה-URL הבסיסית היא השינוי החשוב ביותר. הפנה את ה-SDK שלך לנקודת הקצה שלנו. השתמש בפורמט הסטנדרטי של OpenAI. פעולה זו מבטיחה תאימות לספריות הקיימות שלך.

הגדר את כתובת ה-URL הבסיסית שלך ל-HTTPS://api.mistralbaseurl.com/v1. נתיב זה משקף את המבנה של ספקים גדולים. הקוד שלך יזהה את נקודות הקצה נכון. אין צורך בנהגים או לקוחות חדשים.

עדכן את משתנה מפתח ה-API בקוד שלך. החלף את מפתח הספק הישן במפתח החדש שלך. ודא שמחרוזת המפתח נכונה. טעויות הקלדה גורמות לשגיאות אימות מיד.

בדקו את החיבור עם ping פשוט. בקשו את רשימת המודלים הזמינים. אתם אמורים לראות את המודל ללא צנזורה שלנו ברשימה. זה מאשר שהתצורה שלכם נכונה. עכשיו אתם מוכחים לשלוח הנחיות.

שלב 3: יישום השלמות צ'אט

שלח בקשת POST לנקודת הקצה של השלמת צ'אט. השתמש במזהה המודל "uncensored". זה מפעיל את מודל השפה הגדול הספציפי שלנו. הוא מעבד את הקלט שלך ומייצר טקסט.

מבנה את ההודעות שלך כמערך. כלול תפקידי מערכת, משתמש ומסייע. המודל מציית להוראות אלו בקפידה. אתה יכול להגדיר פרמטרים כמו temperature ו-top_p. אלו שולטים ביצירתיות הפלט.

אורך חלון ההקשר הוא 100,000 טוקנים. זה מאפשר עיבוד של מסמכים ארוכים. ניתן להעביר הקשר נרחב בבקשה אחת. המודל שומר על רציפות לאורך רצפים ארוכים. זה שימושי לניתוח קוד או סיכום.

פלט מקסימלי הוא 16,000 טוקנים. אם אינך מגדיר max_tokens, המגבלה היא 2,048. התאם פרמטר זה לפי הצרכים שלך. תגובות ארוכות דורשות יותר אשראי. תכנן את תקציב הטוקנים שלך בהתאם.

טיפול בזרם ובאסימונים

סטרימינג משפר את חוויית המשתמש. הוא שולח טוקנים ככל שהם נוצרים. זה מפחית את תחושת העיכוי. הפעל סטרימינג בהגדרות ה-SDK שלך.

אנו משתמשים באירועים מוזרמים מהשרת (SSE). הזרם מספק נתחים של טקסט. כל נתח מכיל חלק מהתשובה. ניתן להציג אסימונים בזמן אמת.

שימוש בטוקנים מדווח בפריסה הסופית. זה מבטיח חיוב מדויק. אתה רואה בדיוק מה צרך. שגיאות לא גורמות לחיוב. דחיות הן בחינם. זה מגן על התקציב שלך מפני בקשות מבוזבזות.

עקבו אחר יתרת האשראי באופן סדיר. ניתן להוסיף אשראי באמצעות קריפטו בכל עת. האשראי אינו פג תוקף. זה מאפשר לכם לעצור שימוש ללא קנס. אתם שומרים על יתרתכם לנצח.

פקודות פונקציה ומצב JSON

ה-API שלנו תומך בפלט מבני. אתה יכול לכפות מצב JSON. הגדר response_format ל-json_object. המודל מחזיר JSON תקין בלבד. זה קריטי לשילובים.

פעולת קריאה לפונקציות פועלת בצורה חלקה. הגדירו את הכלים בבקשה. המודל מזהה איזה כלי להשתמש בו. הוא מעביר ארגומנטים בצורה נכונה. ניתן לנתח את התוצאה בקוד שלכם.

הגדירו tool_choice ל-auto או ספציפי. זה נותן לכם שליטה על ההתנהגות. המודל מעדיף שימוש בכלים כאשר נדרש. זה משפר את האמינות בעבודות מורכבות.

השתמשו בתכונות אלו לחילוץ נתונים. אוטמטו טפסים או קריאות API. המודל ללא צנזורה מטפל היטב במקרים קיצוניים. הוא לא מסרב לשאליים מורכבות. זה הופך אותו למועדף למשימות ייצור.

שגיאות נפוצות: הסבר על 404 ו-422

שגיאות בדרך כלל מצביעות על בעיות תצורה. שגיאת 404 Not Found נפוצה. זה אומר שהנקודה הקצה שגויה. בדוק את כתובת הבסיס שלך בזהירות. ודא שאתה כולל /v1 בנתיב.

שגיאת 422 Unprocessable Entity מתרחשת. זה קורה לעיתים קרובות עם JSON לא תקין. בדוק את מבנה גוף הבקשה. ודא שכל השדות הנדרשים קיימים. ודא שמזהה המודל נכון.

מגבלות קצב מחזירות שגיאות 429. חרגת מ-300 בקשות לדקה. המתן זמן קצר לפני ניסיון חוזר. מומלץ ליישם החסרת מעריכית בקוד שלך. זה מונע עומס יתר על ה-API.

בדוק את תוקף מפתח ה-API שלך. ודא שהוא לא פג תוקף. מפתחות מתחלפים אוטומטית אם הם נוצרים מחדש. השתמש במפתח הנכון לכל בקשה. זה ממזער זמן השבתה.

השוואת עלויות: Mistral לעומת ה-API ללא צנזורה שלנו

מחירינו פשוטים. אתה משלם $0.15 על כל מיליון טוקני קלט. טוקני פלט עולים $0.50 למיליון. זה שקוף וצפוי.

APIs סטנדרטיים לעיתים קרובות גובים יותר. הם כוללים עמלות פלטפורמה. המודל שלנו פועל על השרתים שלנו. אתה משלם על חישוב ישירות. זה מוריד את העלות הבסיסית.

שגיאות הן בחינם. אינך משלם עבור בקשות שנכשלו. זה חוסך כסף בניפוי באגים. אתה משלם רק עבור פלט תקין.

העלאות מתחילות ב-$20. אתה משלם בקריפטו. קרדיטי בונוס זמינים. הוסף $50 ל-5% נוספים. הוסף $100 ל-10% נוספים. הוסף $200 ל-15% נוספים. זה מעודד שימוש גבוה יותר.

רשימת בדיקה סופית למעבר חלק

אמת שכתובת הבסיס נכונה. עדכן את מפתח ה-API שלך בסביבה. בדוק עם פרומפט פשוט. ודא שזרימה עובדת אם צריך.

בדקו את טיפולכם במגבלת הקצב. יישמו ניסיונות חזרה לשגיאות 429. עקבו אחר שימוש הטוקנים שלכם. התאימו את max_tokens לפי הצורך.

אפשר מצב JSON לנתונים מבניים. בדוק קריאת פונקציות עם הכלים שלך. ודא שהמודל מגיב נכון. ודא שפורמט הפלט תואם את הציפיות שלך.

התאם את הפרמטרים שלך. הגדר טמפרטורה ליצירתיות. השתמש ב-top_p לגיוון. הגדרות אלו משפיעות על איכות הפלט. נסה למצוא את האיזון הטוב ביותר. הקוד שלך צריך להישאר ללא שינוי, מלבד כתובת ה-URL והמפתח.