마지막 업데이트
Mistral API 통합 가이드
기본 URL과 API 키만 업데이트하면 표준 Mistral API를 우리의 uncensored 대체품으로 교체할 수 있습니다. 이 가이드는 기존 OpenAI 호환 코드의 로직을 변경하지 않고도 uncensored 모델을 실행하는 방법을 설명합니다.
표준 Mistral API를 전환해야 하는 이유?
개발자들은 종종 워크플로우를 방해하는 콘텐츠 필터에 부딪힙니다. 표준 API는 특정 주제를 거부합니다. 우리 uncensored 모델은 직접적으로 답변합니다. 출력에 대한 완전한 제어권을 유지합니다.
표준 Mistral API는 신뢰할 수 있습니다. 인기 있는 모델을 제공합니다. 그러나 자체 модерация 레이어를 적용합니다. 창의적인 글쓰기나 성인 테마에 대해 거부를 볼 수 있습니다. 당사 API는 이러한 장벽을 제거합니다. 제한이 적은 모델로 조정된 오픈 웨이트 모델을 실행합니다. 동일한 OpenAI 호환 엔드포인트를 제공합니다.
비용도 중요한 요소입니다. 일반 플랜은 종종 구독에 묶습니다. 우리는 선불 크레딧 시스템을 사용합니다. 사용한 만큼만 지불합니다. 오류는 토큰을 소모하지 않습니다. 이러한 투명성은 정확한 예산 편성에 도움이 됩니다.
마이그레이션은 trivial합니다. 기존 코드가 작동합니다. 베이스 URL만 변경하면 됩니다. 복잡한 다시 쓰기가 필요하지 않습니다. 이 유연성은 로컬 모델을 관리하지 않고 uncensored 생성을 원하는 개발자에게 적합합니다.
1단계: API 키 확보
당사 플랫폼에 계정을 생성하는 것으로 시작하세요. Google로 로그인하거나 이메일과 비밀번호를 사용할 수 있습니다. 전화번호가 필요하지 않습니다. 이렇게 신원을 비공개로 유지할 수 있습니다.
로그인한 후 대시보드로 이동합니다. 즉시 API 키를 생성합니다. 키는 한 번만 표시됩니다. 복사하여 안전하게 저장하세요. 모든 요청에 이 키가 필요합니다.
체험 크레딧이 자동으로 제공됩니다. 신규 계정에는 7일 유효한 $0.50가 제공됩니다. 이를 통해 자금 투입 전에 통합을 테스트할 수 있습니다.
키에는 특정 제한이 있습니다. 분당 300개의 요청을 보낼 수 있습니다. 동시에 8개의 요청만 실행됩니다. 각 키는 계정별로 고유합니다. 새 키를 생성하면 이전 키는 더 이상 작동하지 않습니다. 이는 크레딧에 대한 안전한 접근을 보장합니다.
2단계: 베이스 URL 구성
기본 URL이 가장 중요한 변경 사항입니다. SDK를 당사 엔드포인트로 지정하십시오. 표준 OpenAI 형식을 사용하십시오. 이는 기존 라이브러리와의 호환성을 보장합니다.
기본 URL을 HTTPS://api.mistralbaseurl.com/v1로 설정하세요. 이 경로는 주요 제공업체의 구조를 반영합니다. 코드는 엔드포인트를 올바르게 인식합니다. 새로운 드라이버나 클라이언트가 필요하지 않습니다.
코드에서 API 키 변수를 업데이트하세요. 기존 제공업체 키를 새 키로 교체하세요. 키 문자열이 정확한지 확인하세요. 오타는 즉시 인증 오류를 유발합니다.
간단한 핑으로 연결을 테스트합니다. 사용 가능한 모델 목록을 요청합니다. 비검열 모델이 나열되어야 합니다. 이는 구성이 올바르다는 것을 확인합니다. 이제 프롬프트를 보낼 준비가 되었습니다.
3단계: 채팅 완료 구현
채팅 완료 엔드포인트로 POST 요청을 보내십시오. 모델 ID "uncensored"를 사용하십시오. 이는 특정 대형 언어 모델을 트리거합니다. 입력을 처리하고 텍스트를 생성합니다.
메시지를 배열로 구조화합니다. system, user, assistant 역할을 포함합니다. 모델은 이러한 지시를 철저히 따릅니다. temperature 및 top_p과 같은 매개변수를 설정할 수 있습니다. 이는 출력의 창의성을 제어합니다.
컨텍스트 윈도우는 100,000 토큰입니다. 긴 문서를 처리할 수 있습니다. 단일 요청으로 광범위한 컨텍스트를 전달할 수 있습니다. 모델은 긴 시퀀스에서도 일관성을 유지합니다. 이는 코드 분석이나 요약에 유용합니다.
최대 출력은 16,000 토큰입니다. max_tokens을 설정하지 않으면 제한은 2,048입니다. 필요에 따라 이 매개변수를 조정하세요. 더 긴 응답에는 더 많은 크레딧이 필요합니다. 토큰 예산을 적절히 계획하세요.
ストリーミングとトークンの処理
스트리밍은 사용자 경험을 향상시킵니다. 토큰이 생성되는 대로 전송됩니다. 이는 지각된 지연 시간을 줄입니다. SDK 설정에서 스트리밍을 활성화하세요.
서버 전송 이벤트(SSE)를 사용합니다. 스트림은 텍스트 청크를 제공합니다. 각 청크에는 응답의 일부가 포함됩니다. 토큰을 실시간으로 표시할 수 있습니다.
토큰 사용량은 마지막 청크에 보고됩니다. 이를 통해 정확한 청구가 가능합니다. 소비된 내용을 정확히 확인할 수 있습니다. 오류에는 요금이 부과되지 않습니다. 거절은 무료입니다. 이를 통해 낭비된 요청으로부터 예산을 보호할 수 있습니다.
크레딧 잔액을 정기적으로 모니터링하세요. 언제든지 암호화폐로 충전할 수 있습니다. 크레딧은 만료되지 않습니다. 이를 통해 페널티 없이 사용을 일시 중단할 수 있습니다. 잔액은 무기한 유지됩니다.
함수 호출 및 JSON 모드
API는 구조화된 출력을 지원합니다. JSON 모드를 강제할 수 있습니다. response_format을 json_object로 설정합니다. 모델은 유효한 JSON만 반환합니다. 이는 통합에 중요합니다.
함수 호출은 원활하게 작동합니다. 요청에서 도구를 정의합니다. 모델은 어떤 도구를 사용할지 식별합니다. 인수를 올바르게 전달합니다. 결과를 코드에서 파싱할 수 있습니다.
tool_choice를 auto 또는 특정으로 설정하세요. 이는 동작에 대한 제어를 제공합니다. 모델은 필요할 때 도구 사용을 우선시합니다. 이는 복잡한 워크플로우의 신뢰성을 향상시킵니다.
데이터 추출에 이러한 기능을 사용하세요. 양식 또는 API 호출을 자동화하세요. uncensored 모델은 예외 상황을 잘 처리합니다. 복잡한 쿼리를 거부하지 않습니다. 이는 프로덕션 작업에 적합합니다.
일반적인 오류: 404 및 422 설명
에러는 일반적으로 구성 문제를 나타냅니다. 404 Not Found 에러가 일반적입니다. 엔드포인트가 잘못되었음을 의미합니다. 기본 URL을 주의 깊게 확인하세요. 경로에 /v1이 포함되어 있는지 확인하세요.
422 Unprocessable Entity 오류가 발생했습니다. 이는 종종 유효하지 않은 JSON으로 인해 발생합니다. 요청 본문 구조를 확인하세요. 필수 필드가 모두 포함되어 있는지 확인하세요. 모델 ID가 올바른지 확인하세요.
Rate limits는 429 오류를 반환합니다. 분당 300개의 요청을 초과했습니다. 잠시 후 재시도하세요. 코드에 지수 백오프를 구현하세요. 이는 API에 과부하가 걸리는 것을 방지합니다.
API 키의 유효성을 확인하세요. 만료되지 않았는지 확인하세요. 키는 재생성 시 자동으로 교체됩니다. 각 요청에 올바른 키를 사용하세요. 이는 다운타임을 최소화합니다.
비용 비교: Mistral vs 당사의 Uncensored API
저희 요금제는 단순합니다. 입력 토큰은 1M당 $0.15, 출력 토큰은 1M당 $0.50입니다. 투명하고 예측 가능합니다.
표준 API는 종종 더 비쌉니다. 플랫폼 수수료가 포함됩니다. 저희 모델은 자체 서버에서 실행됩니다. 당신은 직접 컴퓨트에 대해 지불합니다. 이는 기본 비용을 낮춥니다.
에러는 무료입니다. 실패한 요청에는 요금이 부과되지 않습니다. 이는 디버깅 비용을 절약합니다. 유효한 출력에만 요금이 부과됩니다.
충전은 $20부터 시작합니다. 암호화폐로 결제합니다. 보너스 크레딧을 사용할 수 있습니다. $50 추가 시 5% 추가, $100 추가 시 10% 추가, $200 추가 시 15% 추가. 이는 높은 사용량을 보상합니다.
원활한 마이그레이션을 위한 최종 체크리스트
베이스 URL이 정확한지 확인하세요. 환경에서 API 키를 업데이트하세요. 간단한 프롬프트로 테스트하세요. 필요한 경우 스트리밍이 작동하는지 확인하세요.
속도 제한 처리를 확인하세요. 429 오류에 대한 재시도를 구현하세요. 토큰 사용량을 모니터링하세요. 필요에 따라 max_tokens을 조정하세요.
구조화된 데이터를 위해 JSON 모드를 활성화하세요. 도구로 함수 호출을 테스트하세요. 모델이 올바르게 응답하는지 확인하세요. 출력 형식이 기대와 일치하는지 확인하세요.
매개변수를 맞춤설정하세요. 창의성을 위해 temperature를 설정하세요. 다양성을 위해 top_p를 사용하세요. 이러한 설정은 출력 품질에 영향을 미칩니다. 가장 좋은 균형을 찾기 위해 실험하세요. URL과 키를 제외하고 코드는 변경되지 않아야 합니다.