무검열 LLM 호스팅 방법: OpenAI 호환 API

무검열 LLM을 호스팅해야 하는 이유

표준 LLM API는 종종 합법적인 성인 주제, 미묘한 창작물, 또는 논쟁적인 주제를 거부할 수 있는 엄격한 콘텐츠 필터를 적용합니다. 무검열 LLM을 호스팅한다는 것은 추론 레이어를 직접 제어한다는 의미로, 임의적인 거부 없이 프롬프트에 응답하는 모델을 보장합니다. 이는 역할극 엔진, 창작 글쓰기 도우미, 또는 민감한 데이터를 분석하는 연구 도구와 같이 원본 필터링되지 않은 텍스트 생성이 필요한 애플리케이션에 중요합니다.

여러 모델을 통해 요청을 라우팅하는 애그리게이터와 달리, 호스팅된 무검열 LLM API는 일반적으로 단일하고 튜닝된 모델을 제공합니다. 이는 디버깅을 단순화하고 애플리케이션 전반에 걸쳐 일관된 동작을 보장합니다. 모델 버전 관리나 대형 제공업체의 갑작스러운 정책 변경으로 인한 예측 불가능성을 피할 수 있습니다. 결과적으로 입력 매개변수를 존중하는 신뢰할 수 있고 결정적인 text-in/text-out 서비스를 제공합니다.

올바른 아키텍처 선택

무검열 추론을 위한 가장 효율적인 아키텍처는 단일 모델 설정입니다. 애그리게이터는 여러 모델로 요청을 라우팅하여 지연 시간과 복잡성을 도입하며, 이는 주요 모델의 무검열 특성을 희석시킬 수 있습니다. 단일 대형 언어 모델을 호스팅하면 추론 파이프라인에 대한 완전한 제어를 유지하고 콘텐츠 허용도 조정이 일관되게 적용되도록 보장합니다.

필요한 엔드포인트만 노출하는 API를 선택하세요: 생성용 POST /v1/chat/completions 및 메타데이터용 GET /v1/models. 임베딩, 이미지 생성 또는 파인튜닝이 필요하지 않은 경우 이러한 기능을 제공하는 서비스는 불필요한 오버헤드를 추가하므로 피하세요. 집중된 API는 지연 시간과 비용을 줄이며 기존 OpenAI 호환 클라이언트와 원활하게 통합되는 순수 텍스트 생성 서비스를 제공합니다.

API 엔드포인트 구조

OpenAI 호환 API는 표준 RESTful 구조를 따릅니다. 텍스트를 생성하려면 메시지 및 매개변수와 함께 POST 요청을 /v1/chat/completions로 전송합니다. 기본 URL은 일반적으로 https://api.uncensoredgpt.cc/v1와 같습니다. Authorization 헤더에 API 키를 포함해야 합니다.

GET /v1/models 엔드포인트는 사용 가능한 모델 목록을 반환합니다. 단일 모델 설정에서는 일반적으로 하나의 항목만 나열됩니다. 이는 서비스가 활성화되어 요청을 받을 준비가 되었음을 확인합니다. 복잡한 라우팅 테이블이나 폴백 메커니즘이 없으며, API는 직접적이고 예측 가능한 상호 작용을 위해 설계되었습니다.

• POST /v1/chat/completions: 텍스트 생성의 주요 엔드포인트입니다.
• GET /v1/models: 모델 가용성을 확인하는 엔드포인트입니다.
• Authorization: 모든 요청에 Bearer 토큰이 필요합니다.

컨텍스트 창 처리

100,000 토큰의 컨텍스트 창은 단일 요청 내에서 상당한 입력과 출력을 허용합니다. 이 용량은 장문 콘텐츠 생성, 복잡한 추론 작업 또는 대규모 문서 처리에 필수적입니다. 컨텍스트 창에는 프롬프트(입력)와 완성 결과(출력)가 모두 포함됩니다. 총 토큰 수가 이 한도를 초과하지 않도록 해야 합니다.

최대 출력 길이에 유의하십시오. 컨텍스트 창이 100,000 토큰이라도 요청당 최대 출력은 32,000 토큰으로 제한될 수 있습니다. max_tokens 매개변수를 지정하지 않으면 기본 출력 길이가 2,048 토큰으로 제한될 수 있습니다. 하드 제한에 도달하지 않고 사용 가능한 컨텍스트의 유용성을 극대화하기 위해 프롬프트를 계획하십시오.

스트리밍 및 실시간 출력

스트리밍은 서버 전송 이벤트(SSE)를 통해 지원됩니다. 이를 통해 생성되는 토큰을 실시간으로 수신하여 인터랙티브 애플리케이션의 사용자 경험을 개선할 수 있습니다. API는 마지막 청크에서 토큰 사용 정보를 스트리밍하여 스트리밍 세션 중에도 정확한 청구 데이터를 제공합니다.

스트리밍을 활성화하려면 요청에서 stream 매개변수를 true로 설정하십시오. 응답은 부분 완료를 포함하는 일련의 이벤트가 됩니다. 이는 채팅 인터페이스, 실시간 코드 생성, 지연 시간이 중요한 모든 시나리오에 이상적입니다. 표준 HTTP 클라이언트 라이브러리로 이러한 이벤트를 구문 분석할 수 있습니다.

도구 사용 및 함수 호출

API는 함수 호출을 지원하여 모델이 구조화된 데이터를 생성하거나 외부 도구를 호출할 수 있게 합니다. tools 매개변수에 함수 스키마를 정의하고 tool_choice을 지정하여 모델이 이를 사용하는 방식을 제어할 수 있습니다. 이를 통해 LLM이 사용자 입력에 기반하여 데이터를 가져오거나 계산을 수행하거나 작업을 트리거하는 복잡한 워크플로우가 가능합니다.

JSON 모드는 response_format 매개변수를 {"type": "json_object"}로 설정하여 사용할 수도 있습니다. 이는 모델이 유효한 JSON을 출력하도록 보장하여 프로그래밍 통합에 필수적입니다. temperature, top_p, seed과 같은 매개변수를 조정하여 창의성과 재현성을 제어할 수 있습니다. 이러한 기능은 API를 정교한 AI 기반 애플리케이션 구축에 적합하게 만듭니다.

토큰 관리 및 청구

청구는 투명하며 실제 토큰 사용량을 기준으로 합니다. 가격은 입력 토큰 100만 개당 $0.25, 출력 토큰 100만 개당 $1.00입니다. 오류와 거부는 무료이므로 성공적인 완성 결과에 대해서만 지불합니다. 월 구독료나 구독료가 없으며, 크레딧을 사전 로드하면 만료되지 않습니다.

충전은 암호화폐(USDT TRC20 또는 USDC Base)로만 가능합니다. 최소 충전 금액은 $10부터 $500까지이며, 큰 금액에는 보너스 크레딧이 제공됩니다. 신용카드나 PayPal로는 충전할 수 없습니다. 새 계정에는 7일 동안 유효한 $0.50의 체험 크레딧이 제공되며, 카드가 필요하지 않습니다. 제한 사항으로는 분당 300개 요청, 키당 8개의 동시 요청이 있습니다.

프라이버시 및 데이터 처리

프라이버시는 많은 사용자에게 중요한 고려 사항입니다. API는 프롬프트를 학습 데이터로 사용하지 않으므로 입력이 비공개로 유지됩니다. 계정 생성에는 이메일 주소만 필요하며 전화번호는 필요하지 않습니다. 이는 개인 데이터 수집을 최소화하면서도 API에 대한 완전한 액세스를 제공합니다.

콘텐츠 제한은 최소화되지만 구체적입니다. 모델은 합법적인 성인, 픽션, 논쟁적 주제를 거부하지 않습니다. 그러나 하나의 하드 제한이 적용됩니다: 미성년자 관련 성 콘텐츠는 항상 차단됩니다. 이는 기본 법적 기준을 준수하면서도 다른 콘텐츠 유형에 대해 매우 관대한 환경을 유지합니다.

API 키로 시작하기

가입은 간단합니다. "Google로 계속"을 사용하거나 이메일과 비밀번호로 계정을 생성할 수 있습니다. 등록하면 API 키가 즉시 표시되어 지연 없이 요청을 시작할 수 있습니다. 전화번호 인증이 필요 없으며 프로세스는 속도를 위해 설계되었습니다.

클라이언트의 기본 URL을 https://api.uncensoredgpt.cc/v1로 업데이트하고 API 키를 설정하십시오. 모든 요청에 모델 ID "uncensored"를 사용하십시오. 이 단일 모델 접근 방식은 일관성을 보장하고 라우팅의 복잡성을 제거합니다. 즉시 스트리밍, 함수 호출 또는 긴 텍스트 생성을 시작할 수 있습니다.