Sansürsüz LLM'yi OpenAI Uyumlu API ile Nasıl Barındırılır

Neden Sansürsüz Bir LLM Barındırmalısınız?

Standart LLM API'leri genellikle yasal yetişkin temaları, nüanslı yaratıcı yazımı veya tartışmalı konuları reddeden sıkı içerik filtreleri uygular. Sansürsüz bir LLM barındırmak, modelin keyfi reddiyeler olmadan istemlerinize yanıt vermesini sağlayarak çıkarım katmanında kontrol sahibi olmanızı sağlar. Bu, rol oynama motorları, yaratıcı yazım asistanları veya hassas verileri analiz eden araştırma araçları gibi ham, filtrelenmemiş metin üretimi gerektiren uygulamalar için kritiktir.

İstekleri birden fazla model üzerinden yönlendiren toplayıcıların aksine, barındırılan bir sansürsüz LLM API'si genellikle tek bir, ince ayarlı modeli sunar. Bu, hata ayıklamayı kolaylaştırır ve uygulamanızda tutarlı davranış sağlar. Büyük sağlayıcılardan model sürümleme veya ani politika değişikliklerinin öngörülemezliğinden kaçınırsınız. Sonuç olarak, girdi parametrelerinize saygı duyan güvenilir, deterministik bir metin-girişi/metin-çıkışı hizmeti elde edersiniz.

Doğru Mimarinin Seçimi

Sansürsüz çıkarım için en verimli mimari tek model kurulumudur. Agregatörler genellikle istekleri çeşitli modellere yönlendirerek gecikme ve karmaşıklık getirir; bu da birincil modelinizin sansürsüz özelliklerini zayıflatabilir. Tek büyük dil modelini barındırarak çıkarım hattı üzerinde tam kontrolü sağlarsınız ve modelin içerik toleransı için yapılan ayarların tutarlı şekilde uygulanmasını garanti edersiniz.

Yalnızca gerekli uç noktaları sunan bir API arayın: üretim için POST /v1/chat/completions ve meta veri için GET /v1/models. Gerekmedikçe gömme (embedding), görüntü üretimi veya ince ayar (fine-tuning) sunan hizmetlerden kaçının; bunlar gereksiz yük oluşturur. Odaklanmış bir API, gecikmeyi ve maliyeti azaltır ve mevcut OpenAI uyumlu istemci yazılımlarınızla sorunsuz entegre olan saf metin üretim hizmeti sağlar.

API Uç Noktası Yapısı

OpenAI uyumlu bir API standart bir RESTful yapısını izler. Metin üretmek için mesajlarınızı ve parametrelerinizi POST isteği ile /v1/chat/completions adresine gönderirsiniz. Temel URL genellikle https://api.uncensoredgpt.cc/v1 gibidir. API anahtarınızı Authorization başlığında dahil etmelisiniz.

GET /v1/models uç noktası mevcut modellerin bir listesini döndürür; tek model kurulumunda genellikle yalnızca bir giriş listelenir. Bu, hizmetin aktif olduğunu ve istekleri kabul etmeye hazır olduğunu doğrular. Karmaşık yönlendirme tabloları veya yedek mekanizmalar yoktur; API doğrudan, öngörülebilir etkileşim için tasarlanmıştır.

• POST /v1/chat/completions: Metin üretimi için ana uç nokta.
• GET /v1/models: Model kullanılabilirliğini doğrulama uç noktası.
• Authorization: Tüm istekler için Bearer token gereklidir.

Bağlam Pencerelerini Yönetme

100,000 token'lık bir bağlam penceresi, tek bir istek içinde önemli miktarda girdi ve çıktı imkanı sağlar. Bu kapasite, uzun formatlı içerik üretimi, karmaşık akıl yürütme görevleri veya büyük belgelerin işlenmesi için gereklidir. Bağlam penceresi hem istemi (girdi) hem de tamamlamayı (çıktı) içerir. Toplam token sayısının bu sınırı aşmadığından emin olmalısınız.

Maksimum çıktı uzunluğuna dikkat edin. Bağlam penceresi 100,000 token olsa da, istek başına maksimum çıktı 32,000 token ile sınırlı olabilir. max_tokens parametresini belirtmezseniz, varsayılan çıktı uzunluğu 2,048 token ile sınırlı olabilir. Mevcut bağlamın kullanımını en üst düzeye çıkarmak için istemlerinizi buna göre planlayın.

Akış ve Gerçek Zamanlı Çıktı

Akış desteği Server-Sent Events (SSE) aracılığıyla sağlanır. Bu, token'ları oluşturulurken gerçek zamanlı olarak almanızı sağlar ve etkileşimli uygulamalar için kullanıcı deneyimini iyileştirir. API, son chunk'ta token kullanım bilgilerini akışa geçirir; bu sayede akış oturumları sırasında bile doğru faturalandırma verisi elde edilir.

Akışı etkinleştirmek için isteğinizde stream parametresini true olarak ayarlayın. Yanıt, kısmi tamamlamalar içeren bir dizi olay olacaktır. Bu, sohbet arayüzleri, canlı kod üretimi ve gecikmenin önemli olduğu herhangi bir senaryo için idealdir. Bu olayları standart HTTP istemci kütüphaneleriyle ayrıştırabilirsiniz.

Araç Kullanımı ve Fonksiyon Çağırma

API, fonksiyon çağırma desteği sunar; bu, modelin yapılandırılmış veri oluşturmasını veya harici araçları çağırmasını sağlar. tools parametresinde fonksiyon şemalarını tanımlayabilir ve modelin bunları nasıl kullanacağına karar vermesini kontrol etmek için tool_choice belirtebilirsiniz. Bu, LLM'nin kullanıcı girdisine dayalı olarak veri getirmesi, hesaplama yapması veya eylemler tetiklemesi gibi karmaşık iş akışlarını mümkün kılar.

JSON modu ayrıca response_format parametresi {"type": "json_object"} olarak ayarlandığında kullanılabilir. Bu, modelin geçerli JSON çıktısı vermesini sağlar ve programatik entegrasyon için kritiktir. Yaratıcılığı ve yeniden üretilebilirliği kontrol etmek için temperature, top_p ve seed gibi parametreleri ayarlayabilirsiniz. Bu özellikler API'yi gelişmiş AI destekli uygulamalar oluşturmaya uygun kılar.

Token Yönetimi ve Faturalandırma

Faturalandırma şeffaftır ve gerçek token kullanımına dayanır. Fiyat 1M girdi token başına $0.25 ve 1M çıktı token başına $1.00'dır. Hatalar ve reddiyeler ücretsizdir; yani yalnızca başarılı tamamlamalar için ödeme yaparsınız. Aylık ücret veya abonelik yoktur; kredi ön yüklersiniz ve bu kredi asla sona ermez.

Bakiye yükleme yalnızca kripto para birimi ile kabul edilir: USDT (TRC20) veya USDC (Base). Minimum bakiye yükleme miktarları $10 ile $500 arasındadır; daha büyük miktarlar için bonus krediler sunulur. Bakiye yükleme için kredi kartı veya PayPal kabul edilmez. Yeni bir hesap, kart gerekmeden 7 gün geçerli $0.50 deneme kredisi alır. Limitler dakikada 300 istek ve anahtar başına 8 eşzamanlı istektir.

Gizlilik ve Veri İşleme

Gizlilik, birçok kullanıcı için önemli bir husustur. API, istemlerinizi eğitim verisi olarak kullanmaz; bu da girdinizin gizli kalmasını sağlar. Hesap oluşturmak için yalnızca bir e-posta adresi gerekir; telefon numarası gerekmez. Bu, kişisel veri toplamayı minimize ederken API'ye tam erişim sağlar.

İçerik kısıtlamaları minimaldir ancak özeldir. Model yasal yetişkin, kurgusal veya tartışmalı konuları reddetmez. Ancak kesin bir sınır vardır: küçüklerle ilgili cinsel içerik her zaman engellenir. Bu, diğer içerik türleri için son derece izin verici bir ortam korurken temel yasal standartlara uyumu sağlar.

Anahtarınızla Başlangıç

Kayıt olmak basittir. "Google ile Devam Et"i kullanabilir veya e-posta ve şifre ile bir hesap oluşturabilirsiniz. Kayıt olduktan sonra API anahtarınız hemen görüntülenir; böylece gecikmeden istek yapmaya başlayabilirsiniz. Telefon numarası doğrulaması gerekmez ve süreç hız için tasarlanmıştır.

İstemcinizin temel URL'sini https://api.uncensoredgpt.cc/v1 olarak güncelleyin ve API anahtarını ayarlayın. Tüm istekler için "uncensored" model kimliğini kullanın. Bu tek model yaklaşımı tutarlılık sağlar ve yönlendirme karmaşıklığını ortadan kaldırır. Hemen akış başlatabilir, fonksiyon çağırabilir veya uzun metinler üretebilirsiniz.