Come ospitare un LLM senza censura tramite API compatibile con OpenAI

Perché ospitare un LLM senza censura?

Le API LLM standard applicano spesso filtri sui contenuti rigorosi che possono rifiutare temi adulti leciti, scrittura creativa sfumata o argomenti controversi. Ospitare un LLM senza censura significa controllare lo strato di inferenza, garantendo che il modello risponda ai tuoi prompt senza rifiuti arbitrarie. Questo è fondamentale per applicazioni che richiedono generazione di testo grezza e non filtrata, come motori di roleplay, assistenti di scrittura creativa o strumenti di ricerca che analizzano dati sensibili.

A differenza degli aggregatori che instradano le richieste attraverso più modelli, un'API LLM senza censura ospitata serve tipicamente un singolo modello ottimizzato. Questo semplifica il debugging e garantisce un comportamento coerente in tutta la tua applicazione. Eviti l'imprevedibilità del versioning dei modelli o dei cambiamenti improvvisi delle policy da grandi provider. Il risultato è un servizio affidabile e deterministico di testo in/text out che rispetta i tuoi parametri di input.

Scegliere l'architettura giusta

L'architettura più efficiente per l'inferenza senza censura è una configurazione a modello singolo. Gli aggregatori introducono spesso latenza e complessità instradando le richieste a vari modelli, il che può diluire le caratteristiche senza censura del tuo modello principale. Ospitando un singolo modello linguistico di grandi dimensioni, mantieni il controllo completo sulla pipeline di inferenza e ti assicuri che l'ottimizzazione del modello per la tolleranza ai contenuti venga applicata in modo coerente.

Cerca un'API che esponga solo gli endpoint necessari: POST /v1/chat/completions per la generazione e GET /v1/models per i metadati. Evita i servizi che offrono embedding, generazione di immagini o fine-tuning a meno che non ne abbia bisogno, poiché aggiungono un sovraccarico inutile. Un'API focalizzata riduce la latenza e il costo, fornendo un servizio di generazione di testo puro che si integra perfettamente con i client compatibili con OpenAI esistenti.

Struttura dell'endpoint API

Un'API compatibile con OpenAI segue una struttura RESTful standard. Per generare testo, invii una richiesta POST a /v1/chat/completions con i tuoi messaggi e parametri. L'URL di base è tipicamente qualcosa come https://api.uncensoredgpt.cc/v1. Devi includere la tua chiave API nell'intestazione Authorization.

L'endpoint GET /v1/models restituisce un elenco dei modelli disponibili, che in una configurazione a modello singolo elencheranno solitamente una sola voce. Questo conferma che il servizio è attivo e pronto ad accettare richieste. Non ci sono tabelle di routing complesse o meccanismi di fallback; l'API è progettata per un'interazione diretta e prevedibile.

• POST /v1/chat/completions: Endpoint principale per la generazione di testo.
• GET /v1/models: Endpoint per verificare la disponibilità del modello.
• Authorization: Token Bearer richiesto per tutte le richieste.

Gestione delle finestre di contesto

Una finestra di contesto di 100.000 token consente input e output sostanziali all'interno di una singola richiesta. Questa capacità è essenziale per la generazione di contenuti di lunga durata, compiti di ragionamento complessi o l'elaborazione di grandi documenti. La finestra di contesto include sia il prompt (input) che il completamento (output). Devi assicurarti che il conteggio totale dei token non superi questo limite.

Tieni presente la lunghezza massima dell'output. Sebbene la finestra di contesto sia di 100.000 token, l'output massimo per richiesta potrebbe essere limitato a 32.000 token. Se non specifichi un parametro max_tokens, la lunghezza di output predefinita potrebbe essere limitata a 2.048 token. Pianifica i tuoi prompt di conseguenza per massimizzare l'utilità del contesto disponibile senza raggiungere limiti rigidi.

Streaming e output in tempo reale

Lo streaming è supportato tramite Server-Sent Events (SSE). Questo ti permette di ricevere i token in tempo reale mentre vengono generati, migliorando l'esperienza utente per le applicazioni interattive. L'API trasmette le informazioni sull'utilizzo dei token nell'ultimo chunk, fornendo dati di fatturazione accurati anche durante le sessioni di streaming.

Per abilitare lo streaming, imposta il parametro stream su true nella tua richiesta. La risposta sarà una serie di eventi, ciascuno contenente un completamento parziale. Questo è ideale per le interfacce chat, la generazione di codice in diretta e qualsiasi scenario in cui la latenza sia importante. Puoi analizzare questi eventi utilizzando le librerie standard dei client HTTP.

Utilizzo degli strumenti e chiamata di funzioni

L'API supporta la chiamata di funzioni, consentendo al modello di generare dati strutturati o invocare strumenti esterni. Puoi definire gli schemi delle funzioni nel parametro tools e specificare tool_choice per controllare come il modello decide di utilizzarli. Questo abilita flussi di lavoro complessi in cui l'LLM può recuperare dati, eseguire calcoli o attivare azioni in base all'input dell'utente.

La modalità JSON è disponibile anche tramite il parametro response_format impostato su {"type": "json_object"}. Questo garantisce che il modello produca JSON valido, fondamentale per l'integrazione programmatica. Puoi regolare parametri come temperature, top_p e seed per controllare creatività e riproducibilità. Queste funzionalità rendono l'API adatta per la creazione di applicazioni AI sofisticate.

Gestione dei token e fatturazione

La fatturazione è trasparente e basata sull'utilizzo reale dei token. Il prezzo è di $0,25 per 1M di token di input e $1,00 per 1M di token di output. Errori e rifiuti sono gratuiti, il che significa che paghi solo per i completamenti riusciti. Non ci sono canoni mensili o abbonamenti; carichi il credito in anticipo, che non scade mai.

Le ricariche sono accettate tramite criptovalute, specificamente USDT (TRC20) o USDC (Base). Gli importi minimi di ricarica vanno da $10 a $500, con crediti bonus per importi maggiori. Non sono accettate carte di credito o PayPal per le ricariche. Un nuovo account riceve $0,50 di credito di prova valido per 7 giorni, senza necessità di carta. I limiti includono 300 richieste al minuto e 8 richieste parallele per chiave.

Privacy e gestione dei dati

La privacy è un aspetto fondamentale per molti utenti. L'API non utilizza i tuoi prompt per i dati di addestramento, garantendo che il tuo input rimanga privato. La creazione dell'account richiede solo un indirizzo email, senza bisogno di numero di telefono. Questo minimizza la raccolta di dati personali fornendo al contempo l'accesso completo all'API.

Le restrizioni sui contenuti sono minime ma specifiche. Il modello non rifiuta argomenti adulti leciti, fiction o controversi. Tuttavia, si applica un limite rigido: i contenuti sessuali che coinvolgono minori sono sempre bloccati. Questo garantisce la conformità agli standard legali di base mantenendo un ambiente altamente permissivo per altri tipi di contenuti.

Iniziare con la tua chiave

La registrazione è semplice. Puoi utilizzare "Continua con Google" o creare un account con email e password. Una volta registrato, la tua chiave API viene visualizzata immediatamente, permettendoti di iniziare a fare richieste senza indugio. Non è richiesta la verifica del numero di telefono e il processo è progettato per la velocità.

Per integrare, aggiorna l'URL di base del tuo client a https://api.uncensoredgpt.cc/v1 e imposta la chiave API. Usa l'ID modello "uncensored" per tutte le richieste. Questo approccio a modello singolo garantisce coerenza ed elimina la complessità del routing. Puoi iniziare a fare streaming, chiamare funzioni o generare testi lunghi immediatamente.