Czat Nieograniczonej AI: Mity vs fakty

Mit: 'Unfiltered' oznacza brak polityki treści

Określenie "unfiltered" często sugeruje całkowity brak zasad, ale nie dotyczy to API produkcyjnych. Nasz model odrzuca żądania zawierające treści seksualne z udziałem małoletnich, co jest ścisłą granicą egzekwowaną na naszych serwerach. Ograniczenie to dotyczy niezależnie od złożoności promptu lub długości kontekstu. Większość innych modeli również egzekwuje tę bazową politykę, aby spełnić standardowe regulacje dotyczące treści cyfrowych.

Uncenzurowany oznacza, że model nie będzie odmawiać legalnych treści dla dorosłych, fikcyjnych lub kontrowersyjnych tematów, które standardowe modele mogą oznaczać jako błędne. Możesz eksplorować głębokie łuki narracyjne lub generować eksplicyjną dialog bez otrzymywania błędu 403 za łagardne przekleństwa. Celem jest usunięcie sztucznych barier, które blokują ekspresję kreatywną, a nie usunięcie wszystkich podstawowych ograniczeń prawnych. Ta różnica ma znaczenie, gdy budujesz aplikacje dla odbiorców dorosłych, którzy oczekują zniuansowanych odpowiedzi.

Fakt: Rzeczywistość limitu żądania 8MB

Każde żądanie, które wysyłasz do API, nie może przekraczać 8 MB całkowitego rozmiaru. Limit ten dotyczy całego ciała żądania, w tym nazwy modelu, instrukcji systemowych i historii wiadomości. Jeśli wysyłasz długie okna kontekstu blisko limitu 100,000 tokenów, musisz upewnić się, że Twój ładunek JSON mieści się poniżej tego progu.

Przekroczenie tego limitu powoduje błąd 413 Payload Too Large, który natychmiast zatrzymuje generowanie. Powinieneś dokładnie monitorować liczbę tokenów, szczególnie podczas uwzględniania dużych promptów systemowych lub rozległych historii rozmów. Większość standardnych interfejsów czatowych mieści się dobrze w tym zakresie, ale przetwarzanie wsadowe lub ciężkie wstrzykiwanie metadanych mogą przekroczyć ten limit. Zaplanuj strukturę wiadomości tak, aby całkowita waga była efektywna.

Mit: Potrzebujesz złożonego proxy

Wielu programistów zakłada, że muszą zbudować własny serwer proxy do obsługi generowania bez filtrów. Nie jest to konieczne przy użyciu punktu końcowego zgodnego z OpenAI. Możesz skierować istniejący kod klienta bezpośrednio do naszego adresu bazowego i zamienić klucz API.

Nasza usługa działa jako bezpośredni punkt końcowy, a nie warstwa routingu przełączająca między wieloma modelami. Nie musisz zarządzać równoważeniem obciążenia ani logiką failover dla różnych interfejsów API dostawców. Infrastruktura obsługuje serwowanie modelu bezpośrednio. Zmniejsza to opóźnienia i znacznie upraszcza architekturę wdrożenia. Wystarczy zmienić jedną zmienną konfiguracyjną w swoim kodzie.

Fakt: Standardowa kompatybilność z SDK OpenAI

Nasz API dokładnie podąża za standardową strukturą OpenAI chat-completions. Możesz użyć oficjalnych bibliotek SDK OpenAI dla Pythona, Node.js lub dowolnego innego obsługiwanego języka bez modyfikacji. Identyfikator modelu to po prostu 'uncensored', który przekazujesz w ciele żądania.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Otrzymujesz pełny dostęp do standardowych parametrów, takich jak temperatura, top_p i sekwencje stop. Wywoływanie funkcji i tryb JSON działają dokładnie tak, jak opisano w dokumentacji OpenAI. Oznacza to, że istniejąca obsługa błędów i logika ponawiania będą działać bez zmian. Kompatybilność obejmuje również odpowiedzi strumieniowe, które dostarczają dane w czasie rzeczywistym w postaci cząstek.

Mit: Streaming nie działa dobrze

Niektórzy programiści martwią się, że modele bez filtrów mogą słabo przesyłać strumieniowo dane lub tracić połączenia. Nasze API obsługuje Server-Sent Events (SSE) dla odpowiedzi strumieniowych. Dane docierają token po tokenie, zapewniając płynne doświadczenie użytkownika w interfejsach czatu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Strumieniowanie pozwala wyświetlać tekst w miarę jego generowania, co zmniejsza postrzegane opóźnienia dla końcowego użytkownika. Jest to kluczowe dla aplikacji, w których oczekiwana jest interakcja w czasie rzeczywistym. Strumień kończy się ostatnim czatem, który zawiera całkowite zużycie tokenów dla żądania. Gwarantuje to możliwość dokładnego śledzenia kosztów nawet podczas strumieniowania.

Fakt: Dane o użyciu tokenów w czasie rzeczywistym

Każda odpowiedź strumieniowa zawiera informacje o zużyciu tokenów w ostatnim czacie. Dane te odzwierciedlają rzeczywistą liczbę tokenów wejściowych i wyjściowych zużytych przez żądanie. Możesz przeanalizować te dane, aby zaktualizować saldo aplikacji lub zalogować zużycie w celach analitycznych.

Błędy i odrzucenia nie zużywają tokenów, więc rozliczane są tylko pomyślne generacje. Ta przejrzystość pozwala przewidywać koszty na podstawie rzeczywistego wzorca użycia. Cennik jest prosty: $0.15 za 1 milion tokenów wejściowych i $0.50 za 1 milion tokenów wyjściowych. Nie ma ukrytych opłat za strumieniowanie ani wywołania funkcji. Płacisz za to, czego używasz, a kredyt z góry opłacony nie wygasa.

Mit: Modele bez cenzury są wolne

Modele bez cenzury są często postrzegane jako wolniejsze ze względu na większą liczbę parametrów lub mniejszą optymalizację. Nasz model jest zoptymalizowany pod kątem niskich opóźnień na naszych dedykowanych serwerach. Priorytetyzujemy szybkość, aby zapewnić responsywne doświadczenie dla aplikacji czatowych.

Model dostarcza odpowiedzi szybko, dorównując wydajności standardowych API komercyjnych. Nie musisz czekać na złożone decyzje dotyczące trasowania lub przełączania modeli. Architektura bezpośredniego serwowania zapewnia stały czas odpowiedzi. Ta szybkość jest kluczowa dla utrzymania zaangażowania w aplikacjach interaktywnych. Otrzymujesz nieograniczony wynik bez typowych opóźnień.

Fakt: Zoptymalizowany pod kątem niskiego opóźnienia

Nasza infrastruktura jest dostrojona tak, aby zminimalizować czas między Twoim żądaniem a pierwszym tokenem. Wykorzystujemy sprzęt wysokiej wydajności do efektywnego obsługi modelu bez cenzury. Zapewnia to, że Twoje aplikacje czują się responsywne nawet pod obciążeniem.

Copycurl https://api.geminiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list python dependencies for selenium"}]
  }'

Możesz wysyłać żądania z różnymi parametrami, takimi jak seed dla reproducowalności lub frequency_penalty do kontrolowania powtórzeń. API wykonuje te obliczenia natychmiast. Niskie opóźnienia są spójne dla różnych typów żądań, w tym strumieniowania i niestrumieniowania. Ta niezawodność pozwala budować aplikacje, które zależą od szybkich czasów reakcji. Programiści mogą zintegrować ten endpoint ze swoimi istniejącymi przepływami pracy, nie martwiąc się o wolne odpowiedzi.