Необмежений AI-чат: Міфи та факти

Міф: 'Unfiltered' означає відсутність політики контенту

Термін «unfiltered» (без фільтрів) часто передбачає повну відсутність правил, але це не так для production-API. Наша модель відхиляє запити, що містять статевий контент із залученням неповнолітніх, що є жорстким лімітом, який забезпечується на наших серверах. Це обмеження діє незалежно від складності вашого запиту або довжини контексту. Більшість інших моделей також дотримуються цієї базової політики для відповідності стандартним регулюванням цифрового контенту.

Uncensored означає, що модель не відмовлятиметься від законних дорослих, художніх або суперечливих тем, які стандартні моделі можуть позначити як такі, що потребують фільтрації. Ви можете досліджувати глибокі сюжетні лінії або генерувати відверті діалоги, не отримуючи помилку 403 за легку лайку. Мета полягає в тому, щоб прибрати штучні огорожі, які блокують творчий вираз, а не прибрати всі базові правові обмеження. Ця відмінність має значення, коли ви створюєте додатки для аудиторії дорослих, які очікують нюансованих відповідей.

Факт: Реальність ліміту запиту 8MB

Кожен запит, який ви надсилаєте до API, не може перевищувати 8 МБ у загальному розмірі. Цей ліміт поширюється на все тіло запиту, включаючи назву моделі, системні інструкції та історію повідомлень. Якщо ви намагаєтеся передати довгі вікна контексту, близькі до ліміту в 100,000 токенів, ви повинні переконатися, що ваше JSON-корисне навантаження залишається в межах цього порогу.

Перевищення цього ліміту призводить до помилки 413 Payload Too Large, яка миттєво зупиняє генерацію. Вам слід ретельно моніторити кількість токенів, особливо при включенні великих системних промптів або обширних історій розмов. Більші стандартних інтерфейсів чату залишаються значно в межах цього діапазону, але пакетна обробка або інжекція важких метаданих можуть перевантажити вас. Плануйте структуру повідомлень так, щоб загальна вага була ефективною.

Міф: Потрібен складний проксі

Багато розробників припускають, що їм потрібно створити власний проксі-сервер для обробки неконтрольованого генерування. Це непотрібно при використанні кінцевої точки, сумісної з OpenAI. Ви можете спрямувати існуючий клієнтський код напряму на нашу базову URL-адресу та замінити API-ключ.

Наш сервіс діє як пряма кінцева точка, а не шар маршрутизації, який перемикається між кількома моделями. Вам не потрібно керувати балансуванням навантаження або логікою резервування для різних API постачальників. Інфраструктура безпосередньо обслуговує модель. Це зменшує затримку та значно спрощує вашу архітектуру розгортання. Вам просто потрібно змінити одну змінну конфігурації у своєму коді.

Факт: Стандартна сумісність з SDK OpenAI

Наш API точно дотримується стандартної структури OpenAI chat-completions. Ви можете використовувати офіційні SDK OpenAI для Python, Node.js або будь-якої іншої підтримуваної мови без модифікацій. Ідентифікатор моделі просто 'uncensored', який ви передаєте в тілі запиту.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ви отримуєте повний доступ до стандартних параметрів, таких як temperature, top_p та стоп-послідовності. Виклик функцій та режим JSON працюють точно так, як задокументовано OpenAI. Це означає, що ваша існуюча обробка помилок та логіка повторних спроб працюватимуть без змін. Сумісність також поширюється на потокові відповіді, які передають дані в реальному часі частинами.

Міф: Потокова передача працює не дуже добре

Деякі розробники хвилюються, що невідфільтровані моделі можуть погано передавати дані потоком або розривати з'єднання. Наш API підтримує Server-Sent Events (SSE) для потокової передачі відповідей. Дані надходять токен за токеном, забезпечуючи плавний користувацький досвід у чат-інтерфейсах.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потокова передача дозволяє відображати текст по мірі його генерації, зменшуючи сприйняту затримку для кінцевого користувача. Це критично важливо для додатків, де очікується взаємодія в реальному часі. Потік закінчується фінальним фрагментом, який містить загальне використання токенів для запиту. Це гарантує, що ви можете точно відстежувати витрати навіть під час потокової передачі.

Факт: Дані про використання токенів у реальному часі

Кожна потокова відповідь містить інформацію про використання токенів у останньому фрагменті. Ці дані відображають фактичну кількість вхідних і вихідних токенів, спожитих запитом. Ви можете проаналізувати ці дані, щоб оновитвати баланс вашого додатка або логувати використання для аналітики.

Помилки та відмови не споживають токени, тому ви сплачуєте лише за успішне генерування. Ця прозорість дозволяє прогнозувати витрати на основі фактичних шаблонів використання. Ціни прості: $0.15 за 1 мільйон входних токенів та $0.50 за 1 мільйон вихідних токенів. Немає прихованих комісій за потокове передавання або виклик функцій. Ви платите за те, що використовуєте, а попередньо оплачений кредит ніколи не прострочується.

Міф: Незаборонені моделі повільні

Нецензуровані моделі часто сприймаються як повільніші через більшу кількість параметрів або меншу оптимізацію. Наша модель оптимізована для низької затримки на наших виділених серверах. Ми пріоритетуємо швидкість, щоб забезпечити чуйний досвід для чат-додатків.

Модель надає відповіді швидко, відповідаючи продуктивності стандартних комерційних API. Вам не потрібно чекати складних рішень щодо маршрутизації або перемикання моделей. Архітектура прямого обслуговування забезпечує стабільний час відгуку. Ця швидкість критично важлива для підтримки залученості в інтерактивних додатках. Ви отримуєте необмежений вивід без типових затримок.

Факт: Оптимізовано для низької затримки

Наша інфраструктура налаштована на мінімізацію часу між вашим запитом та отриманням першого токена. Ми використовуємо високопродуктивне обладнання для ефективного обслуговування моделі без цензури. Це гарантує, що ваші додатки відчуваються відгукливими навіть під навантаженням.

Copycurl https://api.geminiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list python dependencies for selenium"}]
  }'

Ви можете надсилати запити з різними параметрами, такими як seed для відтворюваності або frequency_penalty для контролю повторень. API обробляє ці обчислення миттєво. Низька затримка є стабільною для різних типів запитів, включаючи потокову та непотокову передачу. Ця надійність дозволяє вам створювати додатки, які залежать від швидких відповідей. Розробники можуть інтегрувати цей endpoint у свої існуючі робочі процеси, не хвилюючись щодо повільних відповідей.