Чат Нефильтрованного ИИ: Мифы и факты

Миф: 'Unfiltered' означает отсутствие политики контента

Термин unfiltered часто подразумевает полное отсутствие правил, но это не так для production-API. Наша модель отказывает в запросах, содержащих сексуальный контент с участием несовершеннолетних, что является жестким ограничением, enforced на наших серверах. Это ограничение применяется независимо от сложности вашего промпта или длины контекста. Большинство других моделей также применяют эту базовую политику для соответствия стандартным регуляциям цифрового контента.

Uncensored означает, что модель не будет отказывать в законном взрослом, художественном или спорном контенте, который могут пометить стандартные модели. Вы можете исследовать глубокие сюжетные линии или генерировать откровенный диалог, не получая ошибку 403 за легкую бранную лексику. Цель — убрать искусственные ограждения, блокирующие творческое самовыражение, а не убрать все базовые правовые ограничения. Это различие важно, когда вы создаете приложения для взрослой аудитории, ожидающей нюансированные ответы.

Факт: Реальность лимита запроса 8MB

Каждый запрос, который вы отправляете в API, не может превышать 8 МБ в общем размере. Это ограничение применяется ко всему телу запроса, включая имя модели, системные инструкции и историю сообщений. Если вы отправляете длинные контекстные окна, близкие к лимиту в 100,000 токенов, вы должны убедиться, что ваш полезный груз JSON остается в пределах этого порога.

Превышение этого лимита приводит к ошибке 413 Payload Too Large, которая немедленно останавливает генерацию. Вам следует внимательно отслеживать количество токенов, особенно при включении больших системных запросов или обширных историй разговоров. Большинство стандартных интерфейсов чата остаются в пределах этого диапазона, но пакетная обработка или тяжелая инъекция метаданных могут превысить лимит. Планируйте структуру сообщений так, чтобы общий вес был эффективным.

Миф: Нужен сложный прокси

Многие разработчики считают, что нужно создать собственный прокси-сервер для обработки нефильтрованной генерации. Это не нужно при использовании OpenAI-совместимой конечной точки. Вы можете направить существующий клиентский код напрямую на наш базовый URL и заменить API-ключ.

Наш сервис действует как прямая конечная точка, а не как слой маршрутизации, переключающийся между несколькими моделями. Вам не нужно управлять балансировкой нагрузки или логикой резервирования для различных API поставщиков. Инфраструктура напрямую обслуживает модель. Это снижает задержку и значительно упрощает архитектуру вашего развертывания. Вам просто нужно изменить одну переменную конфигурации в коде.

Факт: Стандартная совместимость с SDK OpenAI

Наш API в точности следует стандартной структуре OpenAI chat-completions. Вы можете использовать официальные SDK OpenAI для Python, Node.js или любого другого поддерживаемого языка без изменений. Идентификатор модели — просто 'uncensored', который вы передаёте в теле запроса.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Вы получаете полный доступ к стандартным параметрам, таким как temperature, top_p и стоп-последовательности. Вызов функций и JSON-режим работают точно так, как описано в документации OpenAI. Это означает, что ваша существующая обработка ошибок и логика повторных попыток будут работать без изменений. Совместимость распространяется на потоковые ответы, которые передают данные в реальном времени частями.

Миф: Стриминг работает не очень хорошо

Некоторые разработчики беспокоятся, что нефильтрованные модели могут плохо передавать данные в потоковом режиме или разрывать соединения. Наш API поддерживает Server-Sent Events (SSE) для потоковой передачи ответов. Данные поступают по одному токену, обеспечивая плавный пользовательский опыт в интерфейсах чатов.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потоковая передача позволяет отображать текст по мере его генерации, снижая воспринимаемую задержку для конечного пользователя. Это критически важно для приложений, где ожидается взаимодействие в реальном времени. Поток заканчивается финальным чанком, который содержит общее использование токенов для запроса. Это гарантирует, что вы можете точно отслеживать расходы даже при потоковой передаче.

Факт: Данные об использовании токенов в реальном времени

Каждый ответ в потоке содержит информацию об использовании токенов в последнем чанке. Эти данные отражают фактическое количество входных и выходных токенов, потребленных запросом. Вы можете распарсить эти данные, чтобы обновить баланс вашего приложения или зафиксировать использование для аналитики.

Ошибки и отказы не расходуют токены, поэтому вы платите только за успешную генерацию. Эта прозрачность позволяет прогнозировать расходы на основе фактических паттернов использования. Тарифы просты: $0.15 за 1 миллион входных токенов и $0.50 за 1 миллион выходных токенов. Нет скрытых платежей за потоковую передачу или вызовы функций. Вы платите за то, что используете, а предоплаченный кредит не истекает.

Миф: Незаблокированные модели работают медленно

Незаблокированные модели часто воспринимаются как более медленные из-за большего количества параметров или меньшей оптимизации. Наша модель оптимизирована для низкой задержки на наших выделенных серверах. Мы приоритизируем скорость, чтобы обеспечить отзывчивый опыт для чат-приложений.

Модель отвечает быстро, соответствуя производительности стандартных коммерческих API. Вам не нужно ждать сложных решений о маршрутизации или переключения моделей. Архитектура прямого обслуживания обеспечивает стабильное время отклика. Эта скорость критична для поддержания вовлеченности в интерактивных приложениях. Вы получаете неограниченный вывод без типичных задержек.

Факт: Оптимизировано для низкой задержки

Наша инфраструктура настроена на минимизацию времени между вашим запросом и первым токеном. Мы используем высокопроизводительное оборудование для эффективной работы модели без цензуры. Это гарантирует, что ваши приложения ощущаются отзывчивыми даже под нагрузкой.

Copycurl https://api.geminiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list python dependencies for selenium"}]
  }'

Вы можете передавать запросы с различными параметрами, такими как seed для воспроизводимости или frequency_penalty для контроля повторов. API обрабатывает эти вычисления мгновенно. Низкая задержка стабильна для всех типов запросов, включая потоковую и непотоковую передачу. Эта надежность позволяет создавать приложения, зависящие от быстрого отклика. Разработчики могут интегрировать этот endpoint в свои рабочие процессы, не беспокоясь о медленных ответах.