Trò chuyện AI không kiểm duyệt: Những điều sai lầm và sự thật

Quan niệm sai lầm: 'Không lọc' có nghĩa là không có chính sách nội dung

Thuật ngữ "unfiltered" (không lọc) thường ngụ ý sự thiếu vắng hoàn toàn các quy tắc, nhưng đó không phải là trường hợp đối với các API sản xuất. Mô hình của chúng tôi từ chối các yêu cầu chứa nội dung tình dục liên quan đến trẻ em, đây là giới hạn cứng được thực thi trên máy chủ của chúng tôi. Hạn chế này áp dụng bất kể độ phức tạp của prompt hoặc độ dài ngữ cảnh của bạn. Hầu hết các mô hình khác cũng thực thi chính sách cơ sở này để tuân thủ các quy định nội dung kỹ thuật số tiêu chuẩn.

Uncensored có nghĩa là mô hình sẽ không từ chối các chủ đề người lớn hợp pháp, hư cấu hoặc gây tranh cãi mà các mô hình tiêu chuẩn có thể đánh dấu. Bạn có thể khám phá các cốt truyện sâu sắc hoặc tạo hội thoại rõ ràng mà không bị lỗi 403 vì từ ngữ thô tục nhẹ. Mục tiêu là loại bỏ các hàng rào nhân tạo chặn biểu đạt sáng tạo, không phải loại bỏ tất cả các ràng buộc pháp lý cơ bản. Sự phân biệt này rất quan trọng khi bạn xây dựng các ứng dụng cho khán giả người lớn, những người mong đợi các phản ứng tinh tế.

Thực tế: Giới hạn yêu cầu 8MB

Mỗi yêu cầu bạn gửi đến API không được vượt quá 8 MB về tổng kích thước. Giới hạn này áp dụng cho toàn bộ thân yêu cầu, bao gồm tên mô hình, hướng dẫn hệ thống và lịch sử tin nhắn. Nếu bạn đang đẩy cửa sổ ngữ cảnh dài gần giới hạn 100,000 token, bạn phải đảm bảo tải trọng JSON của mình nằm dưới ngưỡng này.

Vượt quá giới hạn này sẽ dẫn đến lỗi 413 Payload Too Large, điều này dừng quá trình tạo ngay lập tức. Bạn nên theo dõi số lượng token của mình cẩn thận, đặc biệt là khi bao gồm các lời nhắc hệ thống lớn hoặc lịch sử hội thoại rộng rãi. Hầu hết các giao diện trò chuyện tiêu chuẩn đều nằm trong phạm vi này, nhưng xử lý hàng loạt hoặc tiêm siêu dữ liệu nặng có thể đẩy bạn vượt quá. Hãy lập kế hoạch cấu trúc tin nhắn của bạn để giữ tổng trọng lượng hiệu quả.

Quan niệm sai lầm: Bạn cần proxy phức tạp

Nhiều nhà phát triển cho rằng họ cần xây dựng máy chủ proxy tùy chỉnh để xử lý việc tạo nội dung không được lọc. Điều này không cần thiết khi sử dụng điểm cuối tương thích với OpenAI. Bạn có thể trỏ mã máy khách hiện có của mình trực tiếp vào URL cơ sở của chúng tôi và thay đổi khóa API.

Dịch vụ của chúng tôi hoạt động như một điểm cuối trực tiếp thay vì một lớp định tuyến chuyển đổi giữa nhiều mô hình. Bạn không cần quản lý cân bằng tải hoặc logic dự phòng cho các API của nhà cung cấp khác. Cơ sở hạ tầng xử lý việc cung cấp mô hình trực tiếp. Điều này giảm độ trễ và đơn giản hóa đáng kể kiến trúc triển khai của bạn. Bạn chỉ cần thay đổi một biến cấu hình trong mã của mình.

Thực tế: Khả năng tương thích SDK OpenAI tiêu chuẩn

API của chúng tôi tuân thủ chính xác cấu trúc chat-completions tiêu chuẩn của OpenAI. Bạn có thể sử dụng các SDK chính thức của OpenAI cho Python, Node.js hoặc bất kỳ ngôn ngữ được hỗ trợ nào khác mà không cần sửa đổi. Định danh mô hình đơn giản là 'uncensored', mà bạn truyền trong thân yêu cầu của mình.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Bạn nhận được quyền truy cập đầy đủ vào các tham số tiêu chuẩn như nhiệt độ, top_p và các chuỗi dừng. Gọi hàm và chế độ JSON hoạt động chính xác như tài liệu của OpenAI ghi nhận. Điều này có nghĩa là logic xử lý lỗi và thử lại hiện có của bạn sẽ hoạt động mà không cần thay đổi. Khả năng tương thích mở rộng sang các phản hồi phát trực tiếp, cung cấp dữ liệu theo các khối thời gian thực.

Quan niệm sai: Streaming không hoạt động tốt

Một số nhà phát triển lo ngại rằng các mô hình không lọc có thể phát trực tuyến dữ liệu kém hoặc mất kết nối. API của chúng tôi hỗ trợ Sự kiện được Gửi bởi Máy chủ (SSE) cho các phản hồi phát trực tuyến. Dữ liệu đến từng token, mang lại trải nghiệm người dùng mượt mà trong các giao diện trò chuyện.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Phát trực tiếp cho phép bạn hiển thị văn bản khi nó được tạo, giảm độ trễ cảm nhận cho người dùng cuối. Điều này rất quan trọng đối với các ứng dụng nơi tương tác thời gian thực được mong đợi. Luồng kết thúc với một chunk cuối cùng chứa tổng số token sử dụng cho yêu cầu. Điều này đảm bảo bạn có thể theo dõi chi phí chính xác ngay cả khi phát trực tiếp.

Thực tế: Dữ liệu sử dụng token theo thời gian thực

Mỗi phản hồi theo luồng đều bao gồm thông tin về việc sử dụng token trong chunk cuối cùng. Dữ liệu này phản ánh số token đầu vào và đầu ra thực tế mà yêu cầu đã tiêu thụ. Bạn có thể phân tích dữ liệu này để cập nhật số dư ứng dụng hoặc ghi lại mức sử dụng cho mục đích phân tích.

Lỗi và từ chối không tiêu thụ token, vì vậy bạn chỉ bị tính phí cho quá trình tạo thành công. Sự minh bạch này cho phép bạn dự đoán chi phí dựa trên các mẫu sử dụng thực tế. Giá cả rất đơn giản: $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra. Không có phí ẩn cho việc phát trực tiếp hoặc gọi hàm. Bạn trả tiền cho những gì mình sử dụng, và tín dụng trả trước không bao giờ hết hạn.

Quan niệm sai lầm: Các mô hình không kiểm duyệt chạy chậm

Các mô hình không kiểm duyệt thường được cho là chậm hơn do số lượng tham số lớn hơn hoặc ít được tối ưu hóa hơn. Mô hình của chúng tôi được tối ưu hóa cho độ trễ thấp trên các máy chủ chuyên dụng của chúng tôi. Chúng tôi ưu tiên tốc độ để đảm bảo trải nghiệm phản hồi cho các ứng dụng trò chuyện.

Mô hình cung cấp phản hồi nhanh, phù hợp với hiệu suất của các API thương mại tiêu chuẩn. Bạn không cần chờ đợi các quyết định định tuyến phức tạp hoặc chuyển đổi mô hình. Kiến trúc phục vụ trực tiếp đảm bảo thời gian phản hồi ổn định. Tốc độ này rất quan trọng để duy trì sự tương tác trong các ứng dụng tương tác. Bạn nhận được đầu ra không giới hạn mà không có các hình phạt về độ trễ điển hình.

Thực tế: Được tối ưu hóa cho độ trễ thấp

Cơ sở hạ tầng của chúng tôi được tinh chỉnh để giảm thiểu thời gian giữa yêu cầu của bạn và token đầu tiên. Chúng tôi sử dụng phần cứng hiệu suất cao để phục vụ mô hình không giới hạn một cách hiệu quả. Điều này đảm bảo các ứng dụng của bạn cảm thấy phản hồi ngay cả khi tải cao.

Copycurl https://api.geminiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list python dependencies for selenium"}]
  }'

Bạn có thể gửi các yêu cầu với nhiều tham số khác nhau như seed để tái lập kết quả hoặc frequency_penalty để kiểm soát sự lặp lại. API xử lý các phép tính này ngay lập tức. Độ trễ thấp được duy trì nhất quán trên các loại yêu cầu khác nhau, bao gồm cả streaming và không streaming. Độ tin cậy này cho phép bạn xây dựng các ứng dụng phụ thuộc vào thời gian phản hồi nhanh. Các nhà phát triển có thể tích hợp endpoint này vào các quy trình làm việc hiện có mà không lo lắng về phản hồi chậm.