แชท AI แบบไม่กรอง: ตำนาน vs ข้อเท็จจริง

ความเชื่อผิดๆ: 'Unfiltered' หมายถึงไม่มีนโยบายเนื้อหา

คำว่า unfiltered มักหมายถึงการไม่มีกฎเกณฑ์เลย แต่กรณีนี้ไม่เป็นจริงสำหรับ API แบบ production โมเดลของเราปฏิเสธคำขอที่มีเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก ซึ่งเป็นขีดจำกัดที่บังคับใช้บนเซิร์ฟเวอร์ของเรา ข้อจำกัดนี้ใช้ไม่ว่าความซับซ้อนของ prompt หรือความยาวของบริบทของคุณจะเป็นอย่างไร โมเดลส่วนใหญ่บังคับใช้นโยบายพื้นฐานนี้เพื่อปฏิบัติตามกฎระเบียบเนื้อหาดิจิทัลมาตรฐาน

Uncensored หมายถึงโมเดลจะไม่ปฏิเสธหัวข้อผู้ใหญ่ที่ถูกกฎหมาย นามธรรม หรือที่ถกเถียงได้ซึ่งโมเดลมาตรฐานอาจทำเครื่องหมาย คุณสามารถสำรวจเส้นเรื่องเชิงลึกหรือสร้างบทสนทนาที่ชัดเจนโดยไม่ถูกบล็อกด้วยข้อผิดพลาด 403 เนื่องจากคำหยาบคายเพียงเล็กน้อย เป้าหมายคือการกำจัดขอบเขตป้องกันเทียมที่ขัดขวางการแสดงออกเชิงสร้างสรรค์ ไม่ใช่การขจัดข้อจำกัดทางกฎหมายพื้นฐานทั้งหมด ความแตกต่างนี้สำคัญเมื่อคุณกำลังสร้างแอปพลิเคชันสำหรับกลุ่มเป้าหมายผู้ใหญ่ที่คาดหวังการตอบสนองที่ละเอียดอ่อน

ข้อFACT: ความจริงของข้อจำกัดคำขอ 8MB

ทุกการเรียกใช้ที่คุณส่งไปยัง API ไม่สามารถมีขนาดรวมเกิน 8 MB ขีดจำกัดนี้ใช้กับส่วนหัวของ body ทั้งหมด รวมถึงชื่อโม คำสั่งระบบ และประวัติข้อความ หากคุณกำลังผลักดันหน้าต่างบริบทที่ยาวใกล้กับขีดจำกัด 100,000 โทเค็น คุณต้องมั่นใจว่า payload JSON ของคุณมีขนาดต่ำกว่าเกณฑ์นี้

การเกินขีดจำกัดนี้ส่งผลให้เกิดข้อผิดพลาด 413 Payload Too Large ซึ่งหยุดการสร้างทันที คุณควรตรวจสอบจำนวน token ของคุณอย่างระมัดระวัง โดยเฉพาะเมื่อรวม prompt ระบบขนาดใหญ่หรือประวัติการสนทนาที่ยาวนาน ส่วนใหญ่ของอินเทอร์เฟซแชทมาตรฐานจะอยู่ในขอบเขตนี้ได้ดี แต่การประมวลผลแบบกลุ่มหรือการฉีด metadata ที่หนักอาจทำให้คุณเกินขอบเขตนี้ วางโครงสร้างข้อความของคุณเพื่อให้มีน้ำหนักรวมมีประสิทธิภาพ

ความเชื่อผิดๆ: คุณต้องใช้งาน Proxy ที่ซับซ้อน

นักพัฒนาจำนวนมากคิดว่าจำเป็นต้องสร้างเซิร์ฟเวอร์พร็อกซีแบบกำหนดเองเพื่อจัดการการสร้างข้อมูลที่ไม่มีการกรอง ซึ่งไม่จำเป็นเมื่อใช้เอนด์พอยต์ที่เข้ากันได้กับ OpenAI คุณสามารถชี้โค้ดไคลเอนต์ที่มีอยู่ของคุณไปยัง URL พื้นฐานของเราและเปลี่ยนคีย์ API ได้เลย

บริการของเราทำหน้าที่เป็นจุดปลายตรงมากกว่าชั้นจัดเส้นทางที่สลับระหว่างโมเดลหลายตัว คุณไม่จำเป็นต้องจัดการการกระจายโหลดหรือตรรกะสำรองสำหรับ API ของผู้ขายรายต่างๆ โครงสร้างพื้นฐานจัดการการให้บริการโมเดลโดยตรง ซึ่งลดเวลาแฝงและทำให้สถาปัตยกรรมการปรับใช้ของคุณง่ายขึ้นอย่างมาก คุณเพียงแค่เปลี่ยนตัวแปรการกำหนดค่าหนึ่งตัวในโค้ดของคุณ

ข้อFACT: ความเข้ากันได้กับ SDK ของ OpenAI แบบมาตรฐาน

API ของเราปฏิบัติตามโครงสร้าง OpenAI chat-completions มาตรฐานอย่างแม่นยำ คุณสามารถใช้ SDK ทางการของ OpenAI สำหรับ Python, Node.js หรือภาษาอื่นๆ ที่รองรับได้โดยไม่ต้องแก้ไข ตัวระบุโมเดลคือ 'uncensored' ซึ่งคุณส่งในบอดีคำขอ

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

คุณมีการเข้าถึงพารามิเตอร์มาตรฐานอย่างเต็มรูปแบบ เช่น temperature, top_p และลำดับ stop การเรียกใช้ฟังก์ชันและโหมด JSON ทำงานตามที่เอกสารของ OpenAI ระบุไว้ หมายความว่าการจัดการข้อผิดพลาดและตรรกะการเรียกซ้ำที่มีอยู่ของคุณจะทำงานได้โดยไม่ต้องมีการเปลี่ยนแปลง การรองรับขยายไปถึงการตอบสนองแบบสตรีมมิ่ง ซึ่งส่งข้อมูลเป็นชิ้นส่วนแบบเรียลไทม์

ความเชื่อผิดๆ: การสตรีมทำงานได้ไม่ดี

นักพัฒนาบางคนกังวลว่าโมเดลที่ไม่มีตัวกรองอาจสตรีมข้อมูลได้ไม่ดีหรือตัดการเชื่อมต่อ API ของเรารองรับ Server-Sent Events (SSE) สำหรับการตอบสนองแบบสตรีม ข้อมูลจะมาถึงทีละ token ซึ่งให้ประสบการณ์ผู้ใช้ที่ราบรื่นในอินเทอร์เฟซแชท

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การสตรีมอนุญาตให้คุณแสดงข้อความเมื่อถูกสร้างขึ้น ซึ่งลดเวลาแฝดที่รับรู้สำหรับผู้ใช้ปลายทาง สิ่งนี้สำคัญสำหรับแอปพลิเคชันที่คาดหวังการโต้ตอบแบบเรียลไทม์ สตรีมจะสิ้นสุดด้วยชิ้นสุดท้ายที่ประกอบด้วยการใช้โทเค็นรวมสำหรับคำขอนั้น ซึ่งช่วยให้คุณติดตามต้นทุนได้อย่างแม่นยำแม้เมื่อสตรีม

ข้อFACT: ข้อมูลการใช้โทเค็นแบบเรียลไทม์

การตอบสนองแบบสตรีมแต่ละครั้งจะรวมข้อมูลการใช้งานโทเค็นไว้ในส่วนสุดท้าย ข้อมูลนี้สะท้อนจำนวนโทเค็นอินพุตและเอาต์พุตจริงที่คำขอนั้นใช้ คุณสามารถแยกวิเคราะห์ข้อมูลนี้เพื่ออัปเดตยอดคงเหลือในแอปพลิเคชันของคุณหรือบันทึกการใช้งานเพื่อวัตถุประสงค์ในการวิเคราะห์

ข้อผิดพลาดและการปฏิเสธไม่ใช้โทเคน ดังนั้นคุณจะถูกเรียกเก็บเงินเฉพาะการสร้างที่สำเร็จเท่านั้น ความโปร่งใสนี้ช่วยให้คุณคาดการณ์ต้นทุนได้จากรูปแบบการใช้งานจริง ราคาชัดเจน: $0.15 ต่อ 1 ล้านโทเคนอินพุต และ $0.50 ต่อ 1 ล้านโทเคนเอาต์พุต ไม่มีค่าธรรมเนียมซ่อนสำหรับการสตรีมหรือการเรียกใช้ฟังก์ชัน คุณจ่ายในสิ่งที่ใช้ และเครดิตที่เติมล่วงหน้าไม่หมดอายุ

ความเชื่อผิดๆ: โมเดลที่ไม่ถูกเซ็นเซอร์นั้นช้า

โมเดลแบบไม่เซ็นเซอร์มักถูกมองว่าช้าเนื่องจากจำนวนพารามิเตอร์ที่ใหญ่กว่าหรือการปรับแต่งที่น้อยกว่า โมเดลของเราได้รับการปรับแต่งสำหรับเวลาแฝงต่ำบนเซิร์ฟเวอร์เฉพาะของเรา เราให้ความสำคัญกับความเร็วเพื่อให้แน่ใจว่าประสบการณ์การตอบสนองสำหรับการใช้งานแชท

โมเดลส่งคำตอบอย่างรวดเร็ว โดยเทียบเท่าประสิทธิภาพของ API เชิงพาณิชย์มาตรฐาน คุณไม่จำเป็นต้องรอการตัดสินใจเกี่ยวกับการจัดเส้นทางที่ซับซ้อนหรือการเปลี่ยนโมเดล สถาปัตยกรรมการให้บริการโดยตรงรับประกันเวลาตอบสนองที่สม่ำเสมอ ความเร็วนี้มีความสำคัญต่อการรักษาการมีส่วนร่วมในแอปพลิเคชันแบบโต้ตอบ คุณได้รับผลลัพธ์แบบไร้ข้อจำกัดโดยไม่มีค่าปรับด้านความล่าช้าโดยทั่วไป

ข้อเท็จจริง: ปรับปรุงเพื่อเวลาแฝงต่ำ

โครงสร้างพื้นฐานของเราปรับแต่งเพื่อลดเวลาระหว่างคำขอของคุณและโทเค็นแรก เราใช้ฮาร์ดแวร์ประสิทธิภาพสูงเพื่อให้บริการโมเดลแบบไม่มีข้อจำกัดอย่างมีประสิทธิภาพ นี่ทำให้แน่ใจว่าแอปพลิเคชันของคุณรู้สึกตอบสนองแม้ภายใต้ภาระ

Copycurl https://api.geminiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list python dependencies for selenium"}]
  }'

คุณสามารถส่งคำขอพร้อมพารามิเตอร์ต่างๆ เช่น seed เพื่อความสามารถในการทำซ้ำ หรือ frequency_penalty เพื่อควบคุมการทำซ้ำ API จะคำนวณค่าเหล่านี้ทันที ความหน่วงต่ำจะคงที่ในทุกประเภทคำขอ รวมถึงการสตรีมและไม่สตรีม ความน่าเชื่อถือนี้ช่วยให้คุณสร้างแอปพลิเคชันที่พึ่งพาการตอบสนองที่รวดเร็วได้ นักพัฒนาสามารถรวมเอนด์พอยต์นี้เข้ากับเวิร์กโฟลว์ที่มีอยู่โดยไม่ต้องกังวลเรื่องการตอบสนองที่ช้า