OpenAI เปิดเบต้า Decision API ค่ารับข้อมูลสูงกว่า Zep

OpenAI เปิดให้ทดลองใช้ Decision API ในรูปแบบเบต้าสาธารณะ โดย API จัดประเภทข้อความและภาพ แล้วส่งผลกลับเป็นตัวเลือก ความน่าจะเป็น และคะแนน ค่ารับข้อมูลอยู่ที่ 0.10 ดอลลาร์ต่อ 1 ล้านโทเคน ซึ่งสูงกว่า Zep ของ TypeSafeAI

OpenAI ประกาศเบต้าสาธารณะของ Decision API เมื่อวันที่ 6 ตุลาคม โดย API ใช้ GPT-6 Luna เอกสารสำหรับนักพัฒนาระบุว่า API รับข้อความหรือภาพและส่งกลับความน่าจะเป็นที่เงื่อนไขเป็นจริง ตัวเลือกที่กำหนดไว้ล่วงหน้า หรือคะแนน ทั้งยังระบุว่าตอบสนองได้เร็วกว่า Responses API สูงสุด 10 เท่า

Zep เป็นโมเดลจัดประเภทที่ TypeSafeAI เปิดตัวเมื่อวันที่ 15 กันยายน Diogo Almeida ผู้ก่อตั้งบริษัทอธิบายในโพสต์เปิดตัวว่า “Zep ออกแบบมาเพื่อให้ผลการตัดสินใจแบบมีโครงสร้างที่ซอฟต์แวร์นำไปใช้ได้ทันที แทนคำตอบยาว ๆ” โมเดลมุ่งรองรับงานอย่างการแยกคำถามลูกค้าเป็นปัญหาการชำระเงินหรือปัญหาทางเทคนิค และส่งกรณีที่มีความมั่นใจต่ำให้มนุษย์ตรวจสอบ

ทั้งสองบริการมีค่ารับข้อมูลต่างกัน ตามเอกสารของ OpenAI Decision API คิดค่ารับข้อมูล 0.10 ดอลลาร์ต่อ 1 ล้านโทเคน และไม่มีค่าประมวลผลผลลัพธ์ ส่วน TypeSafeAI ระบุว่า Zep คิดค่ารับข้อมูล 42 ดอลลาร์ต่อ 1 พันล้านโทเคน และประมวลผลผลลัพธ์ฟรี เมื่อเทียบปริมาณรับข้อมูลเท่ากัน Zep มีค่าใช้จ่าย 0.042 ดอลลาร์ต่อ 1 ล้านโทเคน

ค่าใช้จ่ายจริงขึ้นอยู่กับปริมาณข้อมูลและการตั้งค่างาน การดูตารางราคาเพียงอย่างเดียวจึงยังบอกไม่ได้ว่าบริการใดประหยัดกว่า เพราะต้องพิจารณาค่าใช้จ่ายในการจัดการผลการจัดประเภทที่ผิดพลาดด้วย

ความเห็นระยะแรกจากนักพัฒนายังแตกต่างกัน Fortune รายงานทั้งกรณีต้นแบบที่ใช้ตรวจคำผิดและไวยากรณ์แบบเรียลไทม์ ซึ่งผู้ทดลองมองว่าความเร็วตอบสนองของ Zep เป็นจุดเด่น และกรณีทดลองจัดประเภทอีเมลที่พลาดข้อความสำคัญ นักพัฒนาระบบจัดประเภทอีเมลกล่าวว่าจำนวนข้อความที่ตกหล่นลดลงหลังระบุเกณฑ์ให้ชัดเจนขึ้น

กรณีเหล่านี้ชี้ว่าความเร็วในการตอบสนองเพียงอย่างเดียวไม่เพียงพอสำหรับประเมินผลการทำงานจริง การกำหนดหมวดหมู่และเกณฑ์ รวมถึงการออกแบบให้มนุษย์ตรวจผลที่มีความมั่นใจต่ำ อาจส่งผลต่อผลลัพธ์

Vercel ระบุว่า หลังเพิ่ม Zep เข้า AI Gateway ของบริษัทเมื่อวันที่ 18 กันยายน มีทีมแบบชำระเงินราว 13% ใช้งานภายใน 24 ชั่วโมง บริษัทยังกล่าวว่ามีทีมแบบชำระเงินเข้าถึงมากกว่าช่วงเปิดตัวโมเดลก่อนหน้ากว่าสองเท่า ตัวเลขนี้เป็นข้อมูลการใช้งานระยะแรกภายในแพลตฟอร์มของ Vercel

การพัฒนา Zep ใช้เวลาสองปี Almeida เคยร่วมพัฒนา ChatGPT ที่ OpenAI ก่อนร่วมก่อตั้ง TypeSafeAI Fortune รายงานว่า TypeSafeAI ระดมทุนรอบ Seed ได้ 40 ล้านดอลลาร์ โดยมี DCVC เป็นผู้นำการลงทุน

การเปิดเบต้าของ Decision API เป็นข้อมูลต่อเนื่องจากรายงานก่อนหน้าของ TokenPost ที่แนะนำ API สำหรับเลือกคำตอบจากตัวเลือกที่กำหนดไว้ล่วงหน้า รายงานครั้งนี้เพิ่มข้อมูลเปรียบเทียบราคา สถิติการใช้งานระยะแรกบนแพลตฟอร์ม Vercel และผลของเกณฑ์การจัดประเภทจากการทดลองของนักพัฒนา

Zep และ Decision API ต่างส่งผลการตัดสินใจที่ซอฟต์แวร์นำไปประมวลผลได้ แทนการสร้างคำตอบยาว ๆ การเปรียบเทียบว่าบริการใดแม่นยำหรือประหยัดกว่าสำหรับงานหนึ่ง ๆ ต้องอาศัยข้อมูลการใช้งานจริงและต้นทุนจากข้อผิดพลาด