มุมมองของ Anderson
วิจัยใหม่ซึ่งประเด็นราคาตาม ‘โทเค็น’ ของ AI ชาต
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
การวิจัยใหม่แสดงให้เห็นว่าวิธีการให้บริการ AI คิดค่าบริการตามโทเค็นซึ่งซ่อนต้นทุนจริงจากผู้ใช้ ผู้ให้บริการสามารถเพิ่มค่าบริการโดยไม่บอกกล่าวโดยการเพิ่มจำนวนโทเค็นหรือการเพิ่มขั้นตอนซ่อนเร้น บางระบบมีการประมวลผลเพิ่มเติมที่ไม่มีผลต่อผลลัพธ์ แต่ก็ยังแสดงในใบเรียกเก็บเงิน อุปกรณ์ตรวจสอบถูกเสนอ แต่หากไม่มีการกำกับดูแลที่แท้จริง ผู้ใช้ก็ยังคงต้องจ่ายมากกว่าที่พวกเขารู้
เกือบทุกกรณี สิ่งที่เราจ่ายสำหรับอินเทอร์เฟซการแชทที่ใช้ AI เช่น ChatGPT-4o ปัจจุบันถูกวัดเป็น โทเค็น: หน่วยข้อความที่มองไม่เห็นระหว่างการใช้งาน แต่ถูกนับด้วยความแม่นยำสำหรับการเรียกเก็บเงิน; และแม้ว่าการแลกเปลี่ยนแต่ละครั้งจะถูกกำหนดราคาโดยจำนวนโทเค็นที่ประมวลผล ผู้ใช้ก็ไม่มีทางใดที่จะยืนยันจำนวนโทเค็นได้โดยตรง
แม้ว่าเราจะเข้าใจ (ในระดับที่ดีที่สุด) ว่าเราจะได้อะไรจากการซื้อ ‘โทเค็น’ หน่วย แต่การเรียกเก็บเงินตามโทเค็นกลายเป็นแนวทางมาตรฐานสำหรับผู้ให้บริการ โดยอาศัยความไว้วางใจที่อาจไม่แน่นอน
คำโทเค็น
โทเค็นไม่เหมือนกับคำแม้ว่ามันจะทำหน้าที่คล้ายกัน และผู้ให้บริการส่วนใหญ่ใช้คำว่า ‘โทเค็น’ เพื่ออธิบายหน่วยข้อความขนาดเล็ก เช่น คำ, เครื่องหมายวรรคตอน, หรือส่วนของคำ ‘ไม่น่าเชื่อ’ ตัวอย่างเช่น อาจถูกนับเป็นโทเค็นเดียวโดยระบบหนึ่ง ในขณะที่อีกระบบหนึ่งอาจแบ่งออกเป็น ไม่, เชื่อ และ ว โดยแต่ละส่วนจะเพิ่มค่าใช้จ่าย
ระบบนี้ใช้กับทั้งข้อความที่ผู้ใช้ป้อนและคำตอบของโมเดล โดยมีราคาตามจำนวนหน่วยทั้งหมดเหล่านี้
ความยากอยู่ที่ว่าผู้ใช้ ไม่ได้เห็นกระบวนการนี้ ส่วนต่อประสานส่วนใหญ่ไม่แสดงจำนวนโทเค็นระหว่างที่การสนทนาเกิดขึ้น และวิธีการคำนวณโทเค็นยากที่จะทำซ้ำได้ แม้ว่าจะแสดงจำนวนโทเค็น หลัง คำตอบ ก็ยังสายเกินไปที่จะบอกได้ว่ามันยุติธรรมหรือไม่ ทำให้เกิดความไม่ตรงกันระหว่างสิ่งที่ผู้ใช้เห็นและสิ่งที่พวกเขาจ่าย
การวิจัยล่าสุดชี้ให้เห็นถึงปัญหาที่ลึกซึ้งยิ่งขึ้น: หนึ่งการศึกษา แสดงให้เห็นว่าผู้ให้บริการสามารถเรียกเก็บเงินเกินโดยไม่เคยละเมิดกฎ เพียงแค่เพิ่มจำนวนโทเค็นในทางที่ผู้ใช้ไม่สามารถเห็นได้; อีกการศึกษาหนึ่ง เปิดเผยความไม่ตรงกันระหว่างสิ่งที่อินเทอร์เฟซแสดงและสิ่งที่ถูกเรียกเก็บเงินจริงๆ ทำให้ผู้ใช้ได้รับภาพลวงตาของประสิทธิภาพที่อาจไม่มีอยู่จริง; และ การศึกษาที่สาม ระบุว่าโมเดลมักจะสร้างขั้นตอนการให้เหตุผลภายในที่ไม่เคยแสดงให้ผู้ใช้เห็น แต่ก็ยังปรากฏในใบเรียกเก็บเงิน
ผลการวิจัยแสดงให้เห็นถึงระบบที่ ดูเหมือน แม่นยำ โดยมีตัวเลขที่ชัดเจนบ่งบอกถึงความชัดเจน แต่ตรรกะที่ซ่อนอยู่ยังคงไม่ปรากฏ ไม่ว่าจะโดยการออกแบบหรือความผิดพลาดทางโครงสร้าง ผลลัพธ์ก็คือผู้ใช้จ่ายมากกว่าที่พวกเขาเห็น และมักมากกว่าที่พวกเขาคาดหวัง
ถูกกว่าด้วยโหล?
ใน การศึกษาที่หนึ่ง ของการศึกษาทั้งหมดนี้ – ชื่อ LLM ของคุณกำลังเรียกเก็บเงินเกินหรือไม่? โทเคน, ความโปร่งใส, และแรงจูงใจ จากนักวิจัยสี่คนจาก Max Planck Institute for Software Systems – ผู้เขียนแย้งว่าความเสี่ยงของการเรียกเก็บเงินตามโทเค็นขยายไปไกลกว่าความไม่โปร่งใส โดยชี้ให้เห็นถึงแรงจูงใจที่มีมาแต่กำเนิดสำหรับผู้ให้บริการในการเพิ่มจำนวนโทเค็น:
‘แก่นของปัญหาอยู่ที่ความจริงที่ว่าการโทเคนของสตริงไม่ใช่สิ่งเดียว สำหรับตัวอย่าง สมมติว่าผู้ใช้ส่งคำสั่ง “สถานที่ที่ NeurIPS ถัดไปจะจัดขึ้นที่ไหน?” ให้กับผู้ให้บริการ ผู้ให้บริการป้อนเข้าไปใน LLM และโมเดลสร้างคำตอบ “|ซาน|ดิเอโก|” ซึ่งประกอบด้วยโทเค็นสองตัว
‘เนื่องจากผู้ใช้ไม่รู้ต่อกระบวนการสร้าง ผู้ให้บริการที่เห็นแก่ตัวมีความสามารถในการรายงานการโทเคนของคำตอบให้กับผู้ใช้โดยไม่ต้องเปลี่ยนสตริงที่ซ่อนอยู่ เช่น ผู้ให้บริการอาจแบ่งคำตอบออกเป็น “|S|a|n| |D|i|e|g|o|” และเรียกเก็บเงินจากผู้ใช้สำหรับเก้าทOKEN แทนที่จะเป็นสองโทเค็น!’
งานวิจัยนี้นำเสนอการคำนวณที่สามารถทำการคำนวณที่ไม่ซื่อสัตย์ได้โดยไม่เปลี่ยนผลลัพธ์ที่เห็นได้ และไม่ละเมิดความน่าเชื่อถือภายใต้การตั้งค่าการถอดรหัสทั่วไป เมื่อทดสอบบนโมเดลจาก LLaMA, Mistral และ Gemma โดยใช้คำสั่งจริง วิธีการนี้สามารถเรียกเก็บเงินเกินได้โดยไม่ดูแปลก:…
