Νέα Ερευνητικά Έργα Αμφισβητούν την «Τιμολόγηση με Μονάδες» για τις Συζητήσεις με τον AI

Νέα έρευνα δείχνει ότι ο τρόπος με τον οποίο οι υπηρεσίες AI χρεώνουν με μονάδες κρύβει το πραγματικό κόστος από τους χρήστες. Οι παρόχοι μπορούν να αυξάνουν σιωπηλά τους χρεώσεις με την αύξηση των μονάδων ή την εισαγωγή κρυφών βημάτων. Ορισμένα συστήματα εκτελούν πρόσθετες διεργασίες που δεν επηρεάζουν την έξοδο, αλλά εμφανίζονται ακόμα στο τιμολόγιο. Έχουν προταθεί εργαλεία ελέγχου, αλλά χωρίς πραγματική επιτήρηση, οι χρήστες μένουν να πληρώνουν περισσότερα από ό,τι συνειδητοποιούν.

Σχεδόν σε όλες τις περιπτώσεις, αυτό που πληρώνουμε ως καταναλωτές για τις διεπαφές συνομιλίας που βασίζονται σε AI, όπως το ChatGPT-4o, μετριέται σε μονάδες: αόρατες μονάδες κειμένου που δεν αντιλαμβανόμαστε κατά τη χρήση, αλλά μετριούνται με ακριβή ακρίβεια για σκοπούς χρέωσης. Και αν και κάθε ανταλλαγή τιμολόγησης βασίζεται στον αριθμό των μονάδων που επεξεργάζονται, ο χρήστης δεν έχει直接 τρόπο να επιβεβαιώσει τον αριθμό.

Παρά την ατελή (σε καλύτερη περίπτωση) κατανόηση μας για αυτό που λαμβάνουμε για την αγορασμένη μας ‘μονάδα’, η τιμολόγηση με βάση τις μονάδες έχει γίνει ο τυπικός τρόπος μεταξύ των παρόχων, βασισμένος σε αυτό που μπορεί να αποδειχθεί ότι είναι μια precarία υπόθεση εμπιστοσύνης.

Λέξεις Μονάδων

Μια μονάδα δεν είναι ακριβώς το ίδιο με μια λέξη, αν και συχνά παίζει παρόμοιο ρόλο, και οι περισσότεροι παρόχοι χρησιμοποιούν τον όρο ‘μονάδα’ για να περιγράψουν μικρές μονάδες κειμένου, όπως λέξεις, σημεία στίξης ή θραύσματα λέξεων. Η λέξη ‘απίστευτο’, για παράδειγμα, μπορεί να μετρηθεί ως μια μονάδα από ένα σύστημα, ενώ ένα άλλο μπορεί να τη χωρίσει σε α-, π- και ίσως, με κάθε κομμάτι να αυξάνει το κόστος.

Αυτό το σύστημα ισχύει και για το κείμενο που εισάγει ο χρήστης και για την απάντηση του μοντέλου, με την τιμή να βασίζεται στον συνολικό αριθμό αυτών των μονάδων.

Η δυσκολία έγκειται στο γεγονός ότι οι χρήστες δεν βλέπουν αυτή τη διαδικασία. Οι περισσότερες διεπαφές δεν δείχνουν τον αριθμό των μονάδων κατά τη διάρκεια μιας συνομιλίας, και ο τρόπος με τον οποίο οι μονάδες υπολογίζονται είναι δύσκολο να αναπαραχθεί. Ακόμη και αν ο αριθμός εμφανίζεται μετά από μια απάντηση, είναι слишком αργά για να πει κανείς αν ήταν δίκαιο, δημιουργώντας μια ανισότητα μεταξύ того που βλέπει ο χρήστης και того που πληρώνει.

Πρόσφατη έρευνα δείχνει ότι υπάρχουν πιο sâuστόχαστα προβλήματα: μία μελέτη δείχνει πώς οι παρόχοι μπορούν να χρεώνουν περισσότερα χωρίς να παραβιάζουν κανόνες, απλώς αυξάνοντας τον αριθμό των μονάδων με τρόπους που ο χρήστης δεν μπορεί να δει. Μια άλλη αποκαλύπτει την ανισότητα μεταξύ того που εμφανίζεται στις διεπαφές και το τι χρεώνεται πραγματικά, αφήνοντας τους χρήστες με την ψευδαίσθηση της αποτελεσματικότητας όπου δεν υπάρχει. Και ένα τρίτο αποκαλύπτει πώς τα μοντέλα δημιουργούν εσωτερικές βήματα συλλογισμού που δεν εμφανίζονται ποτέ στον χρήστη, αλλά ακόμα εμφανίζονται στο τιμολόγιο.

Τα ευρήματα περιγράφουν ένα σύστημα που φαίνεται ακριβές, με ακριβείς αριθμούς που υποδηλώνουν σαφήνεια, αλλά η υποκείμενη λογική παραμένει κρυφή. Αν αυτό είναι από σχεδιασμό ή δομικό έλλειμμα, το αποτέλεσμα είναι το ίδιο: οι χρήστες πληρώνουν περισσότερα από ό,τι μπορούν να δουν, και συχνά περισσότερα από ό,τι περιμένουν.

Φθηνότερο το Δωδεκάδα;

Στην πρώτη από αυτές τις μελέτες – με τίτλο Το LLM σας σας χρεώνει περισσότερο;, από τέσσερις ερευνητές στο Ινστιτούτο Λογισμικού του Μαξ Πλανκ – οι συγγραφείς lập luận ότι οι κίνδυνοι της τιμολόγησης με βάση τις μονάδες δεν περιορίζονται μόνο στην αδιαφάνεια, αλλά και σε μια ενσωματωμένη έμφαση για τους παρόχους να αυξάνουν τον αριθμό των μονάδων:

‘Το κεντρικό πρόβλημα έγκειται στο γεγονός ότι η μονάδα ενός συμβολοσειράς δεν είναι μοναδική. Για παράδειγμα, θεωρήστε ότι ο χρήστης υποβάλλει την πρόταση “Πού θα γίνει η επόμενη NeurIPS;” στον παρόχο, ο παρόχοι την εισάγει σε ένα LLM και το μοντέλο παράγει την έξοδο “|Σαν| Ντιέγκο|” αποτελούμενη από δύο μονάδες.

‘Καθώς ο χρήστης είναι αόρατος στη διαδικασία, ένας αυτοεξυπηρετικός παρόχοι έχει τη δυνατότητα να αναφέρει ψευδώς τον αριθμό των μονάδων στον χρήστη χωρίς να αλλάξει την υποκείμενη συμβολοσειρά. Για παράδειγμα, ο παρόχοι θα μπορούσε να μοιράσει τον αριθμό των μονάδων “|Σ|α|ν| |Ν|τι|έ|γκο|” και να χρεώσει τον χρήστη για εννέα μονάδες αντί για δύο!’

Η μελέτη παρουσιάζει ένα εύρημα που μπορεί να κάνει αυτό το είδος της αισχροκέρδειας υπολογισμού χωρίς να αλλάξει την ορατή έξοδο, και χωρίς να παραβιάζει την πιθανότητα υπό τυπικές ρυθμίσεις αποκωδικοποίησης. Ελέγχθηκε σε μοντέλα από την LLaMA, Mistral και Gemma σειρά, χρησιμοποιώντας πραγματικές προτροπές, η μέθοδος επιτυγχάνει μετρήσιμες υπερχρεώσεις χωρίς να φαίνεται ανώμαλη:…