Νέα Ερευνητικά Έργα Αμφισβητούν την «Τιμολόγηση με Μονάδες» για τις Συζητήσεις με τον AI

Νέα έρευνα δείχνει ότι η χρέωση των υπηρεσιών τεχνητής νοημοσύνης με βάση τα tokens αποκρύπτει το πραγματικό κόστος από τους χρήστες. Οι πάροχοι μπορούν να αυξήσουν σιωπηρά τις χρεώσεις, διογκώνοντας τον αριθμό των tokens ή προσθέτοντας κρυφά βήματα. Ορισμένα συστήματα εκτελούν πρόσθετες διαδικασίες που δεν επηρεάζουν το αποτέλεσμα, αλλά εμφανίζονται στον λογαριασμό. Έχουν προταθεί εργαλεία ελέγχου, όμως χωρίς πραγματική εποπτεία οι χρήστες πληρώνουν περισσότερα απ’ όσα αντιλαμβάνονται.

Σχεδόν όλες οι διεπαφές συνομιλίας με AI, όπως το ChatGPT-4o, τιμολογούνται σήμερα σε tokens: αόρατες μονάδες κειμένου που περνούν απαρατήρητες κατά τη χρήση, αλλά μετρώνται με ακρίβεια για τη χρέωση. Παρότι κάθε ανταλλαγή τιμολογείται σύμφωνα με τον αριθμό των tokens που επεξεργάστηκαν, ο χρήστης δεν έχει άμεσο τρόπο να επιβεβαιώσει αυτόν τον αριθμό.

Παρά την ατελή κατανόηση του τι ακριβώς αγοράζουμε ως «token», η τιμολόγηση ανά token έχει γίνει το πρότυπο των παρόχων και στηρίζεται σε μια εύθραυστη παραδοχή εμπιστοσύνης.

Τα tokens δεν είναι λέξεις

Ένα token δεν είναι ακριβώς λέξη, αν και συχνά παίζει παρόμοιο ρόλο. Οι περισσότεροι πάροχοι χρησιμοποιούν τον όρο για μικρές μονάδες κειμένου, όπως λέξεις, σημεία στίξης ή τμήματα λέξεων. Η αγγλική λέξη unbelievable, για παράδειγμα, μπορεί να μετρηθεί ως ένα token από ένα σύστημα, ενώ ένα άλλο μπορεί να τη χωρίσει στα un, believ και able, αυξάνοντας το κόστος για κάθε τμήμα.

Το σύστημα εφαρμόζεται τόσο στο κείμενο που εισάγει ο χρήστης όσο και στην απάντηση του μοντέλου, με την τιμή να βασίζεται στο συνολικό πλήθος αυτών των μονάδων.

Το πρόβλημα είναι ότι οι χρήστες δεν βλέπουν αυτή τη διαδικασία. Οι περισσότερες διεπαφές δεν εμφανίζουν το πλήθος των tokens κατά τη διάρκεια της συνομιλίας και ο τρόπος υπολογισμού τους είναι δύσκολο να αναπαραχθεί. Ακόμα και αν ο αριθμός εμφανιστεί μετά την απάντηση, είναι πλέον αργά για να διαπιστωθεί αν ήταν δίκαιος. Έτσι δημιουργείται χάσμα ανάμεσα σε ό,τι βλέπει ο χρήστης και σε ό,τι πληρώνει.

Πρόσφατες μελέτες αναδεικνύουν βαθύτερα προβλήματα. Η πρώτη δείχνει ότι ένας πάροχος μπορεί να υπερχρεώσει χωρίς να παραβιάσει τους κανόνες, διογκώνοντας αόρατα τον αριθμό των tokens. Η δεύτερη αποκαλύπτει αναντιστοιχία ανάμεσα σε όσα εμφανίζει η διεπαφή και σε όσα χρεώνονται, δημιουργώντας ψευδαίσθηση αποδοτικότητας. Η τρίτη διαπιστώνει ότι τα μοντέλα παράγουν εσωτερικά βήματα συλλογισμού που δεν εμφανίζονται ποτέ στον χρήστη, αλλά παρ’ όλα αυτά τιμολογούνται.

Τα ευρήματα περιγράφουν ένα σύστημα που φαίνεται ακριβές επειδή παρουσιάζει συγκεκριμένους αριθμούς, ενώ η υποκείμενη λογική παραμένει κρυφή. Είτε πρόκειται για συνειδητό σχεδιασμό είτε για δομικό ελάττωμα, το αποτέλεσμα είναι ίδιο: οι χρήστες πληρώνουν περισσότερα απ’ όσα μπορούν να δουν και συχνά περισσότερα απ’ όσα περιμένουν.

Ακριβότερα με κάθε διαίρεση;

Η πρώτη μελέτη, με τίτλο Is Your LLM Overcharging You? Tokenization, Transparency, and Incentives, προέρχεται από τέσσερις ερευνητές του Max Planck Institute for Software Systems. Οι συγγραφείς υποστηρίζουν ότι οι κίνδυνοι της τιμολόγησης ανά token υπερβαίνουν την αδιαφάνεια, επειδή υπάρχει ενσωματωμένο κίνητρο να διογκωθεί ο αριθμός τους.

Η ουσία του προβλήματος είναι ότι μια συμβολοσειρά δεν έχει μία μοναδική ανάλυση σε tokens. Αν ο χρήστης ρωτήσει «Πού θα πραγματοποιηθεί το επόμενο NeurIPS;», το μοντέλο μπορεί να δημιουργήσει την απάντηση «|San| Diego|» ως δύο tokens. Ένας πάροχος όμως θα μπορούσε να αναφέρει «|S|a|n| |D|i|e|g|o|» και να χρεώσει εννέα tokens, χωρίς να αλλάξει το ορατό κείμενο.

Η εργασία παρουσιάζει μια ευρετική μέθοδο που επιτρέπει τέτοιον παραπλανητικό υπολογισμό χωρίς μεταβολή της ορατής εξόδου και χωρίς να φαίνεται απίθανος στις συνήθεις ρυθμίσεις αποκωδικοποίησης. Σε δοκιμές με πραγματικές προτροπές και μοντέλα των οικογενειών LLaMA, Mistral και Gemma, πέτυχε μετρήσιμη υπερχρέωση χωρίς εμφανείς ανωμαλίες.

Οι ερευνητές προτείνουν χρέωση με βάση τον αριθμό χαρακτήρων αντί για tokens. Θεωρούν ότι μόνο έτσι δημιουργείται κίνητρο για ειλικρινή αναφορά της χρήσης: το κόστος θα συνδέεται με τους ορατούς χαρακτήρες και όχι με κρυφές διαδικασίες. Μια τέτοια τιμολόγηση θα αφαιρούσε το κίνητρο ψευδούς αναφοράς και θα επιβράβευε συντομότερες, αποδοτικότερες απαντήσεις.

Υπάρχουν όμως πρόσθετα ζητήματα. Πρώτον, η τιμολόγηση ανά χαρακτήρα εισάγει επιχειρηματική λογική που μπορεί να ευνοήσει τον προμηθευτή. Ένας πάροχος που αναφέρει τίμια τη χρήση έχει κίνητρο να παράγει την πιο σύντομη δυνατή ακολουθία και να βελτιώνει αλγορίθμους tokenization όπως το BPE, ώστε να συμπιέζεται περισσότερο η έξοδος.

Η αισιόδοξη ερμηνεία είναι ότι ο πάροχος θα παράγει πιο συνοπτικές και ουσιαστικές απαντήσεις. Στην πράξη υπάρχουν και λιγότερο ενάρετοι τρόποι μείωσης του κειμένου.

Δεύτερον, οι συγγραφείς θεωρούν πιθανό ότι θα απαιτηθεί νομοθεσία για τη μετάβαση από το δυσνόητο σύστημα tokens σε σαφέστερη χρέωση βάσει κειμένου. Μια νεοφυής εταιρεία μπορεί κάποτε να διαφοροποιηθεί με τέτοιο μοντέλο, αλλά όποιος διαθέτει πραγματικά ανταγωνιστικό προϊόν και λειτουργεί σε μικρότερη κλίμακα από τους τεχνολογικούς κολοσσούς έχει αντικίνητρο να το εφαρμόσει.

Τέλος, ένας αλγόριθμος υπερχρέωσης έχει δικό του υπολογιστικό κόστος. Αν ο υπολογισμός της προσαύξησης κοστίζει περισσότερο από το πιθανό κέρδος, το σχήμα δεν έχει νόημα. Οι ερευνητές υποστηρίζουν όμως ότι ο αλγόριθμός τους είναι αποτελεσματικός και οικονομικός και δημοσίευσαν τον κώδικά του στο GitHub.

Η αόρατη αντικατάσταση υπηρεσίας

Η δεύτερη εργασία, Invisible Tokens, Visible Bills: The Urgent Need to Audit Hidden Operations in Opaque LLM Services, από ερευνητές του University of Maryland και του Berkeley, υποστηρίζει ότι τα αντικρουόμενα κίνητρα στα εμπορικά API γλωσσικών μοντέλων δεν περιορίζονται στον τεμαχισμό tokens, αλλά επεκτείνονται σε ολόκληρες κατηγορίες κρυφών λειτουργιών.

Σε αυτές περιλαμβάνονται εσωτερικές κλήσεις μοντέλων, υποθετικός συλλογισμός, χρήση εργαλείων και αλληλεπιδράσεις πολλών agents. Όλες μπορεί να χρεώνονται χωρίς ο χρήστης να έχει ορατότητα ή δυνατότητα προσφυγής.

Σε αντίθεση με τη συμβατική τιμολόγηση, όπου η ποσότητα και η ποιότητα μιας υπηρεσίας μπορούν να επαληθευτούν, οι σημερινές πλατφόρμες LLM λειτουργούν με δομική αδιαφάνεια. Οι χρήστες χρεώνονται σύμφωνα με αναφερόμενη χρήση tokens και API, αλλά δεν μπορούν να επιβεβαιώσουν ότι οι μετρήσεις αντιστοιχούν σε πραγματική ή αναγκαία εργασία.

Η εργασία εντοπίζει δύο μορφές χειραγώγησης: διόγκωση ποσότητας, όταν αυξάνονται tokens ή κλήσεις χωρίς όφελος για τον χρήστη, και υποβάθμιση ποιότητας, όταν φθηνότερα και ασθενέστερα μοντέλα ή εργαλεία αντικαθιστούν σιωπηρά τα premium στοιχεία.

Οι πάροχοι μοντέλων συλλογισμού διατηρούν συχνά πολλές παραλλαγές της ίδιας οικογένειας, με διαφορετική χωρητικότητα, δεδομένα εκπαίδευσης ή βελτιστοποίηση, όπως τα ChatGPT o1 και o3. Η υποβάθμιση μοντέλου είναι η σιωπηρή αντικατάσταση με φθηνότερο μοντέλο. Μια προτροπή μπορεί να εκτελεστεί από μικρότερο μοντέλο ενώ η χρέωση μένει ίδια, και ο χρήστης δύσκολα το αντιλαμβάνεται επειδή η τελική απάντηση παραμένει εύλογη σε πολλές εργασίες.

Η μελέτη καταγράφει περιπτώσεις όπου περισσότερο από το 90% των χρεωμένων tokens δεν εμφανίστηκε ποτέ στον χρήστη και ο εσωτερικός συλλογισμός αύξησε τη χρήση πάνω από είκοσι φορές. Είτε δικαιολογούνται τα βήματα είτε όχι, η αδιαφάνεια στερεί από τον χρήστη κάθε βάση για να κρίνει τη συνάφεια ή τη νομιμότητά τους.

Στα συστήματα agents η αδιαφάνεια μεγαλώνει, επειδή κάθε εσωτερική ανταλλαγή μπορεί να χρεώνεται χωρίς ουσιαστική επίδραση στο τελικό αποτέλεσμα. Οι agents ανταλλάσσουν προτροπές, περιλήψεις και οδηγίες σχεδιασμού. Τα μηνύματα αυτά μπορεί να καταναλώνουν πολλά tokens, αλλά συνήθως δεν εμφανίζονται στον τελικό χρήστη.

Όλα τα tokens που καταναλώνονται στον συντονισμό agents, συμπεριλαμβανομένων των προτροπών, απαντήσεων και οδηγιών εργαλείων, μένουν συνήθως κρυφά. Όταν οι ίδιοι οι agents χρησιμοποιούν μοντέλα συλλογισμού, η χρέωση γίνεται ακόμα πιο αδιαφανής.

Οι συγγραφείς προτείνουν πολυεπίπεδο πλαίσιο ελέγχου με κρυπτογραφικές αποδείξεις εσωτερικής δραστηριότητας, επαληθεύσιμα αναγνωριστικά μοντέλων και εργαλείων και ανεξάρτητη εποπτεία. Η βασική ανησυχία όμως είναι δομική: τα σημερινά συστήματα χρέωσης βασίζονται σε μόνιμη ασυμμετρία πληροφόρησης και εκθέτουν τους χρήστες σε κόστη που δεν μπορούν να επαληθεύσουν ή να αναλύσουν.

Μετρώντας τον αόρατο συλλογισμό

Η τελευταία εργασία από το University of Maryland επαναδιατυπώνει το πρόβλημα όχι ως κατάχρηση ή ψευδή αναφορά, αλλά ως ζήτημα αρχιτεκτονικής. Η μελέτη CoIn: Counting the Invisible Reasoning Tokens in Commercial Opaque LLM APIs, από δέκα ερευνητές, παρατηρεί ότι οι περισσότερες εμπορικές υπηρεσίες κρύβουν τον ενδιάμεσο συλλογισμό που συμβάλλει στην τελική απάντηση, αλλά εξακολουθούν να χρεώνουν αυτά τα tokens.

Αυτό δημιουργεί μια μη παρατηρήσιμη επιφάνεια χρέωσης, όπου ολόκληρες ακολουθίες μπορούν να κατασκευαστούν, να εισαχθούν ή να διογκωθούν χωρίς ανίχνευση. Η αορατότητα επιτρέπει την ψευδή αναφορά του αριθμού ή την εισαγωγή φθηνών, κατασκευασμένων tokens συλλογισμού με σκοπό την τεχνητή αύξηση της χρέωσης, πρακτική που ονομάζεται token count inflation.

Ένα μόνο αποδοτικό πείραμα ARC-AGI με το μοντέλο o3 της OpenAI κατανάλωσε 111 εκατομμύρια tokens και κόστισε 66.772 δολάρια. Σε τέτοια κλίμακα, ακόμα και μικρές χειραγωγήσεις έχουν σημαντική οικονομική επίδραση. Η ασυμμετρία πληροφόρησης επιτρέπει στις εταιρείες AI να υπερχρεώνουν εις βάρος των χρηστών.

Για να αντιμετωπίσουν το πρόβλημα, οι ερευνητές προτείνουν το CoIn, ένα σύστημα ελέγχου τρίτου μέρους που επαληθεύει κρυφά tokens χωρίς να αποκαλύπτει το περιεχόμενό τους. Χρησιμοποιεί κατακερματισμένα αποτυπώματα και σημασιολογικούς ελέγχους για τον εντοπισμό ενδείξεων διόγκωσης.

Ένα στοιχείο επαληθεύει κρυπτογραφικά το πλήθος μέσω Merkle tree. Ένα δεύτερο αξιολογεί τη συνάφεια του κρυφού περιεχομένου συγκρίνοντάς το με το embedding της απάντησης. Έτσι οι ελεγκτές μπορούν να εντοπίσουν «γέμισμα» ή άσχετο περιεχόμενο, ενδείξεις ότι tokens εισάγονται μόνο για αύξηση του λογαριασμού.

Στις δοκιμές το CoIn εντόπισε σχεδόν το 95% ορισμένων μορφών διόγκωσης με ελάχιστη αποκάλυψη δεδομένων. Παρότι απαιτεί εθελοντική συνεργασία των παρόχων και έχει περιορισμένη ανάλυση σε ακραίες περιπτώσεις, το ευρύτερο συμπέρασμα είναι σαφές: η αρχιτεκτονική της σημερινής χρέωσης προϋποθέτει μια ειλικρίνεια που δεν μπορεί να επαληθευτεί.

Πηγές και σύνδεσμοι αναφοράς

Μελέτες, μοντέλα και τεχνικό υλικό που αναφέρονται στο άρθρο:

• ChatGPT-4o
• tokens
• one study
• another
• third
• first
• LLaMA
• Mistral
• Gemma
• EEE category
• at GitHub
• paper
• paper
• costing
• Merkle tree
• scrip
• CivitAI
• own units of measurement
• lack of clocks in Las Vegas
• cost many times more tokens
• naturally verbose languages

Συμπέρασμα

Εκτός από την είσπραξη χρημάτων εκ των προτέρων, ένα εσωτερικό νόμισμα πίστωσης, όπως το σύστημα «buzz» του CivitAI, απομακρύνει τον χρήστη από την πραγματική αξία των χρημάτων ή του προϊόντος που αγοράζει. Αντίστοιχα, όταν ο προμηθευτής ορίζει τις δικές του μονάδες μέτρησης, ο καταναλωτής δυσκολεύεται να καταλάβει πόσα πραγματικά χρήματα ξοδεύει.

Όπως η απουσία ρολογιών στα καζίνο του Λας Βέγκας, τέτοια μέτρα συχνά αποσκοπούν στο να κάνουν τον καταναλωτή απρόσεκτο ή αδιάφορο απέναντι στο κόστος.

Το ελάχιστα κατανοητό token, που μπορεί να οριστεί και να καταναλωθεί με πολλούς τρόπους, ίσως δεν είναι κατάλληλη μονάδα για χρήση LLM. Ιδίως επειδή ένα χειρότερο αποτέλεσμα σε γλώσσα διαφορετική από τα αγγλικά μπορεί να απαιτεί πολλαπλάσια tokens σε σύγκριση με μια αγγλική συνεδρία.

Η χρέωση βάσει χαρακτήρων, όπως προτείνουν οι ερευνητές του Max Planck, πιθανότατα θα ευνοούσε τις πιο συνοπτικές γλώσσες και θα τιμωρούσε όσες είναι από τη φύση τους πιο αναλυτικές. Και επειδή μια ορατή ένδειξη, όπως ένας μετρητής πίστωσης που μειώνεται, θα μας έκανε πιο προσεκτικούς στις συνεδρίες LLM, είναι απίθανο να προστεθεί σύντομα ένα τόσο χρήσιμο στοιχείο διεπαφής χωρίς νομοθετική παρέμβαση.

Οι εμφάσεις ανήκουν στους συγγραφείς των μελετών. Οι εσωτερικές παραπομπές τους μετατράπηκαν σε συνδέσμους.

Πρώτη δημοσίευση: Πέμπτη 29 Μαΐου 2025.