Η ικανότητα και η απόδοση των μικρότερων, ανοιχτών μεγάλων γλωσσικών μοντέλων έχουν προοδεύσει σημαντικά τα τελευταία χρόνια, και έχουμε παρακολουθήσει την πρόοδο από τα πρώτα μοντέλα GPT-2 σε πιο συμπαγή, ακριβή και αποτελεσματικά πλαίσια LLM που χρησιμοποιούν σημαντικά μεγαλύτερο αριθμό token από τον “υπολογιστικά βέλτιστο” αριθμό token που συνιστάται από τους νόμους κλιμάκωσης Chinchilla. Επιπλέον, οι προγραμματιστές έχουν αποδείξει ότι αυτά τα μικρότερα πλαίσια LLM μπορούν να εκπαιδευτούν περαιτέρω χρησιμοποιώντας μια βασισμένη σε ιδιόκτητα μοντέλα dSFT ή Distilled Supervised Fine-Tuning προσέγγιση, που χρησιμοποιεί την έξοδο από ένα αποτελεσματικό μοντέλο-δάσκαλο ως δεδομένα εποπτευόμενης μάθησης για το μοντέλο-μαθητή σε μια προσπάθεια να αυξήσει την ακρίβεια.

Σε αυτό το άρθρο, θα μιλήσουμε για το πλαίσιο Zephyr-7B, ένα state of the art chat benchmark για μοντέλα 7B παραμέτρων που δεν απαιτεί ανθρώπινες επισημάνσεις. Ο πρωταρχικός στόχος του πλαισίου είναι να επιτρέψει στους προγραμματιστές να παράγουν μικρότερα μεγάλα γλωσσικά μοντέλα που ευθυγραμμίζονται με την πρόθεση του χρήστη πιο κοντά παρά ποτέ. Το πλαίσιο Zephyr-7B δεν εξετάζει μόνο την εφαρμογή των τρεχόντων προσεγγίσεων για μεγαλύτερα πλαίσια LLM όπως dSFT, αλλά επίσης εξετάζει τη δυνατότητα χρήσης άλλων προσεγγίσεων για να μάθει ένα chat μοντέλο με καλύτερη ευθυγράμμιση με την πρόθεση του χρήστη. Θα εξετάσουμε πιο προσεκτικά στο πλαίσιο Zephyr, και θα εξετάσουμε την αρχιτεκτονική, τη λειτουργία και τα αποτελέσματα. Έτσι, ας ξεκινήσουμε.

Ζέφυρ-7B: Μια Εισαγωγή στη Άμεση Απόσταξη της Ευθυγράμμισης στα Γλωσσικά Μοντέλα

Όπως αναφέρθηκε νωρίτερα, τα γλωσσικά μοντέλα έχουν προοδεύσει ταχύτατα τα τελευταία χρόνια, από τα πρώτα μοντέλα GPT-2 στα τρέχοντα μοντέλα GPT-4 και MiniGPT-5 LLM που αν και είναι ιδιαίτερα απαιτητικά σε token, είναι τώρα πιο ακριβή και αποτελεσματικά. Ένα σημαντικό χαρακτηριστικό αυτών των προηγμένων μοντέλων LLM είναι ότι ενσωματώνουν σημαντικά περισσότερους token από τον αριθμό token που θεωρείται υπολογιστικά βέλτιστος υπό τους νόμους κλιμάκωσης Chinchilla. Επιπλέον, οι προγραμματιστές και ερευνητές που εργάζονται στα πλαίσια LLM έχουν μάθει ότι αυτά τα μικρότερα πλαίσια LLM μπορούν να εκπαιδευτούν περαιτέρω χρησιμοποιώντας μια βασισμένη σε ιδιόκτητα μοντέλα dSFT ή Distilled Supervised Fine-Tuning προσέγγιση, που χρησιμοποιεί την έξοδο από ένα αποτελεσματικό μοντέλο-δάσκαλο ως δεδομένα εποπτευόμενης μάθησης για το μοντέλο-μαθητή σε μια προσπάθεια να αυξήσει την ακρίβεια. Η στρατηγική της απόσταξης έχει αποδειχθεί ως ένα πολύ αποτελεσματικό και χρήσιμο εργαλείο για να μεγιστοποιήσει τις δυνατότητες των ανοιχτών μοντέλων σε μια ευρεία γκάμα εργασιών, αν και δεν μπορεί ακόμη να αναπαράγει την απόδοση που επιτυγχάνεται από το δασκάλο μοντέλο. Επιπλέον, οι χρήστες έχουν συχνά αναφέρει ότι αυτά τα μοντέλα συχνά εμφανίζουν “ασυμφωνία με την πρόθεση“, που σημαίνει ότι τα μοντέλα δεν συμπεριφέρονται με τρόπο που ευθυγραμμίζεται με τις απαιτήσεις των τελικών χρηστών, οδηγώντας σε λανθασμένα αποτελέσματα που δεν παρέχουν το σωστό αποτέλεσμα ή απαντήσεις στις εισόδους ή ερωτήσεις του χρήστη.

Η ευθυγράμμιση ήταν πάντα ένα σημαντικό πρόβλημα για τους προγραμματιστές με πρόσφατες εργασίες που επικεντρώνονται στην ανάπτυξη δεικτών αξιολόγησης όπως AlpacaEval και MT-Bench που έχουν αναπτυχθεί για να στοχεύσουν την αποσύνδεση. Το κίνητρο για την ανάπτυξη του πλαισίου Zephyr μπορεί να αποδοθεί στο πρόβλημα της χρήσης απόσταξης για να ευθυγραμμίσει ένα μικρό ανοιχτό πλαίσιο LLM εντελώς, όπου το κύριο βήμα είναι να χρησιμοποιήσει μια AIF ή Artificial Intelligence Feedback για να λάβει δεδομένα προτίμησης από ένα σύνολο μοντέλων-δασκάλων, και στη συνέχεια να εφαρμόσει την απόσταξη προτίμησης άμεσα ως το πρωταρχικό στόχο μάθησης, μια προσέγγιση που αναφέρεται ως dDPO ή Denoising Diffusion Policy Optimization. Το κύριο χαρακτηριστικό της προσέγγισης dDPO είναι ότι αντίθετα με τους προκατόχους του όπως PPO ή Proximal Preference Optimization, δεν απαιτεί ανθρώπινη δειγματοληψία ή αναφορές, και επίσης μειώνει τον χρόνο που απαιτείται για την εκπαίδευση ενός γλωσσικού μοντέλου. Επιπλέον, επίσης επιτρέπει στους προγραμματιστές να μεγιστοποιήσουν τις ανταμοιβές του τελικού δείγματος με την προσοχή στη σειρά των βημάτων απόσταξης από την αρχή μέχρι το τέλος, σε άλλες λέξεις, καθ’ όλη τη διάρκεια.

Οι προγραμματιστές έχουν αναπτύξει το πλαίσιο Zephyr-7B για να επικυρώσουν αυτήν την προσέγγιση, και σε κάποιους τρόπους, είναι μια ευθυγραμμισμένη έκδοση του state of the art πλαισίου Mistral-7B. Το πλαίσιο πρώτα χρησιμοποιεί dSFT ή Distilled Supervised Fine-Tuning με βάση το σύνολο δεδομένων UltraChat, και εφαρμόζει την προσέγγιση dDPO ή Denoising Diffusion Policy Optimization στα δεδομένα ανατροφοδότησης. Πειράματα δείχνουν ότι το πλαίσιο Zephyr-7B με 7 δισεκατομμύρια παραμέτρους παρέχει αποτελέσματα συγκρίσιμα με αυτά που παρέχονται από μοντέλα chat που ευθυγραμμίζονται με ανθρώπινη ανατροφοδότηση με πάνω από 70 δισεκατομμύρια παραμέτρους. Επιπλέον, πειράματα δείχνουν επίσης ότι τα αποτελέσματα μπορούν να βελτιωθούν και σε σχέση με τα κριτήρια αξιολόγησης που λαμβάνουν υπόψη τις ικανότητες συνομιλίας, καθώς και τα τυπικά ακαδημαϊκά κριτήρια αξιολόγησης, και η χρήση της μάθησης προτίμησης είναι κρίσιμη για την επίτευξη των επιθυμητών αποτελεσμάτων.

Η παραπάνω εικόνα δείχνει την απόδοση των διαφορετικών γλωσσικών μοντέλων στο κριτήριο αξιολόγησης MT-bench. Το πλαίσιο Zephyr-7B που εκπαιδεύτηκε με την προσέγγιση dDPO αντιμετωπίζεται με ιδιωτικά και ανοιχτά, μεγαλύτερα γλωσσικά μοντέλα όπως GPT-3.5 turbo, Llama-2-70B, και άλλα που εκπαιδεύτηκαν με πρόσθετη ενισχυτική μάθηση και επίσης περιελάμβαναν έναν μεγάλο όγκο ανθρώπινης ανατροφοδότησης. Όπως είναι σαφές, παρά την τεράστια διαφορά στον αριθμό παραμέτρων που αυτά τα πλαίσια χρησιμοποιούν, το πλαίσιο Zephyr-7B παρέχει συγκρίσιμα αποτελέσματα με τα περισσότερα από αυτά, και υπερτερεί αρκετών πλαισίων σε διαφορετικά πεδία.

Ζέφυρ-7B: Μέθοδος, Λειτουργία και Αρχιτεκτονική

Ο πρωταρχικός στόχος του πλαισίου Zephyr-7B είναι να βοηθήσει ένα ανοιχτό μεγάλο γλωσσικό μοντέλο να ευθυγραμμίσει όσο το δυνατόν πιο κοντά στην πρόθεση του χρήστη, και καθ’ όλη τη διάρκεια, το πλαίσιο Zephyr-7B υποθέτει πρόσβαση σε ένα μεγάλο μοντέλο-δάσκαλο στο οποίο υποβάλλονται ερωτήματα μέσω παραγόμενων προτροπών. Το Zephyr-7B ακολουθεί μια προσέγγιση παρόμοια με αυτήν που χρησιμοποιείται στο πλαίσιο InstructGPT, και στοχεύει να γεννήσει ένα αποτελεσματικό και ακριβές μοντέλο-μαθητή.

Η ακόλουθη εικόνα δείχνει συνοπτικά τα τρία πρωταρχικά βήματα που εμπλέκονται στη λειτουργία του πλαισίου Zephyr-7B.

1. dSFT για μεγάλη κλίμακα κατασκευή συνόλου δεδομένων με στυλ αυτο-διδασκαλίας.
2. Συλλογή AIF χρησιμοποιώντας ένα σύνολο ολοκληρωμένων μοντέλων συνομιλίας και στη συνέχεια μετατροπή των προτιμήσεων σε δυαδικά ζεύγη και βαθμολόγηση από το GPT-4.
3. dPO του μοντέλου dSFT χρησιμοποιώντας τα δεδομένα ανατροφοδότησης.

dSFT ή Distilled Supervised Fine-Tuning

Το πλαίσιο αρχίζει με ένα ακατέργαστο Μεγάλο Γλωσσικό Μοντέλο που πρώτα πρέπει να εκπαιδευτεί για να ανταποκριθεί σε προτροπές χρήστη. Παραδοσιακά, η εκπαίδευση αυτών των μοντέλων LLM για να ανταποκριθούν σε προτροπές χρήστη γίνεται χρησιμοποιώντας SFT ή Supervised Fine Tuning σε ένα σύνολο δεδομένων που αποτελείται από υψηλής ποιότητας οδηγίες και τις αντίστοιχες απαντήσεις. Καθώς το πλαίσιο Zephyr-7B έχει πρόσβαση σε ένα δασκάλο γλωσσικό μοντέλο, το πλαίσιο μπορεί να γεννήσει οδηγίες και απαντήσεις, και να εκπαιδεύσει το μοντέλο απευθείας σε αυτές τις οδηγίες και απαντήσεις, και αυτή η προσέγγιση ονομάζεται dSFT ή distilled SFT. Η ακόλουθη εικόνα δείχνει την απόσταξη που πραγματοποιείται από SFT όπου x αντιπροσωπεύει ένα σύνολο αρχικών προτροπών που κατασκευάζονται με τον πρωταρχικό σκοπό της αναπαράστασης ενός διαφορετικού συνόλου θεματικών τομέων, y αντιπροσωπεύει την απάντηση δείγματος, που βελτιώνεται χρησιμοποιώντας μια νέα οδηγία-δείγμα που αντιπροσωπεύεται από x1 και C αντιπροσωπεύει το τελικό σημείο στο τελικό σύνολο δεδομένων.

AI Feedback μέσα από Προτιμήσεις

Η ανθρώπινη ανατροφοδότηση χρησιμοποιείται για να ευθυγραμμιστούν μεγάλα γλωσσικά μοντέλα καθώς μπορούν να παρέχουν τα απαραίτητα πρόσθετα σήματα, και αυτές οι ανθρώπινες αξιολογήσεις παραδοσιακά παρέχονται μέσω προτιμήσεων στην ποιότητα των απαντήσεων που γεννήθηκαν από τα μοντέλα LLM. Ωστόσο, το πλαίσιο Zephyr χρησιμοποιεί AI Feedback από το δασκάλο μοντέλο στα αποτελέσματα άλλων μοντέλων αντί για ανθρώπινη ανατροφοδότηση για σκοπούς απόσταξης. Η προσέγγιση που ακολουθεί το πλαίσιο Zephyr επηρεάζεται από αυτήν που χρησιμοποιείται από το πλαίσιο UltraFeedback που χρησιμοποιεί το δασκάλο μοντέλο για να παρέχει προτιμήσεις στα αποτελέσματα του μοντέλου.

Παρόμοια με την προσέγγιση SFT ή Supervised Fine Tuning, αρχίζει με ένα σύνολο προτροπών, όπου x αντιπροσωπεύει κάθε μεμονωμένη προτροπή που στη συνέχεια τροφοδοτείται σε ένα σύνολο τεσσάρων μοντέλων όπως Llama, Falcon, Claude, και άλλα, καθένα από τα οποία παράγει τη δική του απάντηση. Αυτές οι απαντήσεις στη συνέχεια τροφοδοτούνται ως είσοδος στο δασκάλο μοντέλο όπως GPT-3 ή GPT-4, και το μοντέλο δίνει μια βαθμολογία για την απάντηση εισόδου. Μετά τη συλλογή των σκορ εξόδου, το μοντέλο αποθηκεύει την απάντηση με το υψηλότερο σκορ.

dDPO ή Distilled Direct Preference Optimization

dDPO είναι το τελικό βήμα του πλαισίου Zephyr, και ο πρωταρχικός στόχος του είναι να βελτιώσει το μοντέλο dSFT δασκάλου με τη μεγιστοποίηση της πιθανότητας της προτίμησης απάντησης σε ένα μοντέλο προτίμησης που καθορίζεται από μια συνάρτηση ανταμοιβής χρησιμοποιώντας το μαθητή γλωσσικό μοντέλο. Το προηγούμενο βήμα που αφορούσε τη χρήση AI Feedback εστίασε κυρίως στη χρήση μεθόδων Ενίσχυσης Μάθησης όπως PPO ή Proximal Policy Optimization για μέγιστη βελτίωση σχετικά με την ανταμοιβή που παράγεται. Σε αυτό το βήμα, η ανταμοιβή πρώτα εκπαιδεύεται, και στη συνέχεια γίνεται δειγματοληψία από την τρέχουσα πολιτική για να υπολογίσει τις ενημερώσεις, και έτσι μεγιστοποιώντας την βελτίωση. DPO ή Direct Preference Optimization ακολουθεί μια παρόμοια προσέγγιση για να βελτιώσει το μοντέλο προτίμησης άμεσα χρησιμοποιώντας τα στατικά δεδομένα. Ο στόχος μετά τη σύνδεση της συνάρτησης ανταμοιβής στο μοντέλο προτίμησης μπορεί να γραφτεί ως

Ζέφυρ-7B: Πειράματα, Κριτήρια Αξιολόγησης και Αποτελέσματα

Το πλαίσιο Zephyr διεξάγει τα πειράματά του για την εκπαίδευση στο τρέχον state of the art πλαίσιο Mistral-7B που παρέχει αποτελέσματα συγκρίσιμα με αυτά των πολύ μεγαλύτερων γλωσσικών μοντέλων σε μια ευρεία γκάμα εργασιών επεξεργασίας φυσικής γλώσσας (NLP).

Σύνολα Δεδομένων

Το πλαίσιο Zephyr χρησιμοποιεί δύο σύνολα διαλόγου που έχουν αποσταχθεί από ένα μείγμα ιδιωτικών και ανοιχτών μοντέλων, που έχουν προηγουμένως αποδείξει ότι είναι αποτελεσματικά στην παραγωγή αποτελεσματικών μοντέλων συνομιλίας.

UltraChat

Το UltraChat είναι ένα σύνολο αυτο-βελτίωσης που αποτελείται από σχεδόν 1,5 εκατομμύρια multi-στροφικές συνομιλίες που διανέμονται σε 30 θέματα, και 20 κείμενα που παράγονται από το πλαίσιο GPT-3.5-Turbo. Για να αντιμετωπιστούν τα προβλήματα λανθασμένης κεφαλαιοποίησης που αντιμετωπίζει το σύνολο UltraChat, το πλαίσιο εφαρμόζει μια ευρετική μέθοδο truecasing για να απομακρύνει τα γραμματικά λάθη.

UltraFeedback

Το UltraFeedback είναι ένα σύνολο προτροπών με πάνω από 64.000 προτροπές, με κάθε μια από αυτές τις προτροπές να έχει τέσσερις μεμονωμένες απαντήσεις LLM. Το πλαίσιο Zephyr χρησιμοποιεί το υψηλότερο μέσο σκορ που λαμβάνεται από το σύνολο UltraFeedback για να κατασκευάσει δυαδικές προτιμήσεις, και μια από τις τρεις απαντήσεις LLM επιλέγεται τυχαία ως απορριπτέα.

Αξιολόγηση

Για να αξιολογήσει την απόδοση του πλαισίου Zephyr, οι προγραμματιστές έχουν επιλέξει δύο κριτήρια αξιολόγησης συνομιλίας, ένα single-στροφή και ένα multi-στροφή, σε μια προσπάθεια να αξιολογήσουν την ικανότητα του μοντέλου να ακολουθεί τις οδηγίες του χρήστη και να απαντάει ανάλογα.

MT-Bench

Το κριτήριο αξιολόγησης MT-Bench αποτελείται από 160 ερωτήσεις που διανέμονται σε 8 μοναδικά πεδία γνώσης, και υπό το κριτήριο αξιολόγησης MT-Bench, το μοντέλο πρέπει να απαντήσει σε μια αρχική ερώτηση, και να παρέχει μια απάντηση στην ερώτηση που ακολουθεί.

AlpacaEval

Το AlpacaEval είναι ένα single-στροφή κριτήριο αξιολόγησης υπό το οποίο το μοντέλο ή το πλαίσιο παράγει απαντήσεις προς τον χρήστη σε πάνω από 800 ερωτήσεις που διανέμονται σε διαφορετικά θέματα με τον πρωταρχικό στόχο να είναι η χρησιμότητα.

Επιπλέον των δύο αυτών κριτήρια αξιολόγησης, το πλαίσιο Zephyr-7B αξιολογείται επίσης στο Open LLM Leaderboard για εργασίες πολλαπλής ταξινόμησης, ARC, HellaSwag, MMLU, και άλλα. Επιπλέον, ανεξάρτητα από το ποιο κριτήριο αξιολόγησης αξιολογείται το πλαίσιο Zephyr-7B, συγκρίνεται με μια σειρά ιδιωτικών και ανοιχτών μοντέλων, με την διαδικασία ευθυγράμμισης να είναι ο μόνος διαφοροποιητικός παράγοντας.

Αποτελέσματα

Ας δούμε πώς το πλαίσιο Zephyr-7B εκτελείται, και συγκρίνεται με τα τρέχοντα state of the art γλωσσικά μοντέλα.

Εφαρμογή της Προσέγγισης dDPO Βελτιώνει τις Ικανότητες Συνομιλίας

Ο ακόλουθος πίνακας συγκρίνει την απόδοση του πλαισίου Zephyr-7B με τα state of the art γλωσσικά μοντέλα στα κριτήρια αξιολόγησης AlpacaEval και MT-Bench.

Όπως είναι σαφές, όταν τοποθετείται ενάντια σε ανοιχτά μοντέλα 7B, το πλαίσιο Zephyr-7B όχι μόνο υπερτερεί σημαντικά έναντι των μοντέλα dSFT σε αυτά τα δύο κριτήρια αξιολόγησης, αλλά επίσης θέτει νέα state of the art πρότυπα. Επιπλέον, το πλαίσιο Zephyr-7B επίσης καταφέρνει να υπερτερήσει το μοντέλο XWIN-LM-7B, το οποίο είναι ένα από τα σπάνια μοντέλα που εκπαιδεύτηκαν με την προσέγγιση dPPO. Επιπλέον, η απόδοση που παρέχει το πλαίσιο Zephyr-7B είναι συγκρίσιμη με τα αποτελέσματα που παρέχονται από πολύ μεγαλύτερα γλωσσικά μοντέλα όπως Llama2-Chat με πάνω από 70 δισεκατομμύρια παραμέτρους.

dDPO Βελτιώνει την Απόδοση των Ακαδημαϊκών Εργασιών

Η ακόλουθη εικόνα συγκρίνει την απόδοση του πλαισίου Zephyr-7B με μια ευρεία γκάμα ανοιχτών και ιδιωτικών μοντέλων LLM.

Όπως είναι σαφές, το πλαίσιο Zephyr-7B υπερτερεί σημαντικά έναντι των μοντέλα LLM με 7B παραμέτρους, και το χάσμα μεταξύ της απόδοσης του και της απόδοσης που παρέχεται από τα καλύτερα μοντέλα dSFT είναι επίσης εμφανές. Όταν ο αριθμός παραμέτρων αυξάνεται, το πλαίσιο Zephyr-7B μειώνεται, αν και ταιριάζει με την απόδοση που παρέχεται από τα μοντέλα με 40 δισεκατομμύρια παραμέτρους.

Βελτιστοποίηση Προτίμησης

Στην ακόλουθη εικόνα, αξιολογούμε πώς τα διαφορετικά βήματα που ακολουθούνται στη διαδικασία ευθυγράμμισης επηρεάζουν την απόδοση. Όπως είναι σαφές, η προσέγγιση dDPO όταν συνδυάζεται με dSFT βελτιώνει σημαντικά την απόδοση και στα δύο κριτήρια αξιολόγησης MT-Bench και AlpacaEval.

Τέλος, στην ακόλουθη εικόνα μπορούμε να δούμε τις ακρίβειες δοκιμών και εκπαίδευσης κατά τη διάρκεια της εφαρμογής DPO. Όπως είναι σαφές, η προσέγγιση DPO δεν επηρεάζει την απόδοση του μοντέλου στις εργασίες μετά-εκπαίδευσης.

Συμπέρασμα

Σε αυτό το άρθρο, έχουμε μιλήσει για το πλαίσιο Zephyr-7B με βάση το τρέχον state of the art πλαίσιο Mistral-7B που στοχεύει να λύσει το τρέχον πρόβλημα της απόσταξης ευθυγράμμισης από ένα μεγάλο γλωσσικό μοντέλο σε ένα πολύ μικρότερο προ-εκπαιδευμένο πλαίσιο. Ο πρωταρχικός στόχος του πλαισίου είναι να επιτρέψει στους προγραμματιστές να παράγουν μικρότερα μεγάλα γλωσσικά μοντέλα που ευθυγραμμίζονται με την πρόθεση του χρήστη πιο κοντά παρά ποτέ. Το πλαίσιο Zephyr-7B δεν εξετάζει μόνο την εφαρμογή των τρεχόντων προσεγγίσεων για μεγαλύτερα πλαίσια LLM όπως dSFT, αλλά επίσης εξετάζει τη δυνατότητα χρήσης άλλων προσεγγίσεων για να μάθει ένα chat μοντέλο με καλύτερη ευθυγράμμιση με την πρόθεση του χρήστη.

Ωστόσο, παρά τα υποσχόμενα αποτελέσματα, το πλαίσιο Zephyr-7B δεν είναι τέλειο, και κάποια δουλειά πρέπει ακόμη να γίνει. Ένα από τα σαφή προβλήματα είναι η χρήση του πλαισίου GPT-4 για να αξιολογήσει τα κριτήρια αξιολόγησης MT-Bench και AlpacaEval, καθώς το GPT-4 εμφανίζει συχνά μεροληψία υπέρ των μοντέλων που έχουν προκύψει μέσω απόσταξης από το ίδιο. Ωστόσο, το πλαίσιο Zephyr-7B ελπίζει να ανοίξει έναν δρόμο για την εξέταση των ικανοτήτων των μικρότερων ανοιχτών μοντέλων που είναι ικανά να ευθυγραμμίζονται με την πρόθεση και τις αλληλεπιδράσεις του χρήστη.