Η AI εξακολουθεί να χρειάζεται προπονητή και η ανθρώπινη εποπτεία χρειάζεται ένα οδηγό

Η AI είναι παντού όπου κοιτάζετε, και το επαγγελματικό ποδόσφαιρο δεν αποτελεί εξαίρεση.

Το NFL έχει παρουσιάσει το Digital Athlete, το οποίο χρησιμοποιεί δεδομένα και AI για να βοηθήσει τις ομάδες να εντοπίζουν σενάρια στα οποία οι παίκτες ενδέχεται να αντιμετωπίσουν αυξημένο κίνδυνο τραυματισμού. Συνδυάζει βίντεο και δεδομένα από προπονήσεις, ασκήσεις και αγώνες με εκατομμύρια προσομοιώσεις, παρέχοντας σε όλες τις 32 ομάδες πρόσβαση σε πληροφορίες τάσεων σε όλη τη λίγκα. Οι προπονητές και το προσωπικό προπόνησης στη συνέχεια χρησιμοποιούν αυτές τις πληροφορίες για να αναπτύξουν εξατομικευμένα προγράμματα πρόληψης τραυματισμών, εκπαίδευσης και αποκατάστασης.

Ενώ η τεχνολογία διαβάζει το γήπεδο, οι προπονητές εξακολουθούν να είναι υπεύθυνοι για τις αποφάσεις. Καθώς οι οργανισμοί επεκτείνουν τη χρήση της AI σε επιχειρηματικές διαδικασίες, συμπεριλαμβανομένης της συμμόρφωσης και των ερευνών στον χώρο εργασίας, το δυναμικό αυτοματοποίησης φαίνεται απεριόριστο. Αλλά ποιες εργασίες θα πρέπει να εκτελεί η AI, υπό ποιες συνθήκες και με ποια ανθρώπινη εποπτεία;

Εκεί είναι που ένα οργανωτικό playbook μπορεί να θέσει τον τόνο· προσφέροντας στους προπονητές τα μέσα να αξιοποιούν τα εργαλεία AI διατηρώντας την ανθρώπινη εποπτεία εκεί που είναι κρίσιμη.

Δώστε στην AI μια θέση αντί για ολόκληρο το πεδίο

Οι έρευνες περιλαμβάνουν διαφορετικά επίπεδα κινδύνου. Η AI μπορεί να βοηθήσει στην οργάνωση των πληροφοριών από τις αρχικές αναφορές και:

• Αναγνώριση ελλιπών λεπτομερειών
• Σύνοψη των πληροφοριών σε τελική αναφορά
• Δημιουργία χρονοδιαγραμμάτων
• Ανάδειξη προτύπων που οι ερευνητές ενδέχεται να θέλουν να εξετάσουν περαιτέρω

Αυτές οι περιπτώσεις χρήσης μπορούν να μειώσουν την χειροκίνητη ταξινόμηση και να ελευθερώσουν χρόνο για να εστιάσουν σε εργασίες που απαιτούν ανθρώπινη κρίση.

Σκεφτείτε ότι η AI μπορεί να συνοψίσει μια καταγγελία, αλλά δεν μπορεί να αποφασίσει αν είναι αξιόπιστη. Η AI μπορεί να εντοπίσει μια ασυνέπεια, αλλά δεν μπορεί να προσδιορίσει γιατί υπάρχει. Εδώ είναι που οι οργανισμοί μπορούν να αντιμετωπίσουν προβλήματα χρησιμοποιώντας απλώς την AI χωρίς περιορισμούς.

Για να διατηρηθεί η εποπτεία, η AI χρειάζεται καθορισμένο ρόλο. Οι οργανισμοί πρέπει να αποφασίσουν:

• Οι εργασίες που προορίζεται να εκτελεί το σύστημα
• Οι πληροφορίες που μπορεί να προσπελάσει
• Τα όρια του τι επιτρέπεται να κάνει
• Τις καταστάσεις στις οποίες ένα άτομο πρέπει να πάρει τον έλεγχο

Το National Institute of Standards and Technology’s AI Risk Management Framework παρέχει ένα χρήσιμο σημείο αναφοράς. Ο οδικός χάρτης του NIST περιγράφει τα Προφίλ AI RMF ως τρόπο να δείξει πώς το πλαίσιο μπορεί να εφαρμοστεί σε συγκεκριμένους κλάδους, τεχνολογίες, συμφραζόμενα ή άλλες ρυθμίσεις. Με άλλα λόγια, η υπεύθυνη διακυβέρνηση της AI γίνεται πιο εφαρμόσιμη όταν οι οργανισμοί μεταφράζουν τις γενικές αρχές στην πραγματικότητα μιας συγκεκριμένης περίπτωσης.

Ένα οδηγό AI μπορεί να κάνει κάτι παρόμοιο σε λειτουργικό επίπεδο. Καθορίζει ρόλους, καταστάσεις και ενέργειες με σαφήνεια.

Η ανθρώπινη εποπτεία είναι πρόβλημα σχεδιασμού συστήματος

Η φράση «human in the loop» (άνθρωπος στον βρόχο) έχει γίνει κοινή στις συζητήσεις για υπεύθυνη AI. Αλλά η παρουσία ενός ατόμου κάπου σε μια ροή εργασίας δεν σημαίνει αυτόματα ότι ένα σύστημα AI είναι καλά διαχειρισμένο.

Το NIST έχει εντοπίσει τη human-AI teaming ως σημαντικό πεδίο για την έρευνα και την καθοδήγηση διαχείρισης κινδύνου AI. Μεταξύ των ζητημάτων που επισημαίνει είναι ο τρόπος με τον οποίο οι άνθρωποι ερμηνεύουν τα αποτελέσματα που παράγει η AI και πώς οι άνθρωποι εποπτεύουν τα συστήματα AI που λειτουργούν σε πραγματικά περιβάλλοντα.

Η ανθρώπινη εποπτεία δεν πρέπει να θεωρείται προσωρινή λύση μέχρι η AI να γίνει αρκετά εξελιγμένη ώστε να λειτουργεί μόνη της. Σε πολλά περιβάλλοντα υψηλού κινδύνου, αποτελεί μέρος της απαιτούμενης αρχιτεκτονικής για τη χρήση της AI με υπευθυνότητα μακροπρόθεσμα.

Μια αξιολογημένη από ομότιμους ερευνητική μελέτη για την ανθρώπινη εποπτεία στη διακυβέρνηση της AI σημειώνει ότι οι ανθρώπινοι εποπτεύοντες αναμένεται να βελτιώσουν την ακρίβεια και την ασφάλεια ώστε να διασφαλίσουν τις ανθρώπινες αξίες και να ενισχύσουν την εμπιστοσύνη. Ωστόσο, οι άνθρωποι δεν είναι πάντα αξιόπιστοι εποπτεύοντες. Η αποτελεσματική εποπτεία εξαρτάται από την ικανότητα, τα κίνητρα και το σχεδιασμό του ρόλου εποπτείας.

Για έναν ερευνητή, το να του ζητηθεί να εγκρίνει μια πρόταση που δημιουργήθηκε από AI δεν είναι αρκετό εάν του λείπουν οι πληροφορίες ή η εξουσία που απαιτούνται για να την αμφισβητήσει. Ο οδηγός πρέπει να ορίζει όχι μόνο ότι ένας άνθρωπος εμπλέκεται, αλλά πώς και πότε μπορεί αυτό το άτομο να παρέμβει.

Η μετάβαση είναι εξίσου σημαντική με το μοντέλο

Υπάρχει μια ακόμη πρόκληση: ακόμη και όταν ένας άνθρωπος έχει τελική εξουσία, ο τρόπος με τον οποίο η AI παρουσιάζει τις πληροφορίες μπορεί να επηρεάσει την επακόλουθη απόφαση.

Μια προπρότυπη μελέτη του 2025 από ερευνητές του University of California, Santa Barbara δείχνει γιατί ο σχεδιασμός της διεπαφής έχει σημασία. Σε ένα ελεγχόμενο πείραμα με 108 συμμετέχοντες σε σενάριο λήψης αποφάσεων υγειονομικής περίθαλψης, οι ερευνητές δοκίμασαν έξι μορφές υποστήριξης αποφάσεων AI. Διαπίστωσαν ότι μηχανισμοί, όπως πληροφορίες εμπιστοσύνης AI, κειμενικές εξηγήσεις και οπτικοποιήσεις απόδοσης, βελτίωσαν την ακρίβεια των αποφάσεων ανθρώπου‑AI στο πείραμά τους.

Η μελέτη επίσης επισημαίνει τον κίνδυνο του bias αυτοματοποίησης: οι άνθρωποι μπορούν να βασίζονται υπερβολικά στις προτάσεις AI, ακόμη και σε λανθασμένες.

Αυτό το πείραμα δείχνει γιατί η μετάβαση μεταξύ μηχανής και ανθρώπου απαιτεί σκόπιμο σχεδιασμό και δοκιμή.

Όταν επεκτείνουμε αυτό περαιτέρω και εισάγουμε την έννοια μιας έρευνας, προκύπτουν αρκετές ερωτήσεις:

• Ο ερευνητής βλέπει μόνο ένα συμπέρασμα που δημιουργήθηκε από AI, ή μπορεί να εξετάσει τις πληροφορίες που το στηρίζουν;

• Μπορεί το σύστημα να επικοινωνήσει αβεβαιότητα;

• Είναι σαφές πότε λείπουν πληροφορίες;

• Μπορούν οι ερευνητές να απορρίψουν ένα αποτέλεσμα και να τεκμηριώσουν το γιατί;

Αυτά είναι ερωτήματα διακυβέρνησης όσο και τεχνικά.

Πέντε ερωτήσεις που πρέπει να απαντήσει κάθε οδηγός AI

Ένας χρήσιμος οδηγός AI πρέπει να μετατρέπει αφηρημένες αρχές όπως «υπεύθυνη AI» και «ανθρώπινη εποπτεία» σε συγκεκριμένους κανόνες λειτουργίας.

1. Τι επιτρέπεται να κάνει η AI; Οι οργανισμοί θα πρέπει να εξουσιοδοτούν συγκεκριμένες εργασίες αντί να παρέχουν ευρεία άδεια χρήσης της AI σε όλη τη ροή εργασίας.
2. Ποιες πληροφορίες μπορεί να χρησιμοποιήσει; Για έρευνες και καταγγελίες, οι οργανισμοί χρειάζονται σαφή όρια σχετικά με τις πληροφορίες που είναι διαθέσιμες σε ένα σύστημα AI και πώς αυτές οι πληροφορίες διαχειρίζονται.
3. Πώς θα αξιολογούν οι άνθρωποι το αποτέλεσμα της AI; Οι ανθρώπινοι αξιολογητές χρειάζονται επαρκές πλαίσιο για να κατανοήσουν τι παρήγαγε το σύστημα, τις σχετικές περιορισμούς του και τις πληροφορίες που απαιτούνται για να αμφισβητήσουν το αποτέλεσμα.
4. Πότε πρέπει ένας άνθρωπος να παρέμβει; Ένας οδηγός θα πρέπει να καθορίζει σημεία κλιμάκωσης αντί να βασίζεται σε ατομικούς υπαλλήλους για να αποφασίσουν πότε η AI έχει ξεπεράσει τα όρια.
5. Πού λήγει η εξουσία της AI; Ορισμένες αποφάσεις θα πρέπει να απαιτούν ανθρώπινη κρίση, και τα άτομα που είναι υπεύθυνα για αυτές τις αποφάσεις χρειάζονται πραγματική εξουσία να αγνοήσουν, να παρακάμψουν ή να σταματήσουν την τεχνολογία.

Αυτές οι ιδέες αντικατοπτρίζονται σε ένα από τα πιο σημαντικά παγκόσμια έγγραφα ρύθμισης AI. Article 14 of the EU AI Act καθορίζει απαιτήσεις ανθρώπινης εποπτείας για συστήματα AI που εντάσσονται στην υψηλού κινδύνου κατηγορία του νόμου. Αναφέρει ότι τα μέτρα εποπτείας πρέπει να είναι ανάλογα με τους κινδύνους του συστήματος, την αυτονομία και το πλαίσιο χρήσης. Επίσης απαιτεί από τους εποπτεύοντες να μπορούν να κατανοήσουν τις σχετικές δυνατότητες και περιορισμούς, να ερμηνεύσουν σωστά τα αποτελέσματα, να παραμένουν σε εγρήγορση για το bias αυτοματοποίησης, να αγνοούν ή να παρακάμπτουν τα αποτελέσματα, και να παρέμβουν ή να σταματήσουν ένα σύστημα.

Αυτό δεν σημαίνει ότι κάθε εργαλείο AI που χρησιμοποιείται σε μια έρευνα είναι αυτόματα σύστημα υψηλού κινδύνου. Το πλαίσιο απεικονίζει μια σημαντική αρχή για τη διακυβέρνηση της AI. Η ανθρώπινη εποπτεία πρέπει να παρέχει στους ανθρώπους ουσιαστικές δυνατότητες, όχι μόνο μια θέση στη ροή εργασίας.

Η AI δεν αντικαθιστά τον προπονητή. Αλλάζει αυτό που μπορεί να δει ο προπονητής.

Το Digital Athlete του NFL είναι εντυπωσιακό όχι επειδή δείχνει ότι η AI μπορεί να αντικαταστήσει τους προπονητές, αλλά επειδή δείχνει πώς η εξελιγμένη τεχνολογία μπορεί να επεκτείνει τις πληροφορίες που διατίθενται σε έμπειρους επαγγελματίες.

Η AI μπορεί να βοηθήσει τους ανθρώπους να επεξεργάζονται τις πληροφορίες, να αναδείξουν ό,τι αξίζει προσοχής και να δημιουργήσουν μεγαλύτερη συνέπεια σε επαναλαμβανόμενες εργασίες. Ωστόσο, οι πιο κρίσιμες στιγμές σε μια έρευνα συχνά απαιτούν κάτι διαφορετικό: συμφραζόμενα, σκεπτικισμό, ερμηνεία και λογοδοσία.

Οι οργανισμοί που είναι καλύτερα τοποθετημένοι να ωφεληθούν από την AI θα ζητήσουν, επομένως, περισσότερα από ό,τι μπορεί να αυτοματοποιήσει η τεχνολογία. Θα ορίσουν τι πρέπει να κάνει, τι δεν πρέπει να κάνει και πώς οι άνθρωποι και η AI θα συνεργαστούν.