Τα ανθρωποειδή ρομπότ έρχονται στα εργοστάσια. Ποιος ευθύνεται όταν παρουσιάζουν βλάβη;

Ένα ρομπότ μπορεί να ολοκληρώσει με επιτυχία μια δοκιμή απόδοσης και, παρ’ όλα αυτά, να γίνει επικίνδυνο για την ασφάλεια, αν βρεθεί μπροστά σε ένα απρόσμενο εμπόδιο, αν αλλάξει η συμπεριφορά του εξαιτίας μιας ενημέρωσης λογισμικού ή αν συναντήσει έναν πραγματικό εργαζόμενο. Το ερώτημα δεν είναι πλέον αν τα ανθρωποειδή ρομπότ μπορούν να εκτελέσουν μια εργασία, αλλά πώς μπορούν να το κάνουν. Μπορούν να την εκτελέσουν με ασφάλεια ή όχι — και ποιος ευθύνεται αν κάτι πάει στραβά;

Η Agility Robotics και η FORT Robotics ανακοίνωσαν τον Οκτώβριο τη σύναψη συνεργασίας με στόχο την ενίσχυση της αρχιτεκτονικής ασφάλειας του ανθρωποειδούς ρομπότ Digit 5 της Agility. Σχεδίασαν την προσέγγισή τους ενσωματώνοντας συστήματα ασφαλείας επί του ρομπότ, καθώς και εξωτερικές διεπαφές, συστήματα επικοινωνίας και δυνατότητα χειροκίνητης παράκαμψης. Η εξέλιξη αυτή σηματοδοτεί μια σημαντική αλλαγή: τα ρομπότ πρέπει να είναι ασφαλή στους χώρους εργασίας όπου εργάζονται άνθρωποι, και αυτό απαιτεί περισσότερα από την ασφάλεια του ίδιου του ρομπότ.

Ωστόσο, η τεχνολογία δεν αρκεί για να απαντήσει στο ερώτημα του καταλογισμού ευθύνης. Αν ένα ρομπότ κάνει λάθος εξαιτίας ενός ελαττωματικού εξαρτήματος που ένα σύστημα τεχνητής νοημοσύνης αναγνώρισε λανθασμένα, ενδέχεται να θεωρηθούν υπεύθυνοι ο κατασκευαστής, ο προγραμματιστής του λογισμικού, ο ολοκληρωτής συστημάτων και ο εργοδότης που χρησιμοποιεί το σύστημα.

Όταν οι αποφάσεις της τεχνητής νοημοσύνης γίνονται σωματικοί κίνδυνοι

Τα παραδοσιακά βιομηχανικά ρομπότ βρίσκονται συνήθως σε κλειστά κελιά εργασίας, όπου απομονώνονται από τους εργαζομένους με φράγματα και διατάξεις ασφαλείας. Τα ανθρωποειδή ρομπότ θέτουν μια διαφορετική πρόκληση: προορίζονται να κινούνται σε περιβάλλοντα σχεδιασμένα για ανθρώπους, να εκτελούν διαφορετικές εργασίες και να προσαρμόζονται σε διαφορετικά περιβάλλοντα.

Αυτή η ευελιξία δημιουργεί νέους κινδύνους. Μια εσφαλμένη ανίχνευση μπορεί να οδηγήσει σε περιττή κίνηση. Μια ενημέρωση λογισμικού μπορεί να αλλάξει τη συμπεριφορά ενός ρομπότ. Αλλαγές στη διάταξη του εργοστασίου ενδέχεται να δημιουργήσουν κινδύνους που δεν υπήρχαν στις προηγούμενες δοκιμές.

Η Dana R. Wolfe, αντιπρόεδρος και επικεφαλής του κλάδου στην GFT Americas, είπε στο Unite AI ότι, για να αποτρέπονται οι μη ασφαλείς παρεμβάσεις, απαιτούνται πολλαπλά επίπεδα προστασίας, όπως ντετερμινιστικές δικλίδες ασφαλείας στο λογισμικό, όρια εμπιστοσύνης ειδικά για κάθε εργοστάσιο, σύντηξη δεδομένων από αισθητήρες και σταδιακή επικύρωση πριν από την ανάπτυξη.

Δεν υπάρχει τρόπος να αποφευχθούν εντελώς τα ψευδώς θετικά αποτελέσματα, είπε η Wolfe. Αντί γι’ αυτό, οι κατασκευαστές πρέπει να διασφαλίζουν ότι τα λάθη δεν οδηγούν σε μη ασφαλείς φυσικές κινήσεις.

Τα όρια εμπιστοσύνης και η εξουσία των ανθρώπων πρέπει να αποτελούν μέρος της αρχιτεκτονικής ασφάλειας του συστήματος, όπως και οι διατάξεις αλληλοασφάλισης στο υλισμικό, είπε η Wolfe.

Τα πρότυπα ασφάλειας πρέπει να συμβαδίζουν με τις εξελίξεις

Τα ισχύοντα πρότυπα για τη βιομηχανική ρομποτική αποτελούν πολύτιμη βάση, αλλά δεν καλύπτουν κατ’ ανάγκη όλα τα προβλήματα που θέτουν τα κινητά ανθρωποειδή ρομπότ.

Ο Διεθνής Οργανισμός Τυποποίησης (ISO) έχει δημοσιεύσει απαιτήσεις ασφάλειας για τα βιομηχανικά ρομπότ, ενώ το ISO 10218-2 καλύπτει την ενσωμάτωση ρομπότ σε ολοκληρωμένα συστήματα.

Ωστόσο, τα πρότυπα αυτά δεν καλύπτουν όλες τις εφαρμογές ή τους κινδύνους που αφορούν κινητά ρομπότ τα οποία εργάζονται μαζί με ανθρώπους.

Οι ανεξάρτητες δοκιμές, η επικύρωση βάσει σεναρίων και οι πιλοτικές δοκιμές σε χώρους εργασίας, που εφαρμόζονται σταδιακά, είναι ιδιαίτερα σημαντικές καθώς εξελίσσονται οι πρακτικές του κλάδου, είπε η Wolfe.

Οι αξιολογήσεις ασφάλειας πρέπει επίσης να επαναλαμβάνονται, αν αλλαγές στο μοντέλο τεχνητής νοημοσύνης, στο λογισμικό, στους περιορισμούς κίνησης, στις εργασίες ή στο περιβάλλον του εργοστασίου ενδέχεται να καταστήσουν άκυρες τις προηγούμενες αξιολογήσεις ασφάλειας.

Μετά από μια σημαντική αλλαγή, ένα ρομπότ που ήταν ασφαλές υπό ορισμένες συνθήκες μπορεί να μην είναι ασφαλές υπό τις νέες συνθήκες.

Η ανθρώπινη εποπτεία πρέπει να σημαίνει περισσότερα από μια έγκριση

Δεν είναι πρακτικό να παρακολουθείται κάθε απόφαση που λαμβάνει ένα σύστημα τεχνητής νοημοσύνης, αλλά όταν οι άνθρωποι δεν συμμετέχουν σε κρίσιμες αποφάσεις, προκύπτει μια άλλη δυσκολία: γίνεται δυσκολότερο να αποδειχθεί ποιος ευθύνεται.

Ο Adrian Figueroa Ramos, συνιδρυτής και διευθύνων σύμβουλος των Flexio και Routina, είπε ότι η εποπτεία θα πρέπει να επικεντρώνεται στις αποφάσεις που ενέχουν τη μεγαλύτερη αβεβαιότητα ή τον μεγαλύτερο κίνδυνο.

«Στον σημερινό κόσμο της τεχνητής νοημοσύνης, ο όγκος των αποτελεσμάτων ξεπερνά τις δυνατότητες επεξεργασίας ενός ανθρώπου. Αν ελέγχονται τα πάντα, ο άνθρωπος γίνεται το σημείο συμφόρησης, αλλά η ανθρώπινη κρίση εξακολουθεί να είναι απαραίτητη για αποφάσεις υψηλού κινδύνου ή χαμηλής εμπιστοσύνης», είπε στο Unite AI.

Αυτό ισχύει ιδιαίτερα για τη φυσική τεχνητή νοημοσύνη. Η ανθρώπινη εποπτεία πρέπει να περιλαμβάνει συγκεκριμένα κατονομασμένα άτομα που έχουν την εξουσία να παρακάμπτουν ένα σύστημα και να διασφαλίζουν ότι οι αποφάσεις καταγράφονται και ελέγχονται, αντί να πατούν απλώς ένα κουμπί έγκρισης.

Ποιος αναλαμβάνει την ευθύνη όταν ένα ρομπότ παρουσιάζει βλάβη;

Η ευθύνη θα πρέπει να επιμερίζεται ανάλογα με τον βαθμό ελέγχου που ασκεί κάθε μέρος στο σύστημα.

Για παράδειγμα, οι κατασκευαστές είναι υπεύθυνοι για τη θέσπιση και την τεκμηρίωση μέτρων ασφάλειας. Οι προγραμματιστές λογισμικού πρέπει να δοκιμάζουν τις αλλαγές που ενδέχεται να επηρεάσουν την αντίληψη ή την κίνηση.

Ο ολοκληρωτής συστημάτων πρέπει να επικυρώνει ολόκληρο το σύστημα στο περιβάλλον για το οποίο προορίζεται. Οι εργοδότες είναι υπεύθυνοι να εκπαιδεύουν τους εργαζομένους, να διασφαλίζουν ότι υπάρχουν δικλίδες ασφαλείας και να θεσπίζουν διαδικασίες για τη διακοπή μη ασφαλών λειτουργιών.

Η κυβερνοασφάλεια είναι επίσης σημαντική. Η λειτουργική τεχνολογία μπορεί να είναι ευάλωτη σε προβλήματα αισθητήρων, λογισμικού και εξωτερικών συστημάτων που συνδέονται με τα ρομπότ. Μια παραβίαση ασφάλειας που επηρεάζει τη φυσική συμπεριφορά αποτελεί πρόβλημα ασφάλειας στον χώρο εργασίας, καθώς και πρόβλημα πληροφορικής.

Στο μέλλον, τα ανθρωποειδή ρομπότ αναμένεται να γίνουν πιο ευέλικτα και παραγωγικά στα εργοστάσια. Ωστόσο, η υιοθέτησή τους δεν θα βασιστεί αποκλειστικά σε δείκτες απόδοσης. Απαιτούνται σαφής κατανομή ευθυνών, ανεξάρτητη επικύρωση και μέτρα προστασίας που θα διατηρούνται καθ’ όλη τη διάρκεια της λειτουργικής ζωής ενός ρομπότ.

Το ερώτημα είναι: μπορεί ένα ρομπότ να κάνει λάθη; Μπορεί, αν τα άτομα που το χρησιμοποιούν έχουν δημιουργήσει ένα σύστημα που θα τα καθιστά υπόλογα για αυτά τα λάθη.