Διεθνείς Επιστήμονες Καλούν σε Περισσότερη Διαφάνεια στην Έρευνα του AI

Μια ομάδα διεθνών επιστημόνων από διάφορες ερευνητικές εγκαταστάσεις, συμπεριλαμβανομένων του Princess Margaret Cancer Centre, του Πανεπιστημίου του Τορόντο, του Πανεπιστημίου του Στάνφορντ, του Τζονς Χόπκινς, της Σχολής Δημόσιας Υγείας του Χάρβαρντ και του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης, καλούν για περισσότερη διαφάνεια στην έρευνα του τεχνητού νοημοσύνου (AI). Η κύρια δύναμη πίσω από αυτό το κάλεσμα είναι να απελευθερωθούν σημαντικά ευρήματα που θα μπορούσαν να βοηθήσουν στην επιτάχυνση της θεραπείας του καρκίνου με βάση την έρευνα.

Το άρθρο στο οποίο οι επιστήμονες κάλεσαν τα επιστημονικά περιοδικά να αυξήσουν τους προτύπους τους όσον αφορά τη διαφάνεια μεταξύ των ερευνητών υπολογιστών δημοσιεύθηκε στο Nature στις 14 Οκτωβρίου 2020. Η ομάδα επίσης υποστήριξε ότι οι συναδέλφοι τους πρέπει να δημοσιεύσουν κώδικα, μοντέλο και υπολογιστικά περιβάλλοντα στις δημοσιεύσεις τους.

Το έγγραφο είχε τον τίτλο “Διαφάνεια και αναπαραγωγιμότητα στον τεχνητό νοημόσυνο.”

Δημοσίευση Λεπτομερειών Μελετών AI

Ο Δρ. Benjamin Haibe-Kains είναι ανώτερος ερευνητής στο Princess Margaret Cancer Centre και πρώτος συγγραφέας της δημοσίευσης.

“Η επιστημονική πρόοδος εξαρτάται από την ικανότητα των ερευνητών να εξετάσουν τα αποτελέσματα μιας μελέτης και να αναπαράγουν τα κύρια ευρήματα για να μάθουν,” λέει ο Δρ. Haibe-Kains. “Αλλά στην υπολογιστική έρευνα, δεν είναι ακόμη ένα ευρέως αποδεκτό κριτήριο για τις λεπτομέρειες μιας μελέτης AI να είναι πλήρως προσβάσιμες. Αυτό είναι επιζήμιο για την πρόοδό μας.”

Οι ανησυχίες προέκυψαν μετά μια μελέτη του Google (GOOGL ) Health που δημοσιεύθηκε από τους McKinney et al. σε ένα σημαντικό επιστημονικό περιοδικό το 2020, στο οποίο ισχυρίστηκαν ότι ένα σύστημα AI θα μπορούσε να υπερβεί τους ανθρώπινους ακτινολόγους σε αντοχή και ταχύτητα όταν πρόκειται για τη διάγνωση του καρκίνου του μαστού. Η μελέτη έλαβε πολλή προσοχή από τα μέσα ενημέρωσης σε διάφορες κορυφαίες εκδόσεις.

Αδυναμία Αναπαραγωγής Μοντέλων

Μια από τις κύριες ανησυχίες που προέκυψαν μετά τη μελέτη ήταν ότι δεν περιέγραψε πλήρως τις μεθόδους που χρησιμοποιήθηκαν, καθώς και τον κώδικα και τα μοντέλα. Αυτή η έλλειψη διαφάνειας σήμανε ότι οι ερευνητές δεν μπορούσαν να μάθουν πώς λειτουργεί το μοντέλο, με αποτέλεσμα το μοντέλο να μην μπορεί να χρησιμοποιηθεί από άλλα ιδρύματα.

“Σε χαρτί και σε θεωρία, η μελέτη των McKinney et al. είναι όμορφη,” λέει ο Δρ. Haibe-Kains. “Αλλά αν δεν μπορούμε να μάθουμε από αυτή, τότε έχει μικρή ή καθόλου επιστημονική αξία.”

Ο Δρ. Haibe-Kains διορίστηκε επίσης ως Αναπληρωτής Καθηγητής στην Ιατρική Βιοφυσική στο Πανεπιστήμιο του Τορόντο. Είναι επίσης συνεργάτης στο Ινστιτούτο Vector για τον Τεχνητό Νοημόσυνο.

“Οι ερευνητές έχουν μεγαλύτερη ενθάρρυνση να δημοσιεύσουν τα ευρήματά τους παρά να δαπανήσουν χρόνο και πόρους για να διασφαλίσουν ότι η μελέτη τους μπορεί να αναπαραχθεί,” συνεχίζει ο Δρ. Haibe-Kains. “Τα περιοδικά είναι ευάλωτα στο ‘χάιπ’ του AI και μπορεί να μειώσουν τους προτύπους για την αποδοχή εργασιών που δεν περιλαμβάνουν όλα τα υλικά που απαιτούνται για να κάνουν τη μελέτη αναπαραγώγιμη — συχνά σε αντίθεση με τις eigenen τους οδηγίες.”

Αυτό το περιβάλλον σημαίνει ότι τα μοντέλα AI θα μπορούσαν να χρειαστούν περισσότερο χρόνο για να φτάσουν σε κλινικές εγκαταστάσεις, και τα μοντέλα δεν μπορούν να αναπαραχθούν ή να μάθουν από τους ερευνητές.

Η ομάδα των ερευνητών πρότεινε διάφορα πλαίσια και πλατφόρμες για να θεραπεύσουν αυτό το ζήτημα και να επιτρέψουν τις μεθόδους να μοιραστούν.

“Έχουμε μεγάλες ελπίδες για τη χρησιμότητα του AI για τους ασθενείς μας με καρκίνο,” λέει ο Δρ. Haibe-Kains. “Η μοιρασιά και η οικοδόμηση πάνω στις ανακαλύψεις μας — αυτό είναι η πραγματική επιστημονική επίδραση.”