Η ‘Ανόητη Γλώσσα’ που Μπορεί να Υπονομεύσει τα Συστήματα Ελέγχου της Συνθέσης Εικόνων

Νέα έρευνα από το Πανεπιστήμιο Κολούμπια υποδηλώνει ότι τα μέτρα ασφαλείας που εμποδίζουν τα μοντέλα σύνθεσης εικόνων όπως το DALL-E 2, Imagen και Parti από την παραγωγή βλαπτικών ή αμφιλεγόμενων εικόνων είναι ευάλωτα σε einen τύπο επιθετικών επιθέσεων που涉ίζει ‘εφευρεμένες’ λέξεις.

Ο συγγραφέας έχει αναπτύξει δύο μεθόδους που μπορούν να παρακαμφθούν τα μέτρα ελέγχου περιεχομένου σε ένα σύστημα σύνθεσης εικόνων και έχει διαπιστώσει ότι είναι εξαιρετικά ανθεκτικά ακόμη και σε διαφορετικές αρχιτεκτονικές, υποδεικνύοντας ότι η αδυναμία είναι περισσότερο από ένα σύστημα και μπορεί να βασίζεται σε κάποια από τις πιο θεμελιώδεις αρχές της σύνθεσης εικόνων κειμένου.

Η πρώτη, και η ισχυρότερη από τις δύο, ονομάζεται μακαρωνική προώθηση. Ο όρος ‘μακαρωνικός’ πρωταρχικά αναφέρεται σε ένα μείγμα πολλών γλωσσών, όπως το Esperanto ή Unwinese. Πιθανότατα το πιο πολιτιστικά διαδεδομένο παράδειγμα θα ήταν Ουρντού-Αγγλικά, ένας τύπος ‘κωδικής ανάμιξης’ που είναι κοινός στο Πακιστάν, ο οποίος συνδυάζει ελεύθερα Αγγλικά ουσιαστικά και Ουρντού επιθήματα.

…