ეთიკის
ახალი კვლევა აჩვენებს, რომ ადამიანებს შეუძლიათ ისწავლონ მანქანით გენერირებული ტექსტის ამოცნობა
ხელოვნური ინტელექტის (AI) მზარდმა დახვეწილობამ და ხელმისაწვდომობამ გამოიწვია დიდი ხნის განმავლობაში შეშფოთება საზოგადოებაზე მისი გავლენის შესახებ. ჩეთბოტების უახლესი თაობა მხოლოდ ამძაფრებს ამ შეშფოთებას სამუშაო ბაზრის მთლიანობისა და ყალბი ამბების და დეზინფორმაციის გავრცელების შიშით. ამ შეშფოთების ფონზე, პენსილვანიის უნივერსიტეტის საინჟინრო და გამოყენებითი მეცნიერების სკოლის მკვლევართა გუნდი ცდილობდა მიეღო ტექნიკის მომხმარებლები ამ რისკების შესამცირებლად.
ივარჯიშეთ AI ტექსტის ამოცნობაში
მათი რეცენზირებული ნაშრომი, რომელიც წარმოდგენილი იყო 2023 წლის თებერვალში ხელოვნური ინტელექტის განვითარების ასოციაციის შეხვედრაზე, იძლევა მტკიცებულებას, რომ ადამიანებს შეუძლიათ ისწავლონ განსხვავება მანქანით შექმნილ და ადამიანის მიერ დაწერილ ტექსტებს შორის.
კვლევა, რომელსაც ხელმძღვანელობდა კრის კალისონ-ბერჩი, ასოცირებული პროფესორი კომპიუტერული და საინფორმაციო მეცნიერების დეპარტამენტში (CIS), დოქტორანტთან ერთად. სტუდენტები ლიამ დუგანი და დაფნე იპოლიტო აჩვენებენ, რომ ხელოვნური ინტელექტის გენერირებული ტექსტი შესამჩნევია.
„ჩვენ ვაჩვენეთ, რომ ადამიანებს შეუძლიათ საკუთარი თავის მომზადება მანქანით გენერირებული ტექსტების ამოცნობაში“, - ამბობს კალისონ-ბერჩი. „ადამიანები იწყებენ გარკვეული დაშვებებით იმის შესახებ, თუ რა სახის შეცდომებს დაუშვებდა მანქანა, მაგრამ ეს ვარაუდები სულაც არ არის სწორი. დროთა განმავლობაში, საკმარისი მაგალითებისა და მკაფიო ინსტრუქციების გათვალისწინებით, ჩვენ შეგვიძლია ვისწავლოთ შეცდომების ტიპების ამოცნობა, რომლებსაც მანქანები ამჟამად უშვებენ.
კვლევა იყენებს შეგროვებულ მონაცემებს „რეალური თუ ყალბი ტექსტის?“, ორიგინალური ვებ-სავარჯიშო თამაშის გამოყენებით. ეს სასწავლო თამაში გარდაქმნის გამოვლენის კვლევების სტანდარტულ ექსპერიმენტულ მეთოდს უფრო ზუსტ რეკრეაციად, თუ როგორ იყენებენ ადამიანები AI ტექსტის გენერირებას.
სტანდარტულ მეთოდებში მონაწილეებს სთხოვენ მიუთითონ კი-ან-არა სახით, შექმნა თუ არა მანქანამ მოცემული ტექსტი. პენის მოდელი აუმჯობესებს გამოვლენის სტანდარტულ კვლევას ეფექტურ სავარჯიშო ამოცანად, მაგალითების ჩვენებით, რომლებიც ყველა იწყება როგორც ადამიანის მიერ დაწერილი. ყოველი მაგალითი შემდეგ გადადის გენერირებულ ტექსტში და სთხოვს მონაწილეებს აღნიშნონ სად იწყება მათი აზრით ეს გადასვლა. მსმენელები იდენტიფიცირებენ და აღწერენ ტექსტის იმ მახასიათებლებს, რომლებიც მიუთითებს შეცდომაზე და იღებენ ქულას.
კვლევის შედეგები
კვლევის შედეგებმა აჩვენა, რომ მონაწილეებმა მნიშვნელოვნად უკეთესი ქულა მიიღეს, ვიდრე შემთხვევითი შანსი, რაც ადასტურებს, რომ ხელოვნური ინტელექტის მიერ შექმნილი ტექსტი გარკვეულწილად შესამჩნევია. კვლევა არა მხოლოდ ასახავს დამამშვიდებელ, თუნდაც ამაღელვებელ მომავალს ჩვენი AI-სთან ურთიერთობისთვის, არამედ იძლევა იმის მტკიცებულებას, რომ ადამიანებს შეუძლიათ საკუთარი თავის მომზადება მანქანით გენერირებული ტექსტის აღმოსაჩენად.
„ხალხი აწუხებს ხელოვნური ინტელექტის შესახებ საფუძვლიანი მიზეზების გამო“, - ამბობს კალისონ-ბერჩი. „ჩვენი კვლევა გვაძლევს მტკიცებულებებს ამ შფოთვის შესამსუბუქებლად. მას შემდეგ, რაც ჩვენ შევძლებთ ჩვენი ოპტიმიზმის ათვისებას ხელოვნური ინტელექტის ტექსტის გენერატორების მიმართ, ჩვენ შევძლებთ ყურადღება მივაქციოთ ამ ხელსაწყოების შესაძლებლობებს, რათა დაგვეხმაროს უფრო წარმოსახვითი, უფრო საინტერესო ტექსტების დაწერაში.”
დუგანი დასძენს: „არის საინტერესო პოზიტიური მიმართულებები, რომლითაც შეგიძლიათ ამ ტექნოლოგიის შემოტანა. ხალხი ამახვილებს ყურადღებას შემაშფოთებელ მაგალითებზე, როგორიცაა პლაგიატი და ყალბი ამბები, მაგრამ ახლა ჩვენ ვიცით, რომ შეგვიძლია ვივარჯიშოთ, რომ ვიყოთ უკეთესი მკითხველები და მწერლები.
კვლევა წარმოადგენს გადამწყვეტ პირველ ნაბიჯს მანქანით გენერირებულ ტექსტთან დაკავშირებული რისკების შესამცირებლად. როგორც AI აგრძელებს განვითარებას, ასევე უნდა იყოს ჩვენი უნარი მისი ზემოქმედების აღმოჩენისა და ნავიგაციის შესახებ. ადამიანის მიერ დაწერილ და მანქანით გენერირებულ ტექსტებს შორის განსხვავების ამოცნობის სწავლებით, ჩვენ შეგვიძლია გამოვიყენოთ AI-ს ძალა ჩვენი შემოქმედებითი პროცესების მხარდასაჭერად, მისი რისკების შესამცირებლად.
