ხელოვნური ინტელექტი

LLM ჰალუცინაციების დაძლევა გაძლიერებული თაობის (RAG) გამოყენებით

გამოქვეყნებულია

2 თვის წინ

მარტი 5, 2024

დიდი ენის მოდელები (LLMs) ახდენს რევოლუციას, თუ როგორ ვამუშავებთ და ვაწარმოებთ ენას, მაგრამ ისინი არასრულყოფილია. ისევე, როგორც ადამიანებმა შეიძლება დაინახონ ფორმებს ღრუბლებში ან სახეებზე მთვარეზე, LLM-ებს ასევე შეუძლიათ ჰალუცინაციები, შექმნან ინფორმაცია, რომელიც არ არის ზუსტი. ეს ფენომენი, რომელიც ცნობილია როგორც LLM ჰალუცინაციები, მზარდ შეშფოთებას იწვევს, რადგან LLM-ების გამოყენება ფართოვდება.

შეცდომებმა შეიძლება დააბნიოს მომხმარებლები და ზოგიერთ შემთხვევაში კომპანიებს სამართლებრივი პრობლემებიც კი გამოიწვიოს. მაგალითად, 2023 წელს, საჰაერო ძალების ვეტერანი ჯეფერი ბეტლი (ცნობილი, როგორც აერონავტიკის პროფესორი) Microsoft-ის წინააღმდეგ სარჩელი შეიტანა როდესაც მან აღმოაჩინა, რომ Microsoft-ის ChatGPT-ზე დამყარებული Bing ძიება ზოგჯერ იძლევა ფაქტობრივად არაზუსტ და საზიანო ინფორმაციას მისი სახელის ძიებაზე. საძიებო სისტემა მას აბნევს მსჯავრდებულ ჯეფერი ლეონ ბეტლს.

ჰალუცინაციების დასაძლევად, მოძიება-გადიდებული თაობა (RAG) გამოჩნდა, როგორც პერსპექტიული გამოსავალი. იგი აერთიანებს ცოდნას გარე მონაცემთა ბაზებიდან, რათა გაზარდოს LLM-ების შედეგების სიზუსტე და სანდოობა. მოდით უფრო დეტალურად განვიხილოთ, თუ როგორ ხდის RAG LLM-ებს უფრო ზუსტ და სანდოს. ჩვენ ასევე განვიხილავთ, შეუძლია თუ არა RAG-ს ეფექტურად დაუპირისპირდეს LLM ჰალუცინაციის საკითხს.

LLM ჰალუცინაციების გაგება: მიზეზები და მაგალითები

LLM-ები, მათ შორის ცნობილი მოდელები, როგორიცაა ჩატი GPT, ChatGLMდა Claude, გაწვრთნილი არიან ტექსტურ მონაცემთა ვრცელ ნაკრებებზე, მაგრამ არ არიან დაზღვეულები ფაქტობრივად არასწორი შედეგების გამომუშავებისგან, ფენომენს, რომელსაც ეწოდება "ჰალუცინაციები". ჰალუცინაციები წარმოიქმნება იმის გამო, რომ LLM-ები გაწვრთნილი არიან, რათა შექმნან მნიშვნელოვანი პასუხები ძირითადი ენის წესების საფუძველზე, მიუხედავად მათი ფაქტობრივი სიზუსტისა.

A Tidio შესწავლა აღმოაჩინა, რომ მაშინ, როცა მომხმარებელთა 72%-ს სჯერა, რომ LLM-ები სანდოა, 75%-მა ერთხელ მაინც მიიღო არასწორი ინფორმაცია ხელოვნური ინტელექტისგან. ყველაზე პერსპექტიული LLM მოდელებიც კი, როგორიცაა GPT-3.5 და GPT-4, ზოგჯერ შეიძლება წარმოქმნან არაზუსტი ან უაზრო შინაარსი.

აქ მოცემულია LLM ჰალუცინაციების საერთო ტიპების მოკლე მიმოხილვა:

AI ჰალუცინაციის საერთო ტიპები:

წყაროს შერწყმა: ეს ხდება მაშინ, როდესაც მოდელი აერთიანებს დეტალებს სხვადასხვა წყაროდან, რაც იწვევს წინააღმდეგობებს ან თუნდაც შეთითხნილ წყაროებს.
ფაქტობრივი შეცდომები: LLM-ებმა შეიძლება შექმნან შინაარსი არაზუსტი ფაქტობრივი საფუძვლებით, განსაკუთრებით ინტერნეტის თანდაყოლილი უზუსტობების გათვალისწინებით
უაზრო ინფორმაცია: LLMs წინასწარმეტყველებენ შემდეგ სიტყვას ალბათობის საფუძველზე. ამან შეიძლება გამოიწვიოს გრამატიკულად სწორი, მაგრამ უაზრო ტექსტი, შეცდომაში შეიყვანოს მომხმარებლები კონტენტის ავტორიტეტის შესახებ.

გასულ წელს, ორ ადვოკატს დაემუქრა შესაძლო სანქციები მათ სამართლებრივ დოკუმენტებში ექვს არარსებულ საქმეზე მითითების გამო, რომლებიც შეცდომაში შეიყვანეს ChatGPT-ის მიერ გენერირებული ინფორმაციით. ეს მაგალითი ხაზს უსვამს LLM-ის მიერ გენერირებული შინაარსის კრიტიკული თვალით მიახლოების მნიშვნელობას, რაც ხაზს უსვამს გადამოწმების აუცილებლობას სანდოობის უზრუნველსაყოფად. მიუხედავად იმისა, რომ მისი შემოქმედებითი შესაძლებლობები სარგებლობს ისეთი აპლიკაციებით, როგორიცაა სიუჟეტის მოთხრობა, ის აყენებს გამოწვევებს დავალებების შესრულებისთვის, რომლებიც მოითხოვს ფაქტების მკაცრ დაცვას, როგორიცაა აკადემიური კვლევის ჩატარება, სამედიცინო და ფინანსური ანალიზის ანგარიშების წერა და იურიდიული რჩევების მიწოდება.

LLM ჰალუცინაციების გადაწყვეტის შესწავლა: როგორ მუშაობს გაძლიერებული თაობის მოძიება (RAG)

In 2020, LLM მკვლევარები გააცნო ტექნიკა ე.წ გაძლიერებული თაობის მოძიება (RAG) LLM ჰალუცინაციების შესამცირებლად მონაცემთა გარე წყაროს ინტეგრირებით. ტრადიციული LLM-ებისგან განსხვავებით, რომლებიც ეყრდნობიან მხოლოდ მათ წინასწარ გაწვრთნილ ცოდნას, RAG-ზე დაფუძნებული LLM მოდელები წარმოქმნიან ფაქტობრივად ზუსტ პასუხებს გარე მონაცემთა ბაზიდან შესაბამისი ინფორმაციის დინამიურად მოძიებით, სანამ უპასუხებენ კითხვებს ან ტექსტის გენერირებას.

RAG პროცესის დაშლა:

RAG პროცესის ეტაპები: წყარო

ნაბიჯი 1: მოძიება

სისტემა ეძებს კონკრეტულ ცოდნის ბაზას მომხმარებლის მოთხოვნასთან დაკავშირებულ ინფორმაციას. მაგალითად, თუ ვინმეს ეკითხება ბოლო ფეხბურთის მსოფლიო თასის გამარჯვებული, ის ეძებს ყველაზე რელევანტურ ინფორმაციას ფეხბურთის შესახებ.

ნაბიჯი 2: გაძლიერება

შემდეგ თავდაპირველი მოთხოვნა გაუმჯობესებულია ნაპოვნი ინფორმაციით. ფეხბურთის მაგალითის გამოყენებით, შეკითხვა "ვინ მოიგო ფეხბურთის მსოფლიო თასი?" განახლებულია კონკრეტული დეტალებით, როგორიცაა "არგენტინამ მოიგო ფეხბურთის მსოფლიო თასი".

ნაბიჯი 3: თაობა

გამდიდრებული შეკითხვით, LLM წარმოქმნის დეტალურ და ზუსტ პასუხს. ჩვენს შემთხვევაში, ეს გამოიმუშავებს პასუხს არგენტინის მსოფლიო ჩემპიონატის მოგების შესახებ გაძლიერებულ ინფორმაციაზე დაყრდნობით.

ეს მეთოდი ხელს უწყობს უზუსტობების შემცირებას და უზრუნველყოფს LLM-ის პასუხებს უფრო სანდო და ზუსტ მონაცემებზე დასაბუთებული.

RAG-ის დადებითი და უარყოფითი მხარეები ჰალუცინაციების შემცირებაში

RAG-მა აჩვენა დაპირება ჰალუცინაციების შემცირებაში გენერირების პროცესის დაფიქსირებით. ეს მექანიზმი საშუალებას აძლევს RAG-ის მოდელებს მიაწოდონ უფრო ზუსტი, განახლებული და კონტექსტურად შესაბამისი ინფორმაცია.

რა თქმა უნდა, Retrieval Augmented Generation-ის (RAG) განხილვა უფრო ზოგადი გაგებით, საშუალებას იძლევა უფრო ფართოდ გავიგოთ მისი უპირატესობები და შეზღუდვები სხვადასხვა დანერგვაში.

RAG-ის უპირატესობები:

უკეთესი ინფორმაციის ძებნა: RAG სწრაფად პოულობს ზუსტ ინფორმაციას დიდი მონაცემთა წყაროებიდან.
გაუმჯობესებული კონტენტი: ის ქმნის მკაფიო, კარგად შესატყვის შინაარსს, რაც მომხმარებლებს სჭირდებათ.
მოქნილი გამოყენება: მომხმარებლებს შეუძლიათ შეცვალონ RAG, რათა მოერგოს მათ სპეციფიკურ მოთხოვნებს, როგორიცაა მათი საკუთრების მონაცემთა წყაროების გამოყენება, ეფექტურობის გაზრდა.

RAG-ის გამოწვევები:

საჭიროა კონკრეტული მონაცემები: შეკითხვის კონტექსტის ზუსტად გაგება შესაბამისი და ზუსტი ინფორმაციის მიწოდებისთვის შეიძლება რთული იყოს.
Scalability: მოდელის გაფართოება მონაცემთა დიდი ნაკრებისა და მოთხოვნების დასამუშავებლად მუშაობის შენარჩუნებისას რთულია.
უწყვეტი განახლება: ცოდნის მონაცემთა ნაკრების ავტომატური განახლება უახლესი ინფორმაციით რესურსზე ინტენსიურია.

RAG-ის ალტერნატივების შესწავლა

RAG-ის გარდა, აქ არის კიდევ რამდენიმე პერსპექტიული მეთოდი, რომელიც საშუალებას აძლევს LLM მკვლევარებს შეამცირონ ჰალუცინაციები:

G-EVAL: ჯვარედინი ამოწმებს გენერირებული კონტენტის სიზუსტეს სანდო მონაცემთა ნაკრებით, რაც აძლიერებს საიმედოობას.
SelfCheckGPT: ავტომატურად ამოწმებს და ასწორებს საკუთარ შეცდომებს, რათა შედეგები ზუსტი და თანმიმდევრული იყოს.
სწრაფი ინჟინერია: ეხმარება მომხმარებლებს შექმნან ზუსტი შეყვანის მოთხოვნები, რათა მოდელებს წარმართონ ზუსტი, შესაბამისი პასუხებისკენ.
დაზუსტება: არეგულირებს მოდელს დავალების სპეციფიკურ მონაცემთა ნაკრებებზე, დომენის სპეციფიკური მუშაობის გაუმჯობესებისთვის.
ლორა (დაბალი ადაპტაცია): ეს მეთოდი ცვლის მოდელის პარამეტრების მცირე ნაწილს ამოცანის სპეციფიკური ადაპტაციისთვის, აძლიერებს ეფექტურობას.

RAG-ის და მისი ალტერნატივების შესწავლა ხაზს უსვამს დინამიურ და მრავალმხრივ მიდგომას LLM სიზუსტისა და სანდოობის გასაუმჯობესებლად. წინსვლისას, უწყვეტი ინოვაცია ტექნოლოგიებში, როგორიცაა RAG, აუცილებელია LLM ჰალუცინაციების თანდაყოლილი გამოწვევების მოსაგვარებლად.

ხელოვნური ინტელექტისა და მანქანათმცოდნეობის უახლესი მოვლენების შესახებ, მათ შორის სიღრმისეული ანალიზებისა და სიახლეების შესახებ, ეწვიეთ გაერთიანდეს.აი.