ეტან გინსბერგი, Martian - ინტერვიუს სერიის თანადამფუძნებელი

ეტან გინსბერგი არის თანადამფუძნებელი მარსიანი, პლატფორმა, რომელიც დინამიურად მიმართავს ყველა მოთხოვნას საუკეთესო LLM-მდე. მარშრუტიზაციის საშუალებით, Martian აღწევს უფრო მაღალ შესრულებას და დაბალ ღირებულებას, ვიდრე ნებისმიერი ინდივიდუალური პროვაიდერი, მათ შორის GPT-4. სისტემა აგებულია კომპანიის უნიკალურ Model Mapping ტექნოლოგიაზე, რომელიც ხსნის LLM-ებს რთული შავი ყუთებიდან უფრო ინტერპრეტაციად არქიტექტურაში, რაც მას მექანიკური ინტერპრეტაციის პირველ კომერციულ აპლიკაციად აქცევს.

Etan ახორციელებს კოდირებას, დიზაინს ვებსაიტებს და აშენებს ელექტრონულ ბიზნესს კლიენტებისთვის, რადგან ის საშუალო სკოლა იყო. პოლიმათ ეტანი არის მეხსიერების მსოფლიო ჩემპიონატის კონკურსანტი და მე-2 ადგილი დაიკავა სიჩქარით კითხვის მსოფლიო ჩემპიონატზე შენჟენში, ჩინეთი.

ის არის vid hackathon-ის კონკურენტი. წარსული ჯილდოები მოიცავს მე-3 პრიზს Tech Crunch SZ-ზე, საუკეთესო 7 ფინალისტს პრინსტონის ჰაკათონზე და 3 ინდუსტრიის ჯილდოს იელის ჰაკათონზე.

თქვენ ხართ წინა ორგზის სტარტაპის დამფუძნებელი, რა იყო ეს კომპანიები და რა ისწავლეთ ამ გამოცდილებიდან?

ჩემი პირველი კომპანია იყო ამერიკელი Ninja Warrior-ის სპორტის პოპულარიზაციისა და წინსვლის პირველი პლატფორმა. ჯერ კიდევ 2012 წელს, მე ვუყურებდი ამერიკულ Ninja Warrior-ს, როგორც მიწისქვეშა სპორტს (90-იანების MMA-ს მსგავსი) და შევქმენი პირველი პლატფორმა, სადაც ხალხს შეეძლო ეყიდა ნახატები, შეუკვეთა დაბრკოლებები და ეპოვა სპორტული დარბაზი ვარჯიშისთვის. მე მივმართე კონსულტაცია კომპანიებს, რომლებიც აპირებენ საკუთარი სპორტული დარბაზის შექმნას, მათ შორის, დახმარებას უწევს აშშ-ს სპეცრაზმს სასწავლო კურსში და ხელსახოცის ესკიზიდან 300 ათას აშშ დოლარამდე შემოსავალს გავზრდი პირველ 3 თვეში. მიუხედავად იმისა, რომ საშუალო სკოლაში ვსწავლობდი, მე მქონდა პირველი გამოცდილება 20+ მუშაკისგან შემდგარი გუნდის მართვაში და გავიგე ეფექტური მენეჯმენტისა და ინტერპერსონალური ურთიერთობების შესახებ.

ჩემი მეორე კომპანია იყო აქტივების მენეჯმენტის ალტერნატიული კომპანია, რომელიც თანადამფუძნებელი იყო 2017 წელს კრიპტოში ICO ტალღამდე. ეს იყო ჩემი პირველი კონტაქტი NLP-თან, სადაც ჩვენ გამოვიყენეთ სოციალური მედიის მონაცემების განწყობის ანალიზი, როგორც საინვესტიციო სტრატეგია.

მე ვისწავლე ბევრი რთული და რბილი უნარები, რაც სტარტაპის მართვაში შედის - გუნდის მართვა NLP-ის ტექნიკურ ასპექტებამდე. ამავდროულად, მე ასევე ვისწავლე ბევრი რამ ჩემს შესახებ და იმის შესახებ, თუ რაში მინდოდა მუშაობა. მე მჯერა, რომ ყველაზე წარმატებულ კომპანიებს ქმნიან დამფუძნებლები, რომლებსაც აქვთ უფრო ფართო ხედვა ან მიზანი. მე დავტოვე კრიპტო 2017 წელს NLP-ზე ფოკუსირებისთვის, რადგან კაცობრიობის ინტელექტის გაზრდა და გაგება არის ის, რაც ნამდვილად მამოძრავებს. გამიხარდა ამის აღმოჩენა.

პენსილვანიის უნივერსიტეტში სწავლისას თქვენ ჩაატარეთ AI კვლევა, კონკრეტულად რას იკვლევდით?

ჩვენი კვლევა თავდაპირველად ფოკუსირებული იყო LLM-ების აპლიკაციების მშენებლობაზე. კერძოდ, ჩვენ ვიმუშავეთ LLM-ების საგანმანათლებლო აპლიკაციებზე და ვაშენებდით პირველ LLM-ზე მომუშავე შემეცნებით დამრიგებელს. შედეგები საკმაოდ კარგი იყო - ჩვენ დავინახეთ 0.3 სტანდარტული გადახრის გაუმჯობესება სტუდენტთა შედეგებში საწყის ექსპერიმენტებში - და ჩვენი სისტემა გამოიყენებოდა პენსილვანიის უნივერსიტეტიდან ბუტანის უნივერსიტეტამდე.

შეგიძლიათ იმსჯელოთ, როგორ მიგიყვანათ ამ კვლევამ Martian-ის თანადამფუძნებლად?

იმის გამო, რომ ჩვენ ვიყავით ერთ-ერთი პირველი ადამიანი, ვინც აპლიკაციებს ავაშენებდით LLM-ებზე, ჩვენ ასევე ვიყავით პირველი ადამიანები, ვინც შეგვხვდა პრობლემები, რომლებსაც ადამიანები აწყდებიან, როდესაც ისინი ქმნიან აპლიკაციებს LLM-ებზე. ეს ხელმძღვანელობდა ჩვენს კვლევას ინფრასტრუქტურის ფენისკენ. მაგალითად, საკმაოდ ადრე, ჩვენ ვახდენდით პატარა მოდელებს უფრო დიდი მოდელების გამოსავალზე, როგორიცაა GPT-3, და ვახდენდით მოდელებს სპეციალიზებულ მონაცემთა წყაროებზე, ისეთი ამოცანებისთვის, როგორიცაა პროგრამირება და მათემატიკური ამოცანების ამოხსნა. ამან საბოლოოდ მიგვიყვანა პრობლემები მოდელის ქცევის გაგებასთან და მოდელის მარშრუტიზაციასთან დაკავშირებით.

ასევე საინტერესოა მარსის სახელის წარმოშობა და მისი კავშირი ინტელექტთან, შეგიძლიათ გაგვიზიაროთ ამბავი, თუ როგორ აირჩიეს ეს სახელი?

ჩვენს კომპანიას ეწოდა უნგრელ-ამერიკელი მეცნიერების ჯგუფის სახელი, რომლებიც ცნობილია როგორც "მარსიანელები“. ეს ჯგუფი, რომელიც ცხოვრობდა მე-20 საუკუნეში, შედგებოდა ყველაზე ჭკვიანი ადამიანებისგან, რომლებიც ოდესმე უცხოვრიათ:

• მათ შორის ყველაზე ცნობილი იყო ჯონ ფონ ნოიმანი; მან გამოიგონა თამაშების თეორია, თანამედროვე კომპიუტერული არქიტექტურა, ავტომატების თეორია და ფუნდამენტური წვლილი შეიტანა ათობით სხვა სფეროში.
• პოლ ერდოსი იყო ყველა დროის ყველაზე ნაყოფიერი მათემატიკოსი, რომელმაც გამოაქვეყნა 1500-ზე მეტი ნაშრომი.
• თეოდორ ფონ კარმანი ჩამოაყალიბა აეროდინამიკის ფუნდამენტური თეორიები და დაეხმარა ამერიკული კოსმოსური პროგრამის შექმნას. ადამიანის მიერ განსაზღვრულ ზღვარს დედამიწასა და კოსმოსს შორის, მისი ნამუშევრების აღსანიშნავად „კარმანის ხაზს“ უწოდებენ.
• ლეო ზილარდი გამოიგონა ატომური ბომბი, რადიაციული თერაპია და ნაწილაკების ამაჩქარებლები.

ეს მეცნიერები და 14 სხვა მათნაირი (მათ შორის წყალბადის ბომბის გამომგონებელი, ადამიანი, რომელმაც შემოიტანა ჯგუფური თეორია თანამედროვე ფიზიკაში და ფუნდამენტური წვლილის შეტანა ისეთ სფეროებში, როგორიცაა კომბინატორიკა, რიცხვების თეორია, რიცხვითი ანალიზი და ალბათობის თეორია) საოცარ მსგავსებას იზიარებდნენ - ყველა მათგანი დაიბადა ბუდაპეშტის იმავე ნაწილში. ამან ხალხს დაუსვა კითხვა: რა იყო ამდენი დაზვერვის წყარო?

საპასუხოდ, ზილარდმა ხუმრობით თქვა: "მარსიანელები უკვე აქ არიან და ისინი საკუთარ თავს უნგრებს უწოდებენ!" სინამდვილეში... არავინ იცის.

კაცობრიობა დღეს მსგავს მდგომარეობაშია პოტენციურად სუპერინტელექტუალური გონების ახალი ნაკრების მიმართ: ხელოვნური ინტელექტი. ხალხმა იცის, რომ მოდელები შეიძლება წარმოუდგენლად ჭკვიანები იყვნენ, მაგრამ წარმოდგენა არ აქვთ როგორ მუშაობენ.

ჩვენი მისიაა ამ კითხვაზე პასუხის გაცემა - თანამედროვე სუპერინტელექტის გაგება და გამოყენება.

თქვენ გაქვთ მეხსიერების წარმოუდგენელი წარმატებების ისტორია, როგორ მოხვდით მეხსიერების ამ გამოწვევებში და როგორ დაგეხმარათ ეს ცოდნა მარსიანის კონცეფციაში?

სპორტის უმეტესობაში პროფესიონალ სპორტსმენს შეუძლია შეასრულოს დაახლოებით 2-3-ჯერ, ისევე როგორც საშუალო ადამიანმა (შეადარეთ რამდენად შორს შეუძლია საშუალო ადამიანმა დაარტყას მინდვრის კარს ან რამდენად სწრაფად ისვრის სწრაფ ბურთს პროფესიონალთან შედარებით). მეხსიერების სპორტი მომხიბლავია, რადგან საუკეთესო სპორტსმენებს შეუძლიათ დაიმახსოვრონ 100-ჯერ ან თუნდაც 1000-ჯერ მეტი, ვიდრე ჩვეულებრივი ადამიანი, რომელსაც ნაკლები ვარჯიში აქვს, ვიდრე სპორტის უმეტესობას. უფრო მეტიც, ხშირად ესენი არიან საშუალო ბუნებრივი მეხსიერების მქონე ადამიანები, რომლებიც თავიანთ შესრულებას მიაწერენ კონკრეტულ ტექნიკას, რომლის სწავლაც ნებისმიერს შეუძლია. მე მსურს კაცობრიობის ცოდნის მაქსიმიზაცია და მე მეხსიერების მსოფლიო ჩემპიონატები დავინახე, როგორც დაუფასებელი წარმოდგენა იმის შესახებ, თუ როგორ შეგვიძლია მივიღოთ არაჩვეულებრივი ანაზღაურება, რომელიც ზრდის ადამიანის ინტელექტს.

მე მსურდა მეხსიერების ტექნიკის დანერგვა მთელ საგანმანათლებლო სისტემაში, ამიტომ დავიწყე იმის შესწავლა, თუ როგორ შეეძლოთ NLP და LLM-ები დაეხმარონ დაყენების ხარჯების შემცირებას, რაც ხელს უშლის ყველაზე ეფექტური საგანმანათლებლო მეთოდების გამოყენებას ძირითად განათლების სისტემაში. მე და იაშმა შევქმენით პირველი LLM-ზე მომუშავე შემეცნებითი დამრიგებელი და ამან მიგვიყვანა იმით, რომ აღმოვაჩინეთ LLM-ის დანერგვის პრობლემები, რომელთა გადაჭრასაც დღეს ვეხმარებით.

Martian არსებითად აფერხებს გადაწყვეტილებას, თუ რა გამოიყენოს Large Language Model (LLM), რატომ არის ეს ამჟამად ასეთი მტკივნეული წერტილი დეველოპერებისთვის?

ენის მოდელების შექმნა უფრო ადვილი და მარტივი ხდება – გამოთვლის ღირებულება მცირდება, ალგორითმები უფრო ეფექტური ხდება და უფრო ღია კოდის ხელსაწყოები ხელმისაწვდომია ამ მოდელების შესაქმნელად. შედეგად, უფრო მეტი კომპანია და დეველოპერი ქმნის მორგებულ მოდელებს, რომლებიც მორგებულ მონაცემებზეა გაწვრთნილი. ვინაიდან ამ მოდელებს აქვთ სხვადასხვა ხარჯები და შესაძლებლობები, შეგიძლიათ მიიღოთ უკეთესი შესრულება მრავალი მოდელის გამოყენებით, მაგრამ ძნელია ყველა მათგანის ტესტირება და გამოსაყენებლად შესაფერისის პოვნა. ჩვენ ვზრუნავთ ამაზე დეველოპერებისთვის.

შეგიძლიათ განიხილოთ, თუ როგორ ხვდება სისტემას, თუ რა არის საუკეთესოდ გამოყენებული LLM თითოეული კონკრეტული ამოცანისთვის?

ჭაბურღილის მარშრუტიზაცია ფუნდამენტურად არის მოდელების გაგების პრობლემა. მოდელებს შორის ეფექტური მარშრუტისთვის, თქვენ უნდა გესმოდეთ, რა იწვევს მათ წარუმატებლობას ან წარმატებას. მოდელის რუკების საშუალებით ამ მახასიათებლების გაგების შესაძლებლობა გვაძლევს საშუალებას განვსაზღვროთ, რამდენად კარგად იმოქმედებს მოცემული მოდელი მოთხოვნის შესაბამისად, ამ მოდელის გაშვების გარეშე. შედეგად, ჩვენ შეგვიძლია გავაგზავნოთ ეს მოთხოვნა მოდელს, რომელიც საუკეთესო შედეგს გამოიღებს.

შეგიძლიათ განიხილოთ ხარჯების დაზოგვის ტიპი, რომელიც ჩანს LLM გამოყენებული ოპტიმიზაციის შედეგად?

ჩვენ მომხმარებლებს ვაძლევთ ნებას, დააკონკრეტოთ, თუ როგორ ცვლის ისინი ღირებულებასა და შესრულებას შორის. თუ მხოლოდ შესრულებაზე ზრუნავთ, ჩვენ შეგვიძლია გავასწროთ GPT-4 openai/evals-ზე. თუ თქვენ ეძებთ კონკრეტულ ხარჯს, რათა თქვენი ერთეულის ეკონომიკა იმუშაოს, ჩვენ გაძლევთ საშუალებას მიუთითოთ თქვენი მოთხოვნის მაქსიმალური ღირებულება, შემდეგ იპოვოთ საუკეთესო მოდელი ამ მოთხოვნის შესასრულებლად. და თუ გსურთ რაიმე უფრო დინამიური, ჩვენ გაძლევთ საშუალებას მიუთითოთ რამდენის გადახდა გსურთ უკეთესი პასუხისთვის – ამ გზით, თუ ორ მოდელს აქვს მსგავსი წარმადობა, მაგრამ დიდი განსხვავებაა ღირებულებაში, ჩვენ შეგვიძლია ნება მოგცეთ გამოიყენოთ ნაკლებად ძვირი მოდელები. . ჩვენმა ზოგიერთმა მომხმარებელმა დაინახა ღირებულების 12-ჯერ შემცირება.

როგორია თქვენი ხედვა მარსიანის მომავალზე?

ყოველ ჯერზე, როცა ვაუმჯობესებთ მოდელების ფუნდამენტურ გაგებას, ეს იწვევს AI-ის პარადიგმის ცვლილებას. დახვეწა იყო პარადიგმა, რომელსაც ამოძრავებდა შედეგების გაგება. მოწოდება არის პარადიგმა, რომელიც ამოძრავებს შეყვანის გაგებას. ეს ერთი განსხვავება მოდელების გაგებაში არის ის, რაც განასხვავებს ტრადიციულ ML-ს („მოდით ვავარჯიშოთ რეგრესორს“) და თანამედროვე გენერაციულ AI-ს („მოდით მოვუწოდებთ პატარას AGI“).

ჩვენი მიზანია თანმიმდევრულად მივაღწიოთ მიღწევებს ინტერპრეტაციაში, სანამ ხელოვნური ინტელექტის სრულად გაგება არ მოხდება და არ გვექნება დაზვერვის თეორია ისეთივე ძლიერი, როგორც ჩვენი ლოგიკის ან კალკულუსის თეორიები.

ჩვენთვის ეს ნიშნავს მშენებლობას. ეს ნიშნავს საოცარი ხელოვნური ინტელექტის ინსტრუმენტების შექმნას და ხალხის ხელში ჩაგდებას. ეს ნიშნავს ისეთი ნივთების გათავისუფლებას, რომლებიც არღვევს ყალიბს, რაც არავის გაუკეთებია აქამდე და რაც - ყველაფერზე მეტად - საინტერესო და სასარგებლოა.

სერ ფრენსის ბეკონის სიტყვებით, "ცოდნა არის ძალა". შესაბამისად, საუკეთესო გზა იმისთვის, რომ დავრწმუნდეთ, რომ ჩვენ გვესმის AI არის ძლიერი ინსტრუმენტების გამოშვება. ჩვენი აზრით, მოდელის როუტერი არის ასეთი ინსტრუმენტი. ჩვენ აღფრთოვანებული ვართ მისი აშენებით, გაზრდით და ხალხის ხელში ჩაგდებით.

ეს არის პირველი მრავალი ხელსაწყოდან, რომელსაც უახლოეს თვეებში ვაპირებთ გამოშვებას. ხელოვნური ინტელექტის მშვენიერი თეორიის აღმოსაჩენად, ხელოვნური ინტელექტის სრულიად ახალი ტიპის ინფრასტრუქტურის გასააქტიურებლად, რათა დაეხმაროს ნათელი მომავლის შექმნას როგორც ადამიანებისთვის, ასევე მანქანებისთვის – ჩვენ მოუთმენლად ველით ამ ინსტრუმენტების გაზიარებას.

გმადლობთ შესანიშნავი ინტერვიუსთვის, მკითხველს, ვისაც სურს მეტი გაიგოს, უნდა ეწვიოს მარსიანი.