Итън Гинсбърг, съосновател на Martian – Interview Series

Итън Гинсбърг е съосновател на марсианец, платформа, която динамично насочва всяка подкана към най-добрия LLM. Чрез маршрутизирането Martian постига по-висока производителност и по-ниска цена от всеки отделен доставчик, включително GPT-4. Системата е изградена върху уникалната технология на компанията за картографиране на модели, която разопакова LLM от сложни черни кутии в по-интерпретируема архитектура, което я прави първото търговско приложение на механистична интерпретируемост.

Итън кодира, проектира уебсайтове и изгражда електронен бизнес за клиенти откакто е бил в средното училище. Учен Итан е състезател на Световното първенство по памет и се класира на 2-ро място на Световното първенство по бързо четене в Шенжен, Китай.

Той е състезател във видео хакатон. Предишните награди включват 3-та награда на Tech Crunch SZ, топ 7 финалист на Princeton Hackathon и 3 индустриални награди на Yale Hackathon.

Вие сте предишен двукратен основател на стартъп, какви бяха тези компании и какво научихте от този опит?

Първата ми компания беше първата платформа за популяризиране и развитие на спорта American Ninja Warrior. През 2012 г. гледах на American Ninja Warrior като на подземен спорт (подобно на MMA през 90-те) и направих първата платформа, където хората могат да купуват чертежи, да поръчват препятствия и да намират зали за тренировки. Консултирах се с компании, които искат да започнат свои собствени фитнес зали, включително подпомагане на специалните сили на САЩ с курс на обучение и мащабиране на съоръжение от скица на салфетка до $300k приходи през първите 3 месеца. Въпреки че бях в гимназията, имах първия си опит в управлението на екипи от 20+ работници и научих за ефективно управление и междуличностни отношения.

Втората ми компания беше компания за алтернативно управление на активи, която съосновах през 2017 г. преди ICO вълната в крипто. Това беше първият ми контакт с НЛП, където използвахме анализ на настроенията на данни от социалните медии като инвестиционна стратегия.

Научих много от твърдите и меките умения, които влизат в управлението на стартъп - от това как да управлявам екип до техническите аспекти на НЛП. В същото време научих много за себе си и за това, в което исках да работя. Вярвам, че най-успешните компании се стартират от основатели, които имат по-широка визия или цел, която ги ръководи. Напуснах крипто през 2017 г., за да се съсредоточа върху НЛП, защото увеличаването и разбирането на човешкия интелект е нещо, което наистина ме движи. Радвах се да открия това.

Докато посещавахте Университета на Пенсилвания, вие направихте някои изследвания на ИИ, какво изследвахте конкретно?

Нашето изследване първоначално се фокусира върху изграждането на приложения на LLM. По-конкретно, работихме върху образователни приложения на LLMs и изграждахме първия когнитивен преподавател, задвижван от LLM. Резултатите бяха доста добри – видяхме подобрение с 0.3 стандартно отклонение в резултатите на учениците при първоначалното експериментиране – и нашата система беше използвана от Университета на Пенсилвания до Университета на Бутан.

Можете ли да обсъдите как това изследване ви доведе до съосноваването на Марсиан?

Тъй като ние бяхме едни от първите хора, създаващи приложения върху LLM, ние също бяхме едни от първите хора, които се сблъскаха с проблемите, с които хората се сблъскват, когато създават приложения върху LLM. Това насочи нашето изследване към инфраструктурния слой. Например, доста рано, ние прецизирахме по-малки модели на резултатите от по-големи модели като GPT-3 и фино настройвахме модели на специализирани източници на данни за задачи като програмиране и решаване на математически проблеми. Това в крайна сметка ни доведе до проблеми за разбирането на поведението на модела и за маршрутизирането на модела.

Произходът на марсианското име и връзката му с интелекта също е интересен, бихте ли споделили историята за това как е избрано това име?

Нашата компания е кръстена на група унгарско-американски учени, известни като „Марсианците”. Тази група, която е живяла през 20-ти век, е съставена от някои от най-умните хора, живели някога:

• Най-известният сред тях беше Джон фон Нойман; той изобрети теорията на игрите, съвременната компютърна архитектура, теорията на автоматите и направи фундаментален принос в десетки други области.
• Пол Ердос е най-продуктивният математик на всички времена, публикувал над 1500 статии.
• Теодор фон Карман създаде основните теории за аеродинамиката и помогна за създаването на американската космическа програма. Дефинираната от човека граница между Земята и космоса е наречена „линията на Карман“ в знак на признание за работата му.
• Лео Силард изобретил атомната бомба, лъчетерапията и ускорителите на частици.

Тези учени и 14 други като тях (включително изобретателят на водородната бомба, човекът, който въвежда теорията на групите в съвременната физика и фундаментален принос в области като комбинаторика, теория на числата, числен анализ и теория на вероятностите) споделят забележително сходство – всички те са родени в същата част на Будапеща. Това накара хората да се запитат: какъв е източникът на толкова много интелигентност?

В отговор Силард се пошегува, че „марсианците вече са тук и се наричат ​​унгарци!“ В действителност... никой не знае.

Човечеството днес се намира в подобна позиция по отношение на нов набор от потенциално свръхинтелигентни умове: Изкуственият интелект. Хората знаят, че моделите могат да бъдат невероятно умни, но нямат представа как работят.

Нашата мисия е да отговорим на този въпрос – да разберем и използваме модерния суперинтелект.

Имате история на невероятни паметови подвизи, как се потопихте в тези предизвикателства на паметта и как това знание ви помогна с концепцията за марсианец?

В повечето спортове професионалният спортист може да се представи около 2-3 пъти по-добре от средния човек (сравнете колко далеч може да ритне среден човек гол от игра или колко бързо хвърля бърза топка в сравнение с професионалист). Спортовете с памет са очарователни, защото най-добрите спортисти могат да запомнят 100 пъти или дори 1000 пъти повече от обикновения човек с по-малко тренировки от повечето спортове. Освен това, това често са хора със средна естествена памет, които приписват представянето си на специфични техники, които всеки може да научи. Искам да увелича максимално знанията на човечеството и видях световните първенства по памет като недооценено прозрение за това как можем да постигнем изключителна възвращаемост, увеличавайки човешкия интелект.

Исках да разположа техники за запаметяване в цялата образователна система, така че започнах да проучвам как НЛП и LLM могат да помогнат за намаляване на разходите за настройка, които пречат на най-ефективните образователни методи да бъдат използвани в масовата образователна система. Yash и аз създадохме първия когнитивен преподавател, задвижван от LLM, и това ни доведе до откриването на проблемите с внедряването на LLM, които сега помагаме да решим днес.

Марсиан по същество се абстрахира от решението какъв голям езиков модел (LLM) да използва, защо това в момента е толкова болезнена точка за разработчиците?

Създаването на езикови модели става все по-лесно и по-лесно – цената на изчисленията намалява, алгоритмите стават по-ефективни и са налични повече инструменти с отворен код за създаване на тези модели. В резултат на това повече компании и разработчици създават персонализирани модели, обучени на персонализирани данни. Тъй като тези модели имат различни разходи и възможности, можете да получите по-добра производителност, като използвате няколко модела, но е трудно да ги тествате всички и да намерите правилните за използване. Ние се грижим за това за разработчиците.

Можете ли да обсъдите как системата разбира какво LLM е най-добре да се използва за всяка конкретна задача?

Доброто маршрутизиране е фундаментално проблем за разбирането на моделите. За да насочвате ефективно между моделите, вие искате да можете да разберете какво ги кара да се провалят или да успеят. Възможността да разберем тези характеристики с картографирането на модела ни позволява да определим колко добре всеки даден модел ще работи при заявка, без да се налага да изпълняваме този модел. В резултат на това можем да изпратим тази заявка до модела, който ще даде най-добрия резултат.

Можете ли да обсъдите типа спестявания на разходи, които могат да се видят от оптимизирането на използваното LLM?

Ние позволяваме на потребителите да определят как да правят компромис между цена и производителност. Ако ви интересува само производителността, можем да надминем GPT-4 на openai/evals. Ако търсите конкретна цена, за да накарате вашата единица да работи, ние ви позволяваме да посочите максималната цена за вашата заявка, след което да намерите най-добрия модел за изпълнение на тази заявка. И ако искате нещо по-динамично, ние ви позволяваме да посочите колко сте готови да платите за по-добър отговор – по този начин, ако два модела имат сходна производителност, но голяма разлика в цената, можем да ви позволим да използвате по-евтините модели . Някои от нашите клиенти са видели до 12 пъти намаление на разходите.

Каква е вашата визия за бъдещето на Марсиан?

Всеки път, когато подобряваме фундаменталното си разбиране на моделите, това води до промяна на парадигмата за AI. Фината настройка беше парадигмата, движена от разбирането на резултатите. Подканянето е парадигмата, движена от разбирането на входящите данни. Тази единствена разлика в разбирането ни за моделите е голяма част от това, което отличава традиционния ML („да обучим регресор“) и съвременния генеративен AI („да подтикнем бебе AGI“).

Нашата цел е последователно да предоставяме пробиви в интерпретируемостта, докато ИИ не бъде напълно разбран и имаме теория за интелигентността, толкова стабилна, колкото нашите теории за логика или смятане.

За нас това означава изграждане. Това означава създаване на страхотни AI инструменти и предоставянето им в ръцете на хората. Това означава да пускате неща, които нарушават шаблона, което никой не е правил досега и които - повече от всичко друго - са интересни и полезни.

По думите на сър Франсис Бейкън „Знанието е сила“. Съответно, най-добрият начин да сме сигурни, че разбираме AI, е да пуснем мощни инструменти. Според нас моделът на рутер е такъв инструмент. Ние сме развълнувани да го изградим, да го развием и да го предоставим в ръцете на хората.

Това е първият от многото инструменти, които ще пуснем през следващите месеци. За да откриете красива теория за изкуствения интелект, да активирате изцяло нови видове AI инфраструктура, да помогнете за изграждането на по-светло бъдеще както за човека, така и за машината – нямаме търпение да споделим тези инструменти с вас.

Благодаря ви за страхотното интервю, читателите, които искат да научат повече, трябва да го посетят марсианец.