Этан Гинзберг, соучредитель Martian – серия интервью

Этан Гинзберг — соучредитель Марсианин, платформа, которая динамически направляет каждое приглашение к лучшему LLM. Благодаря маршрутизации Martian достигает более высокой производительности и более низких затрат, чем любой отдельный поставщик, включая GPT-4. Система построена на уникальной технологии Model Mapping, которая распаковывает LLM из сложных черных ящиков в более интерпретируемую архитектуру, что делает ее первым коммерческим применением механистической интерпретируемости.

Итан занимался программированием, дизайном веб-сайтов и созданием электронного бизнеса для клиентов с тех пор, как учился в средней школе. Эрудит Этан является участником чемпионата мира по запоминанию и занял второе место на чемпионате мира по скорочтению в Шэньчжэне, Китай.

Он участник видеохакатона. Среди прошлых наград — 3-е место на Tech Crunch SZ, 7 лучших финалистов Принстонского хакатона и 3 отраслевые награды на Йельском хакатоне.

Вы ранее дважды были основателем стартапа. Что это были за компании и чему вы научились из этого опыта?

Моя первая компания стала первой платформой для продвижения и продвижения американского спорта ниндзя. Еще в 2012 году я рассматривал American Ninja Warrior как подпольный вид спорта (сродни ММА в 90-х) и создал первую платформу, где люди могли покупать чертежи, заказывать препятствия и находить тренажерные залы для тренировок. Я консультировал компании, желающие открыть свои собственные тренажерные залы, включая помощь спецназу США в проведении учебного курса и масштабирование объекта от эскиза на салфетке до дохода в 300 тысяч долларов за первые 3 месяца. Хотя я учился в старшей школе, у меня был первый опыт управления командой из более чем 20 человек, и я узнал об эффективном управлении и межличностных отношениях.

Моей второй компанией была альтернативная компания по управлению активами, которую я основал в 2017 году, еще до волны ICO в сфере криптовалют. Это было мое первое знакомство с НЛП, где мы использовали анализ настроений данных социальных сетей в качестве инвестиционной стратегии.

Я изучил множество жестких и мягких навыков, необходимых для управления стартапом — от управления командой до технических аспектов НЛП. В то же время я многое узнал о себе и о том, чем хочу работать. Я считаю, что самые успешные компании создаются основателями, у которых есть более широкое видение или цель, движущая ими. Я оставил криптовалюту в 2017 году, чтобы сосредоточиться на НЛП, потому что увеличение и понимание человеческого интеллекта — это то, что меня действительно движет. Я был рад это обнаружить.

Во время учебы в Пенсильванском университете вы занимались исследованием искусственного интеллекта. Что именно вы исследовали?

Наши исследования изначально были сосредоточены на создании приложений LLM. В частности, мы работали над образовательными приложениями LLM и создавали первого когнитивного преподавателя на базе LLM. Результаты были довольно хорошими – мы увидели улучшение успеваемости студентов на 0.3 стандартного отклонения в ходе начального эксперимента – и нашу систему использовали от Университета Пенсильвании до Университета Бутана.

Можете ли вы рассказать, как это исследование привело вас к созданию Martian?

Поскольку мы были одними из первых, кто создавал приложения на основе LLM, мы также были одними из первых, кто столкнулся с проблемами, с которыми люди сталкиваются при создании приложений на основе LLM. Это направило наши исследования на уровень инфраструктуры. Например, довольно рано мы настраивали меньшие модели на основе результатов более крупных моделей, таких как GPT-3, и настраивали модели на основе специализированных источников данных для таких задач, как программирование и решение математических задач. В конечном итоге это привело нас к проблемам с пониманием поведения модели и маршрутизацией модели.

Также интересно происхождение марсианского имени и его связь с интеллектом. Не могли бы вы рассказать историю того, как было выбрано это имя?

Наша компания была названа в честь группы венгерско-американских ученых, известных как «Марсиане». Эта группа, жившая в 20 веке, состояла из самых умных людей, когда-либо живших на свете:

• Самым известным среди них был Джон фон Нейман; он изобрел теорию игр, современную компьютерную архитектуру, теорию автоматов и внес фундаментальный вклад в десятки других областей.
• Пол Эрдош был самым плодовитым математиком всех времен, опубликовав более 1500 статей.
• Теодор фон Карман разработал фундаментальные теории аэродинамики и помог основать американскую космическую программу. Граница между Землей и космическим пространством, определенная человеком, названа «линией Кармана» в знак признания его работы.
• Лео Сцилард изобрел атомную бомбу, лучевую терапию и ускорители частиц.

Эти ученые и еще 14 подобных им (включая изобретателя водородной бомбы, человека, который ввел теорию групп в современную физику, а также фундаментальных авторов в таких областях, как комбинаторика, теория чисел, численный анализ и теория вероятностей) имели поразительное сходство – все они родились в одной и той же части Будапешта. Это заставило людей задаться вопросом: что было источником такого большого количества разведданных?

В ответ Сцилард пошутил: «Марсиане уже здесь, и они называют себя венграми!» На самом деле… никто не знает.

Человечество сегодня находится в аналогичном положении по отношению к новому набору потенциально сверхразумных разумов: искусственному интеллекту. Люди знают, что модели могут быть невероятно умными, но понятия не имеют, как они работают.

Наша миссия — ответить на этот вопрос — понять и использовать современный сверхинтеллект.

У вас есть история невероятных достижений в области памяти. Как вы погрузились в эти проблемы с памятью и как эти знания помогли вам с концепцией марсианина?

В большинстве видов спорта профессиональный спортсмен может показывать результаты примерно в 2-3 раза лучше, чем средний человек (сравните, насколько далеко средний человек может забить мяч с игры или как быстро он бросает быстрый мяч по сравнению с профессионалом). Виды спорта, занимающиеся памятью, увлекательны, потому что лучшие спортсмены могут запомнить в 100 или даже 1000 раз больше, чем средний человек, тренирующийся меньше, чем большинство видов спорта. Более того, зачастую это люди со средней природной памятью, которые приписывают свои достижения конкретным техникам, которым может научиться каждый. Я хочу максимизировать знания человечества, и я рассматривал чемпионаты мира по памяти как недооцененное понимание того, как мы можем добиться невероятных результатов, повышая человеческий интеллект.

Я хотел внедрить методы запоминания во всю систему образования, поэтому начал изучать, как НЛП и LLM могут помочь снизить затраты на установку, которые препятствуют использованию наиболее эффективных методов обучения в основной системе образования. Мы с Яшем создали первого когнитивного преподавателя на базе LLM, и это привело к тому, что мы обнаружили проблемы с развертыванием LLM, которые мы помогаем решить сегодня.

Martian, по сути, абстрагирует решение о том, какую модель большого языка (LLM) использовать. Почему в настоящее время это такая болевая точка для разработчиков?

Создавать языковые модели становится все проще и проще: стоимость вычислений снижается, алгоритмы становятся более эффективными, и для создания этих моделей доступно больше инструментов с открытым исходным кодом. В результате все больше компаний и разработчиков создают собственные модели, обучаемые на основе пользовательских данных. Поскольку эти модели имеют разную стоимость и возможности, вы можете повысить производительность, используя несколько моделей, но сложно протестировать их все и найти подходящие для использования. Мы позаботимся об этом для разработчиков.

Можете ли вы обсудить, как система понимает, какой LLM лучше всего использовать для каждой конкретной задачи?

Хорошая маршрутизация — это фундаментальная проблема понимания моделей. Для эффективного маршрутизации между моделями необходимо иметь возможность понимать, что приводит к их неудаче или успеху. Возможность понять эти характеристики с помощью сопоставления модели позволяет нам определить, насколько хорошо та или иная модель будет работать по запросу без необходимости запуска этой модели. В результате мы можем отправить этот запрос модели, которая даст наилучший результат.

Можете ли вы обсудить, какую экономию средств можно получить за счет оптимизации использования LLM?

Мы позволяем пользователям указывать, какой компромисс между стоимостью и производительностью они используют. Если вас волнует только производительность, мы можем превзойти GPT-4 на openai/evals. Если вам нужна конкретная стоимость, чтобы ваша юнит-экономика работала, мы позволяем вам указать максимальную стоимость для вашего запроса, а затем найти лучшую модель для выполнения этого запроса. А если вам нужно что-то более динамичное, мы позволяем вам указать, сколько вы готовы заплатить за лучший ответ — таким образом, если две модели имеют схожую производительность, но большую разницу в стоимости, мы можем позволить вам использовать менее дорогие модели. . Некоторые из наших клиентов добились снижения затрат до 12 раз.

Каким вы видите будущее Марса?

Каждый раз, когда мы улучшаем наше фундаментальное понимание моделей, это приводит к смене парадигмы ИИ. Точная настройка была парадигмой, основанной на понимании результатов. Подсказки — это парадигма, основанная на понимании входных данных. Это единственное различие в нашем понимании моделей во многом отличает традиционное машинное обучение («давайте обучим регрессор») и современный генеративный искусственный интеллект («давайте подскажем маленькому AGI»).

Наша цель — последовательно совершать прорывы в области интерпретируемости, пока ИИ не будет полностью понят и у нас не будет теории интеллекта, столь же надежной, как наши теории логики или исчисления.

Для нас это означает строительство. Это означает создание потрясающих инструментов искусственного интеллекта и передачу их в руки людей. Это значит выпускать вещи, которые ломают стереотипы, чего раньше никто не делал и которые — больше всего на свете — интересны и полезны.

Как говорил сэр Фрэнсис Бэкон: «Знание – сила». Соответственно, лучший способ убедиться в том, что мы понимаем ИИ, — это выпустить мощные инструменты. По нашему мнению, модельный фрезер является именно таким инструментом. Мы рады построить его, вырастить и передать в руки людей.

Это первый из многих инструментов, которые мы собираемся выпустить в ближайшие месяцы. Чтобы открыть прекрасную теорию искусственного интеллекта, создать совершенно новые типы инфраструктуры искусственного интеллекта, помочь построить светлое будущее как для человека, так и для машины — нам не терпится поделиться этими инструментами с вами.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Марсианин.