Почему Кремниевая долина не может «Двигаться быстро и ломать вещи», когда речь идет об ИИ

Люди говорят, что Кремниевая долина выросла из горячего темперамента «двигаться быстро, ломать вещи, а затем исправлять их позже», и что компании приняли более медленный и ответственный подход к строительству будущего нашей отрасли.

К сожалению, текущие тенденции рассказывают другую историю.

Несмотря на липкую риторику, способ, которым компании строят вещи, еще не изменился. Технологические стартапы все еще работают на том же коде сокращений и ложных обещаний, а понижающееся качество продуктов показывает это. «Двигаться быстро и ломать вещи» все еще является девизом Кремниевой долины – и, даже если он действительно умер, бум ИИ оживил его в полную силу.

Недавние достижения в области ИИ уже радикально меняют то, как мы работаем и живем. Только за последние пару лет ИИ перешел от области компьютерных специалистов к домашнему инструменту благодаря быстрому распространению генеративных инструментов ИИ, таких как ChatGPT. Если технологические компании «двигаются быстро и ломают вещи» с ИИ, может не быть возможности «исправить их позже», особенно когда модели обучаются на чувствительных личных данных. Вы не можете «разобрать» этот колокол, и его эхо будет звучать по всему обществу, потенциально причиняя непоправимый вред. От злонамеренных глубоких фейков до схем мошенничества до кампаний дезинформации, мы уже видим негативную сторону ИИ.

В то же время, однако, эта технология имеет силу изменить наше общество к лучшему. Корпоративное внедрение ИИ будет столь же революционным, как и переход к облаку; компании полностью перестроятся на ИИ и станут бесконечно более продуктивными и эффективными благодаря этому. На индивидуальном уровне генеративный ИИ станет нашим доверенным помощником, помогающим нам выполнять повседневные действия, творчески экспериментировать и открывать новые знания и возможности.

Почему «Двигаться быстро и ломать вещи» несовместимо с ИИ

«Двигаться быстро и ломать вещи» основано на двух основных предположениях: одно, что все, что не работает при запуске, можно исправить в более позднем обновлении; и два, что если вы «ломаете вещи», это может привести к прорывам с достаточным творческим кодированием и мышлением вне коробки. И хотя много великих инноваций возникло из ошибок, это не пенициллин или Кока-Кола. Искусственный интеллект – это чрезвычайно мощная технология, которая должна быть обработана с наибольшим осторожением. Риски утечки данных и преступного злоупотребления просто слишком высоки, чтобы их можно было игнорировать.

К сожалению, Кремниевая долина имеет плохую привычку прославлять беспорядочность процесса разработки. Компании все еще пропагандируют неустанную работу, при которой долгие часы и отсутствие баланса между работой и личной жизнью становятся необходимыми для построения карьеры. Стартапы и их акционеры ставят нереалистичные цели, которые увеличивают риск ошибок и обхода углов. Границы толкаются, когда, может быть, их не следует толкать. Это поведение объединяется в токсичную культуру отрасли, которая поощряет преследование хайпа за счет этики.

Текущий темп развития ИИ не может продолжаться в этой культуре. Если ИИ будет решать некоторые из наиболее насущных проблем мира, он будет должен обучаться на высоко чувствительной информации, и компании несут критическую ответственность за защиту этой информации.

Защитные меры требуют времени для реализации, и время – это то, чего Кремниевая долина убеждена, что у нее нет. Уже мы видим, как компании ИИ отказываются от необходимых ограничений ради выпуска новых продуктов. Это может удовлетворить акционеров в краткосрочной перспективе, но долгосрочные риски подвергают эти организации значительному финансовому ущербу в будущем – не говоря уже о полном крахе любой доброй воли, которую они выработали.

Также существует серьезный риск, связанный с нарушением прав интеллектуальной собственности, как свидетельствуют различные федеральные судебные дела по поводу ИИ и авторских прав. Без надлежащих защитных мер против нарушений авторских прав и прав интеллектуальной собственности средства к существованию людей находятся под угрозой.

Для стартапа ИИ, который хочет пробиться через разработку и выйти на рынок, это кажется многим, за что нужно отвечать – и это так. Защита людей и информации требует тяжелой работы. Но это неотъемлемая работа, даже если она заставляет разработчиков ИИ быть более вдумчивыми. На самом деле, я бы сказал, что это преимущество. Построение решений проблем до их возникновения означает, что вам не придется исправлять то, что сломается на дороге.

Новый девиз: «Двигаться стратегически, чтобы быть неразрушимым»

В прошлом мае ЕС одобрил первый в мире комплексный закон об ИИ, Закон об искусственном интеллекте, для управления рисками посредством обширных требований к прозрачности и полного запрета технологий ИИ, которые считаются неприемлемым риском. Закон отражает исторически осторожный подход ЕС к новым технологиям, который управлял его стратегиями развития ИИ с момента начала текущего бума. Вместо того, чтобы действовать на импульсе, направляя все свои венчурные доллары и инженерные возможности в последнюю моду без надлежащего планирования, эти компании вкладывают свои усилия в создание чего-то, что продлится.

Это не является доминирующим подходом в США, несмотря на многочисленные попытки регулирования. На законодательном фронте отдельные штаты в основном предлагают свои собственные законы, варьирующиеся от совершенно недостаточных до чрезвычайно превышающих, такие как предложенный законопроект SB-1047 в Калифорнии. Тем временем гонка ИИ интенсифицируется, и Кремниевая долина продолжает свои старые способы.

Венчурные капиталисты только усиливают проблему. Когда они инвестируют в новые стартапы, они не спрашивают о защитных барьерах и проверках безопасности. Они хотят выпустить минимально жизнеспособный продукт как можно быстрее, чтобы получить свои чеки. Кремниевая долина стала рассадником схем быстрого обогащения, где люди хотят заработать как можно больше денег, за как можно меньшее время, приложив как можно меньше усилий – и они не заботятся о последствиях.

Для эпохи ИИ я бы хотел предложить замену «двигаться быстро и ломать вещи»: двигаться стратегически, чтобы быть неразрушимым. Это может не иметь того же поэтического шарма, что и предыдущее, но оно отражает образ мышления, который нужен Кремниевой долине в сегодняшнем технологическом ландшафте.

Я оптимистично настроен относительно того, что технологическая отрасль может стать лучше, и все начинается с принятия ориентированного на клиента и будущее мышления, сосредоточенного на создании продуктов, которые прослужат долго, и поддержании этих продуктов таким образом, чтобы укреплять доверие пользователей. Более вдумчивый подход сделает людей и организации уверенными в том, что они могут внедрить ИИ в свою жизнь – и это звучит довольно прибыльно для меня.

К устойчивому будущему

Технологический мир страдает от подавляющего давления, чтобы быть первым. Основатели чувствуют, что если они не прыгнут на следующую большую вещь сразу, они пропустят лодку. Конечно, быть ранним новатором может увеличить ваши шансы на успех, но быть «первым» не должно происходить за счет безопасности и этики.

Когда ваша цель – построить что-то, что прослужит долго, вы будете более тщательно искать риски и слабости. Это также то, как вы найдете новые возможности для прорывов и инноваций. Компании, которые могут превратить сильные стороны в слабости, – это те, которые могут решить проблемы завтрашнего дня сегодня.

Гип вокруг ИИ реален, и новая эпоха ИИ заслуживает его. Но в нашем энтузиазме по поводу разблокировки потенциала этой технологии мы не можем отказаться от необходимых защитных мер, которые сделают эти продукты надежными и заслуживающими доверия. ИИ обещает улучшить нашу жизнь к лучшему, но он также может причинить неоценимый вред, если безопасность и безопасность не будут ядром процесса разработки.

Для Кремниевой долины это должно быть сигналом к пробуждению: пора оставить менталитет «двигаться быстро, ломать вещи, а затем исправлять их позже» позади. Потому что нет «позже», когда будущее сейчас.