Почему Кремниевая долина не может “Двигаться быстро и ломать вещи”, когда речь идет об ИИ

Люди говорят, что Кремниевая долина переросла горячую голову мышления “двигаться быстро, ломать вещи, а затем исправлять их позже” и что компании приняли более медленный, более ответственный подход к построению будущего нашей отрасли.

К сожалению, текущие тенденции рассказывают другую историю.

Несмотря на липкую службу, способ, которым компании строят вещи, еще не изменился фактически. Технологические стартапы все еще работают на том же коде сокращений и ложных обещаний, и понижение качества продуктов показывает это. “Двигаться быстро и ломать вещи” все еще является очень много кремниевой долины – и, даже если это действительно умерло, ИИ-бум оживил его в полную силу.

Недавние достижения в области ИИ уже радикально меняют способ, которым мы работаем и живем. Только за последние пару лет ИИ перешел от области компьютерных специалистов к домашнему инструменту благодаря быстрому распространению генеративных инструментов ИИ, таких как ChatGPT. Если технологические компании “двигаются быстро и ломают вещи” с ИИ, может быть, не будет варианта “исправить их позже”, особенно когда модели обучаются на чувствительных личных данных. Вы не можете разрушить колокол, и эхо будет звучать по всему обществу, потенциально вызывая непоправимый вред. От злонамеренных глубоких фейков до схем мошенничества до кампаний дезинформации, мы уже видим негативную сторону ИИ.

В то же время, однако, эта технология имеет силу изменить наше общество к лучшему. Корпоративное принятие ИИ будет столь же революционным, как и переход к облаку; компании полностью перестроят на ИИ, и они станут бесконечно более продуктивными и эффективными из-за этого. На индивидуальном уровне генеративный ИИ станет нашим доверенным помощником, помогающим нам выполнять повседневные действия, экспериментировать творчески и открывать новые знания и возможности.

Будущее ИИ может быть ярким, но оно требует значительного культурного сдвига в месте, где строится это будущее.

Почему “Двигаться быстро и ломать вещи” несовместимо с ИИ

“Двигаться быстро и ломать вещи” работает на двух основных предположениях: одно, что все, что не работает при запуске, можно исправить в более позднем обновлении; и два, что если вы “ломаете вещи”, это может привести к прорывам с достаточным творческим кодированием и мышлением вне коробки. И хотя много великих инноваций произошло из ошибок, это не пенициллин или Кока-Кола. Искусственный интеллект – это чрезвычайно мощная технология, которая должна быть обработана с наивысшей осторожностью. Риски нарушения данных и уголовного злоупотребления просто слишком высоки, чтобы их можно было игнорировать.

К сожалению, Кремниевая долина имеет плохую привычку прославлять беспорядочность процесса разработки. Компании все еще пропагандируют бесконечную работу, при которой длинные часы и отсутствие баланса между работой и личной жизнью становятся необходимыми для карьеры. Стартапы и их акционеры устанавливают нереалистичные цели, которые увеличивают риск ошибок и обрезания углов. Границы толкаются, когда, может быть, их не следует толкать. Это поведение объединяется в токсичную отраслевую культуру, которая поощряет преследование хайпа за счет этики.

Текущий темп развития ИИ не может продолжаться в этой культуре. Если ИИ будет решать некоторые из наиболее насущных проблем мира, он должен будет обучаться на высоко чувствительной информации, и компании имеют решающую ответственность за защиту этой информации.

Защитные меры требуют времени для реализации, и время – это то, в чем Кремниевая долина убеждена, что у нее нет. Уже мы видим, как компании ИИ отказываются от необходимых ограждений ради выпуска новых продуктов. Это может удовлетворить акционеров в краткосрочной перспективе, но долгосрочные риски ставят эти организации на пути к огромному финансовому вреду в будущем – не говоря уже о полном крахе любой доброй воли, которую они выработали.

Также существует серьезный риск, связанный с нарушением авторских прав и прав интеллектуальной собственности, как свидетельствуют различные федеральные судебные иски в игре, связанные с ИИ и авторскими правами. Без надлежащих защит от нарушения авторских прав и прав интеллектуальной собственности люди могут потерять средства к существованию.

Для стартапа ИИ, который хочет пробить через разработку и выйти на рынок, это кажется многое, что нужно учитывать – и это так. Защита людей и информации требует тяжелой работы. Но это неотъемлемая работа, даже если она заставляет разработчиков ИИ быть более вдумчивыми. На самом деле, я бы сказал, что это преимущество. Создание решений проблем до их возникновения, и вам не придется исправлять то, что сломается на дороге.

Новая кредо: “Двигаться стратегически, чтобы быть неразрушимым”

В прошлом мае ЕС одобрил первый в мире комплексный закон об ИИ, Закон об искусственном интеллекте, для управления рисками посредством обширных требований прозрачности и полного запрета технологий ИИ, которые считаются неприемлемым риском. Закон отражает исторически осторожный подход ЕС к новой технологии, который управлял его стратегиями развития ИИ с момента начала текущего бума. Вместо того, чтобы действовать на импульсе, направляя все свои венчурные доллары и инженерные возможности в последнюю тенденцию без надлежащего планирования, эти компании вкладывают свои усилия в создание чего-то, что продлится.

Это не является преобладающим подходом в США, несмотря на многочисленные попытки регулирования. На законодательном фронте отдельные штаты в основном предлагают свои собственные законы, варьирующиеся от совершенно неадекватных до чрезвычайно превышающих, такие как предложенный законопроект Калифорнии SB-1047. Все это время гонка ИИ интенсифицируется, и Кремниевая долина сохраняет свои старые способы.

Венчурные капиталисты только разжигают проблему. Когда они инвестируют в новые стартапы, они не спрашивают о ограждениях и проверках безопасности. Они хотят выпустить минимально жизнеспособный продукт как можно быстрее, чтобы они могли получить свои чеки. Кремниевая долина стала рассадником схем быстрого обогащения, где люди хотят заработать как можно больше денег, за как можно меньшее время, приложив как можно меньше усилий – и они не заботятся о последствиях.

Для эпохи ИИ я бы хотел предложить замену “двигаться быстро и ломать вещи”: двигаться стратегически, чтобы быть неразрушимым. Это может не иметь того же поэтического шарма, что и предыдущий, но оно отражает образ мышления, который нужен СВ в сегодняшнем технологическом ландшафте.

Я оптимистичен, что технологическая отрасль может быть лучше, и это начинается с принятия ориентированного на клиента, будущего-ориентированного образа мышления, сосредоточенного на создании продуктов, которые прослужат, и поддержании этих продуктов так, чтобы это способствовало доверию пользователей. Более вдумчивый подход сделает людей и организации уверенными в том, что они могут ввести ИИ в свою жизнь – и это звучит довольно прибыльно для меня.

К устойчивому будущему

Технологический мир страдает от подавляющего давления, чтобы быть первым. Основатели чувствуют, что если они не прыгнут на следующую большую вещь сразу, они пропустят лодку. Конечно, быть ранним движителем может увеличить ваши шансы на успех, но быть “первым” не должно происходить за счет безопасности и этики.

Когда ваша цель – построить что-то, что продлится, вы будете более тщательно искать риски и слабости. Это также то, как вы найдете новые возможности для прорывов и инноваций. Компании, которые могут превратить слабости в сильные стороны, – это те, которые могут решить проблемы завтрашнего дня, сегодня.

Гип – это реально, и новая эпоха ИИ заслуживает его. Но в нашем возбуждении, чтобы разблокировать силу этой технологии, мы не можем отказаться от необходимых мер предосторожности, которые сделают эти продукты надежными и заслуживающими доверия. ИИ обещает улучшить нашу жизнь к лучшему, но он также может причинить неисчислимый вред, если безопасность и безопасность не являются ядром процесса разработки.

Для Кремниевой долины это должно быть сигналом к пробуждению: пора оставить менталитет “двигаться быстро, ломать вещи, а затем исправлять их позже” позади. Потому что нет “позже”, когда будущее уже здесь.