Чому Долина Кремнієвої не може «Швидко рухатися і ламати речі» у випадку з AI

Люди кажуть, що Долина Кремнієва вийшла за рамки горячої голови «швидко рухатися, ламати речі, а потім виправляти їх пізніше» і що компанії прийняли більш повільний і відповідальний підхід до будівництва майбутнього нашої галузі.

На жаль, поточні тенденції розповідають іншу історію.

Незважаючи на словесні заяви, спосіб, у який компанії будують речі, ще не змінився. Технологічні стартапи все ще працюють за тим же кодом скорочень і фальшивих обіцянок, а зниження якості продукції показує це. «Швидко рухатися і ламати речі» все ще є девізом Долини Кремнієвої – і, навіть якщо він справді помер, бум штучного інтелекту оживив його в повній мірі.

Останні досягнення в галузі штучного інтелекту вже радикально змінюють спосіб, у який ми працюємо і живемо. За останні пару років штучний інтелект перейшов від області комп’ютерних наук до домашнього інструменту завдяки швидкому поширенню генеративних інструментів штучного інтелекту, таких як ChatGPT. Якщо технологічні компанії «швидко рухатися і ламати речі» з AI, може не бути варіанту «виправити їх пізніше», особливо коли моделі тренуються на чутливих особистих даних. Ви не можете видалити той дзвін, а відлуння буде відображатися у суспільстві, потенційно спричиняючи непоправної шкоди. Від зловмисних глибоких фейків до схем шахрайства до кампаній дезінформації ми вже бачимо негативну сторону AI.

У той же час, проте, ця технологія має силу змінити наше суспільство на краще. Підприємницьке впровадження AI буде так само революційним, як і перехід до хмари; компанії повністю перебудують свою діяльність на основі AI, і вони стануть нескінченно більш продуктивними та ефективними завдяки цьому. На індивідуальному рівні генеративний AI стане нашим довіреним помічником, допомагаючи нам виконувати повсякденні дії, експериментувати творчо і відкривати нові знання та можливості.

Майбутнє AI може бути яскравим, але для цього потрібно значна культурна зміна в місці, де будується це майбутнє.

Чому «Швидко рухатися і ламати речі» не сумісне з AI

«Швидко рухатися і ламати речі» працює на двох основних припущеннях: одне, що все, що не працює при запуску, можна виправити в пізнішому оновленні; і два, що якщо ви «ламаєте речі», це може привести до проривів з достатньою творчою кодуванням і мисленням поза рамками. І хоча багато великих інновацій вийшли з помилок, це не пеніцилін або Кока-Кола. Штучний інтелект – це надзвичайно потужна технологія, яку потрібно поводити з найбільшою обережністю. Ризики порушення даних і злочинного використання просто надто високі, щоб їх ігнорувати.

На жаль, Долина Кремнієва має погану звичку глорифікувати хаотичність процесу розробки. Компанії все ще пропагують безперервну роботу, при якій довгі години і відсутність балансу між роботою і особистим життям стають необхідними для кар’єрного росту. Стартапи та їх акціонери встановлюють нереалістичні цілі, які збільшують ризик помилок і обрізання кутів. Границі розширюються, коли, можливо, їх не слід було розширювати. Ці поведінки зливаються в токсичну індустріальну культуру, яка сприяє гонитві за гіпом на шкоду етиці.

Поточний темп розвитку AI не може продовжуватися в цій культурі. Якщо AI має вирішити деякі з найпресовуваніших проблем світу, йому потрібно буде тренуватися на високочутливих відомостях, і компанії мають критичну відповідальність за захист цих відомостей.

Захисні заходи потребують часу для реалізації, а часу Долина Кремнієва переконана, що не має. Вже зараз ми бачимо, як компанії AI відмовляються від необхідних бар’єрів заради випуску нових продуктів. Це може задовольнити акціонерів у короткій перспективі, але довгострокові ризики підлаштовують ці організації під величезну фінансову шкоду в майбутньому – не кажучи вже про повну втрату будь-якої доброї волі, яку вони створили.

Є також серйозний ризик, пов’язаний з порушенням авторських прав і прав інтелектуальної власності, як свідчать різні федеральні судові справи, що стосуються AI і авторських прав. Без належних захистів проти порушення авторських прав і порушень прав інтелектуальної власності життя людей під загрозою.

Для стартапу AI, який хоче пробити себе через розвиток і вийти на ринок, це здається很多, про що потрібно подумати – і це так. Захист людей і інформації потребує важкої роботи. Але це невід’ємна робота, навіть якщо це змушує розробників AI бути більш вдумливими. Насправді, я би сказав, що це перевага. Будуйте рішення проблем до того, як вони виникнуть, і вам не доведеться виправляти те, що зламається в майбутньому.

Новий девіз: «Швидко рухатися, щоб бути незламним»

У травні цього року Євросоюз схвалив перший у світі комплексний закон про AI, Закон про штучний інтелект, для управління ризиками через широкі вимоги прозорості та прямий забор технологій AI, які вважаються неприйнятним ризиком. Закон відображає історично обережний підхід Євросоюзу до нових технологій, який керував стратегіями розвитку AI з початку поточного буму. Замість того, щоб діяти на імпульсі, спрямовуючи всі свої风险ові долари і інженерні можливості в останню тенденцію без належного планування, ці компанії вкладають свої зусилля в створення чогось, що буде тривати.

Це не є панівним підходом у США, незважаючи на численні спроби регулювання. На законодавчому фронті окремі штати в основному пропонують свої власні закони, від вкрай недостатніх до масивно надмірних, таких як запропонований законопроект Каліфорнії SB-1047. Усі ці часи гонка AI посилюється, а Долина Кремнієва продовжує свої старі звички.

Вентурні капіталісти тільки підпалюють проблему. Коли вони інвестують у нові стартапи, вони не запитують про бар’єри і заходи безпеки. Вони хочуть випустити мінімально життєздатний продукт якомога швидше, щоб зібрати свої чеки. Долина Кремнієва стала місцем розмноження схем швидкого збагачення, де люди хочуть заробити якомога більше грошей, за якомога менше часу, роблячи якомога менше роботи – і їм байдужі наслідки.

Для епохи AI я хотів би запропонувати заміну «швидко рухатися і ламати речі»: швидко рухатися, щоб бути незламним. Це може не мати такої самої поетичної сили, як попереднє, але воно відображає спосіб мислення, який потрібен Долині Кремнієвій у сучасному технологічному ландшафті.

Я оптимістично налаштований щодо того, що технологічна галузь може бути кращою, і це починається з прийняття клієнто-орієнтованого, майбутнього-орієнтованого мислення, спрямованого на створення продуктів, які тривають, і підтримання цих продуктів таким чином, щоб культивувати довіру з боку користувачів. Більш вдумливий підхід зробить людей і організації впевненими у тому, що вони можуть привнести AI у своє життя – і це звучить досить прибутково для мене.

У напрямку до сталого майбутнього

Технологічний світ страждає від надмірного тиску, щоб бути першим. Засновники відчувають, що якщо вони не стрибнуть на наступну велику річ одразу, вони пропустять корабель. Звичайно, бути першим рухом може збільшити ваші шанси на успіх, але бути «першим» не повинно відбуватися за рахунок безпеки і етики.

Коли ваша мета – побудувати щось, що триватиме, ви будете шукати ризики і слабкості більш彻но. Це також спосіб знайти нові можливості для проривів і інновацій. Компанії, які можуть перетворити слабкості на сильні сторони, – це ті, які можуть вирішити виклики завтрашнього дня сьогодні.

Гіп є реальним, і нова епоха AI є гідною цього. Але в нашому ентузіазмі розблокувати потенціал цієї технології ми не можемо відмовитися від необхідних заходів безпеки, які зроблять ці продукти надійними і довіреними. AI обіцяє покращити наш життя на краще, але він також може спричинити необмежену шкоду, якщо безпека і безпека не будуть ядром процесу розробки.

Для Долини Кремнієвої це має бути сигналом пробудження: час залишити менталітет «швидко рухатися, ламати речі, а потім виправляти їх пізніше» позаду. Бо немає «пізніше», коли майбутнє вже зараз.