Dlaczego Dolina Krzemowa nie może „poruszać się szybko i łamać rzeczy” w przypadku sztucznej inteligencji

Ludzie mówią, że Dolina Krzemowa przekroczyła już fazę gorących głów i mentalności „poruszaj się szybko, łam rzeczy, a potem napraw je później” i że firmy przyjęły wolniejsze, bardziej odpowiedzialne podejście do budowania przyszłości naszej branży.

Niestety, obecne trendy opowiadają inną historię.

Pomimo deklaracji, sposób, w jaki firmy budują rzeczy, jeszcze nie uległ zmianie. Start-upy technologiczne nadal działają według tego samego kodu skrótów i fałszywych obietnic, a malejąca jakość produktów to udowadnia. „Poruszaj się szybko i łam rzeczy” wciąż jest dewizą Doliny Krzemowej – i nawet, jeśli naprawdę umarła, boom sztucznej inteligencji ożywił ją w pełni.

Ostatnie postępy w dziedzinie sztucznej inteligencji już radykalnie zmieniają sposób, w jaki pracujemy i żyjemy. W ciągu zaledwie kilku ostatnich lat sztuczna inteligencja przeszła od dziedziny profesjonalistów z dziedziny informatyki do narzędzia gospodarstw domowych dzięki szybkiemu rozprzestrzenianiu się narzędzi generatywnych sztucznej inteligencji, takich jak ChatGPT. Jeśli firmy technologiczne „poruszą się szybko i złamią rzeczy” ze sztuczną inteligencją, może nie być opcji „naprawy ich później”, zwłaszcza, gdy modele są szkolone na wrażliwych danych osobowych. Nie można odwołać tego, co się stało, a echa będą odbijać się w społeczeństwie, potencjalnie powodując nieodwracalne szkody. Od złych deepfake’ów do schematów oszustw do kampanii dezinformacyjnych, już widzimy negatywną stronę sztucznej inteligencji.

Jednocześnie jednak ta technologia ma moc zmienić nasze społeczeństwo na lepsze. Przyjęcie sztucznej inteligencji przez przedsiębiorstwa będzie tak rewolucyjne, jak przejście do chmury; firmy całkowicie odbudują się na sztucznej inteligencji i staną się nieskończenie bardziej produktywne i wydajne dzięki temu. Na poziomie indywidualnym generatywna sztuczna inteligencja stanie się naszym zaufanym asystentem, pomagając nam w codziennych czynnościach, eksperymentowaniu twórczo i odblokowaniu nowej wiedzy i możliwości.

Przyszłość sztucznej inteligencji może być jasna, ale wymaga znaczącej zmiany kulturowej w miejscu, w którym ta przyszłość jest budowana.

Dlaczego „Poruszaj się szybko i łam rzeczy” jest niezgodne ze sztuczną inteligencją

„Poruszaj się szybko i łam rzeczy” opiera się na dwóch głównych założeniach: po pierwsze, że wszystko, co nie działa przy uruchomieniu, można naprawić w późniejszej aktualizacji; a po drugie, że jeśli „złamiesz rzeczy”, może to prowadzić do przełomów z wystarczającym kreatywnym kodowaniem i myśleniem poza schematami. I chociaż wiele wielkich innowacji wynikło z błędów, to nie jest penicylina czy Coca-Cola. Sztuczna inteligencja jest niezwykle potężną technologią, która musi być traktowana z największą ostrożnością. Ryzyko naruszeń danych i przestępczego wykorzystania jest po prostu zbyt wysokie, aby je ignorować.

Niestety, Dolina Krzemowa ma zły nawyk gloryfikowania nieporządku procesu rozwojowego. Firmy nadal promują nieustanną gonitwę, w której długie godziny i brak równowagi między pracą a życiem stają się konieczne, aby zrobić karierę. Start-upy i ich akcjonariusze ustalają nerealistyczne cele, które zwiększają ryzyko błędów i skrótów. Granice są przekraczane, gdy może nie powinny być. Te zachowania łączą się w toksyczną kulturę branży, która zachęca do gonitwy za hiperem na koszt etyki.

Obecny temp rozwoju sztucznej inteligencji nie może być kontynuowany w tej kulturze. Jeśli sztuczna inteligencja ma rozwiązać niektóre z najbardziej palących problemów świata, będzie musiała być szkolona na bardzo wrażliwych informacjach, a firmy mają krytyczną odpowiedzialność za ochronę tych informacji.

Zabezpieczenia wymagają czasu na wdrożenie, a czas jest czymś, czego Dolina Krzemowa jest głęboko przekonana, że nie ma. Już teraz widzimy, jak firmy sztucznej inteligencji rezygnują z niezbędnych barier bezpieczeństwa dla dobra pompowania nowych produktów. To może zadowolić akcjonariuszy w krótkim terminie, ale długoterminowe ryzyko naraża te organizacje na ogromne szkody finansowe w przyszłości – nie mówiąc już o całkowitej utracie zaufania, które wypracowały.

Istnieje również poważne ryzyko związane z naruszeniem praw autorskich i własności intelektualnej, jak świadczą o tym federalne pozwy w toku, dotyczące sztucznej inteligencji i praw autorskich. Bez właściwych zabezpieczeń przed naruszeniami praw autorskich i własności intelektualnej, ludzie są narażeni na utratę środków do życia.

Dla start-upu sztucznej inteligencji, który chce przyspieszyć rozwój i wejść na rynek, to wydaje się wiele do uwzględnienia – i tak jest. Ochrona ludzi i informacji wymaga ciężkiej pracy. Ale jest to niepodważalna praca, nawet jeśli zmusza deweloperów sztucznej inteligencji do większej refleksji. W rzeczywistości twierdzę, że to jest korzyść. Buduj rozwiązania problemów zanim one wystąpią, a nie będziesz musiał naprawiać tego, co się rozpadnie w przyszłości.

Nowa dewiza: „Poruszaj się strategicznie, aby być niezłomnym”

W zeszłym maju Unia Europejska zatwierdziła pierwszy na świecie kompleksowy przepis dotyczący sztucznej inteligencji, przepis o sztucznej inteligencji, w celu zarządzania ryzykiem poprzez rozległe wymagania transparentności i całkowite zakazanie technologii sztucznej inteligencji uznanych za niedopuszczalne ryzyko. Przepis odzwierciedla historycznie ostrożne podejście Unii Europejskiej do nowych technologii, które rządzi strategiami rozwoju sztucznej inteligencji od pierwszych iskier obecnego boomu. Zamiast działać pod wpływem impulsu, kierując wszystkie swoje dolary venture i możliwości inżynierskie w najnowszy trend bez właściwego planowania, te firmy wkładają swoje wysiłki w tworzenie czegoś, co przetrwa.

To nie jest dominujące podejście w Stanach Zjednoczonych, pomimo licznych prób regulacji. Na froncie legislacyjnym poszczególne stany proponują głównie własne prawa, od wyraźnie niewystarczających do masowo zbyt daleko idących, takich jak proponowane przez Kalifornię SB-1047. Wszystko to dzieje się, gdy wyścig zbrojeń sztucznej inteligencji nasila się, a Dolina Krzemowa trwa w swoich starych sposobach.

Inwestorzy venture tylko podsycają problem. Gdy inwestują w nowe start-upy, nie pytają o bariery bezpieczeństwa i kontrole. Chcą jak najszybciej wydać minimalnie przydatny produkt, aby mogli odebrać swoje czeki. Dolina Krzemowa stała się hodowla szybkich fortun, gdzie ludzie chcą zarobić jak najwięcej pieniędzy, w jak najkrótszym czasie, robiąc jak najmniej pracy – i nie dbają o konsekwencje.

Dla ery sztucznej inteligencji chciałbym zaproponować zastąpienie „poruszaj się szybko i łam rzeczy”: poruszaj się strategicznie, aby być niezłomnym. Może to nie brzmi tak poetycko jak poprzednia dewiza, ale odzwierciedla mentalność, której Dolina Krzemowa potrzebuje w dzisiejszym krajobrazie technologicznym.

Jestem optymistą, że branża technologiczna może być lepsza, i zaczyna się to od przyjęcia nastawienia ukierunkowanego na klienta i przyszłość, skupionego na tworzeniu produktów, które przetrwają, i utrzymaniu tych produktów w sposób, który budzi zaufanie u użytkowników. Bardziej uważne podejście sprawi, że ludzie i organizacje będą czuć się pewnie, wprowadzając sztuczną inteligencję do swojego życia – i to brzmi bardzo opłacalnie dla mnie.

Ku zrównoważonej przyszłości

Świat techniki cierpi na przytłaczającą presję, aby być pierwszym. Założyciele czują, że jeśli nie skoczą na następną wielką rzecz od razu, przegapią okazję. Oczywiście, być pierwszym może zwiększyć szanse na sukces, ale być „pierwszym” nie powinno odbywać się kosztem bezpieczeństwa i etyki.

Gdy twoim celem jest zbudowanie czegoś, co przetrwa, będziesz szukał bardziej starannie ryzyka i słabości. To jest również sposób, w jaki znajdujesz nowe możliwości przełomów i innowacji. Firmy, które mogą przekształcić słabości w siłę, są tymi, które mogą rozwiązać wyzwania jutra już dziś.

Hype jest realny, a nowa era sztucznej inteligencji jest godna tego. Ale w naszym entuzjazmie, aby odblokować potęgę tej technologii, nie możemy zrezygnować z niezbędnych zabezpieczeń, które sprawią, że te produkty będą godne zaufania i niezawodne. Sztuczna inteligencja obiecuje poprawić nasze życie na lepsze, ale może również powodować niewyobrażalne szkody, jeśli bezpieczeństwo i ochrona nie są integralną częścią procesu rozwoju.

Dla Doliny Krzemowej powinno to być wezwaniem do budzenia: czas zostawić mentalność „poruszaj się szybko, łam rzeczy, a potem napraw je później” w przeszłości. Bo nie ma „później”, gdy przyszłość jest już teraz.