Dlaczego Dolina Krzemowa nie może „poruszać się szybko i łamać rzeczy” w przypadku sztucznej inteligencji

Ludzie mówią, że Dolina Krzemowa dojrzała poza podejściem „poruszaj się szybko, łam rzeczy, a potem napraw je później” i że firmy przyjęły wolniejsze, bardziej odpowiedzialne podejście do budowania przyszłości naszej branży.

Niestety, obecne trendy opowiadają inną historię.

Pomimo deklaracji, sposób, w jaki firmy budują rzeczy, jeszcze nie uległ zmianie. Start-upy technologiczne nadal działają na tym samym kodzie skrótów i fałszywych obietnic, a malejąca jakość produktów to potwierdza. „Poruszaj się szybko i łam rzeczy” to nadal dewiza Doliny Krzemowej – i nawet, jeśli naprawdę umarła, boom sztucznej inteligencji ożywił ją w pełni.

Ostatnie postępy w dziedzinie sztucznej inteligencji już radykalnie zmieniają sposób, w jaki pracujemy i żyjemy. W ciągu zaledwie kilku ostatnich lat sztuczna inteligencja przeszła od dziedziny profesjonalistów z dziedziny informatyki do narzędzia domowego dzięki szybkiemu rozprzestrzenianiu się narzędzi generatywnych sztucznej inteligencji, takich jak ChatGPT. Jeśli firmy technologiczne „poruszą się szybko i złamią rzeczy” ze sztuczną inteligencją, może nie być opcji „naprawy ich później”, zwłaszcza gdy modele są szkolone na wrażliwych danych osobowych. Nie można odwołać tego, co się stało, a echo będzie się rozchodzić przez społeczeństwo, potencjalnie powodując nieodwracalne szkody. Od złych deepfake’ów do schematów oszustw do kampanii dezinformacyjnych już widzimy negatywną stronę sztucznej inteligencji.

Jednocześnie jednak ta technologia ma moc zmienić nasze społeczeństwo na lepsze. Przyjęcie sztucznej inteligencji przez przedsiębiorstwa będzie tak rewolucyjne, jak przejście na chmurę; firmy całkowicie odbudują się na sztucznej inteligencji i staną się nieskończenie bardziej produktywne i wydajne dzięki temu. Na poziomie indywidualnym sztuczna inteligencja stanie się naszym zaufanym asystentem, pomagając nam w codziennych czynnościach, eksperymentowaniu twórczo i odblokowaniu nowej wiedzy i możliwości.

Przyszłość sztucznej inteligencji może być jasna, ale wymaga znaczącej zmiany kulturowej w miejscu, w którym ta przyszłość jest budowana.

Dlaczego „Poruszaj się szybko i łam rzeczy” jest niezgodne ze sztuczną inteligencją

„Poruszaj się szybko i łam rzeczy” opiera się na dwóch głównych założeniach: jeden, że wszystko, co nie działa przy starcie, można naprawić w późniejszej aktualizacji; i dwa, że jeśli „złamiesz rzeczy”, może to prowadzić do przełomów z wystarczająco kreatywnym kodowaniem i myśleniem poza schematami. I chociaż wiele wielkich innowacji wynikło z błędów, nie jest to penicylina czy Coca-Cola. Sztuczna inteligencja to niezwykle potężna technologia, która musi być traktowana z największą ostrożnością. Ryzyko naruszeń danych i przestępczego wykorzystania jest po prostu zbyt wysokie, aby je ignorować.

Niestety, Dolina Krzemowa ma zły nawyk gloryfikowania nieładu w procesie rozwoju. Firmy nadal promują nieustanną pracę, w której długie godziny i brak równowagi między pracą a życiem stają się konieczne, aby zrobić karierę. Start-upy i ich akcjonariusze wyznaczają nerealistyczne cele, które zwiększają ryzyko błędów i skrótów. Granice są przekraczane, gdy może nie powinny być. Te zachowania łączą się w toksyczną kulturę branży, która zachęca do pościgu za hiperami na koszt etyki.

Obecny temp rozwoju sztucznej inteligencji nie może być kontynuowany w tej kulturze. Jeśli sztuczna inteligencja ma rozwiązać niektóre z najbardziej palących problemów świata, musi być szkolona na bardzo wrażliwych informacjach, a firmy mają krytyczną odpowiedzialność za ochronę tych informacji.

Istnieje również poważne ryzyko związane z naruszeniami praw autorskich i własności intelektualnej, jak wynika z różnych pozwów federalnych w toku, dotyczących sztucznej inteligencji i praw autorskich. Bez odpowiednich zabezpieczeń przed naruszeniami praw autorskich i własności intelektualnej, ludzie tracą środki do życia.

Dla start-upu sztucznej inteligencji, który chce przyspieszyć rozwój i wejść na rynek, wydaje się to wiele do uwzględnienia – i tak jest. Ochrona ludzi i informacji wymaga ciężkiej pracy. Ale jest to niepodlegająca negocjacji praca, nawet jeśli zmusza deweloperów sztucznej inteligencji do większej staranności. W rzeczywistości twierdzę, że to jest korzyść. Buduj rozwiązania problemów zanim one wystąpią, a nie będziesz musiał naprawiać tego, co się rozpadnie na drodze.

Nowa dewiza: „Poruszaj się strategicznie, aby być niezłomnym”

W zeszłym maju Unia Europejska zatwierdziła pierwszy na świecie kompleksowy przepis dotyczący sztucznej inteligencji, przepis o sztucznej inteligencji, w celu zarządzania ryzykiem za pomocą rozległych wymogów transparentności i całkowitego zakazu technologii sztucznej inteligencji uznanych za nieakceptowalne ryzyko. Prawo to odzwierciedla historycznie ostrożne podejście Unii Europejskiej do nowych technologii, które rządzi strategiami rozwoju sztucznej inteligencji od pierwszych iskier obecnego boomu. Zamiast działać pod wpływem impulsu, kierując wszystkie środki venture i możliwości inżynieryjne w najnowszy trend bez właściwego planowania, te firmy wkładają swoje wysiłki w tworzenie czegoś, co będzie trwało.

To nie jest dominujące podejście w Stanach Zjednoczonych, pomimo licznych prób regulacji. Na froncie legislacyjnym poszczególne stany proponują głównie własne prawa, od wyraźnie niewystarczających do masowo przeszacowanych, takich jak proponowane przez Kalifornię SB-1047. Wszystko to dzieje się, gdy wyścig zbrojeń sztucznej inteligencji nasila się, a Dolina Krzemowa trwa przy swoich starych sposobach.

Inwestorzy venture są tylko paliwem dla problemu. Gdy inwestują w nowe start-upy, nie pytają o zabezpieczenia i kontrole bezpieczeństwa. Chcą uzyskać minimalnie przydatny produkt jak najszybciej, aby mogli zebrać swoje czeki. Dolina Krzemowa stała się miejscem, w którym rozwijają się szybko bogacące się schematy, gdzie ludzie chcą zarobić jak najwięcej pieniędzy, w jak najkrótszym czasie, robiąc jak najmniej pracy – i nie dbają o konsekwencje.

Dla ery sztucznej inteligencji chciałbym zaproponować zastąpienie „poruszaj się szybko i łam rzeczy” przez poruszaj się strategicznie, aby być niezłomnym. Może nie ma tego samego poetyckiego sznytu, co poprzednia, ale odzwierciedla mentalność, której potrzebuje Dolina Krzemowa w dzisiejszym krajobrazie technologicznym.

Jestem optymistą, że branża technologiczna może być lepsza, a zaczyna się to od przyjęcia podejścia ukierunkowanego na klienta i przyszłości, skupionego na tworzeniu produktów, które trwają, i utrzymaniu tych produktów w sposób, który buduje zaufanie u użytkowników. Bardziej uważne podejście sprawi, że ludzie i organizacje będą czuć się pewnie, wprowadzając sztuczną inteligencję do swojego życia – i to brzmi bardzo opłacalnie dla mnie.

Ku zrównoważonej przyszłości

Świat techniki cierpi na przytłaczającą presję, aby być pierwszym. Założyciele czują, że jeśli nie skoczą na następną wielką rzecz od razu, przegapią okazję. Oczywiście, być pierwszym może zwiększyć szanse na sukces, ale być „pierwszym” nie powinno odbywać się kosztem bezpieczeństwa i etyki.

Gdy Twoim celem jest zbudowanie czegoś, co będzie trwało, będziesz szukał bardziej starannie ryzyka i słabości. To jest również sposób, w jaki znajdziesz nowe możliwości przełomów i innowacji. Firmy, które mogą przekształcić słabości w siłę, są tymi, które mogą rozwiązać wyzwania jutra, dzisiaj.

Hype jest realny, a nowa era sztucznej inteligencji jest godna niego. Ale w naszym entuzjazmie, aby odblokować potencjał tej technologii, nie możemy zrezygnować z niezbędnych zabezpieczeń, które sprawią, że te produkty będą godne zaufania. Sztuczna inteligencja obiecuje poprawić nasze życie na lepsze, ale może również powodować niezmierne szkody, jeśli bezpieczeństwo i etyka nie będą integralną częścią procesu rozwoju.

Dla Doliny Krzemowej powinno to być wezwaniem do budzenia: czas porzucić mentalność „poruszaj się szybko, łam rzeczy, a potem napraw je później”. Bo nie ma „później”, gdy przyszłość jest już teraz.