Mengapa Lembah Silikon Tidak Dapat “Bertindak Cepat dan Menghancurkan Hal-Hal” Ketika Berhadapan dengan AI

Orang-orang mengatakan bahwa Lembah Silikon telah matang di luar pola pikir yang impulsif dari “bertindak cepat, menghancurkan hal-hal, lalu memperbaikinya nanti,” dan bahwa perusahaan telah mengadopsi pendekatan yang lebih lambat dan lebih bertanggung jawab dalam membangun masa depan industri kita.

Sayangnya, tren saat ini menceritakan cerita yang berbeda.

Meskipun banyak lip service, cara perusahaan membangun hal-hal belum berubah. Perusahaan rintisan teknologi masih berjalan dengan kode singkat dan janji palsu, dan kualitas produk yang menurun menunjukkannya. “Bertindak cepat dan menghancurkan hal-hal” masih sangat hidup sebagai credo Lembah Silikon – dan, bahkan jika itu benar-benar telah mati, ledakan AI telah menghidupkannya kembali dengan kekuatan penuh.

Prestasi terbaru dalam AI sudah secara radikal mengubah cara kita bekerja dan hidup. Dalam hanya beberapa tahun terakhir, AI telah berubah dari domain profesional ilmu komputer menjadi alat rumah tangga berkat proliferasi cepat alat AI generatif seperti ChatGPT. Jika perusahaan teknologi “bertindak cepat dan menghancurkan hal-hal” dengan AI, mungkin tidak ada pilihan untuk “memperbaikinya nanti”, terutama ketika model dilatih pada data pribadi yang sensitif. Anda tidak bisa menghilangkan bel yang telah berbunyi, dan gema akan bergema di seluruh masyarakat, berpotensi menyebabkan kerusakan yang tidak dapat diperbaiki. Dari deepfakes jahat hingga skema penipuan hingga kampanye disinformasi, kita sudah melihat sisi negatif AI muncul.

Pada saat yang sama, teknologi ini memiliki kekuatan untuk mengubah masyarakat kita untuk lebih baik. Adopsi AI oleh perusahaan akan menjadi revolusioner seperti perpindahan ke awan; perusahaan akan membangun kembali sepenuhnya di atas AI, dan mereka akan menjadi tak terhingga lebih produktif dan efisien karena itu. Pada tingkat individu, AI generatif akan menjadi asisten tepercaya kita, membantu kita menyelesaikan kegiatan sehari-hari, bereksperimen secara kreatif dan membuka pengetahuan dan peluang baru.

Masa depan AI dapat menjadi cerah, tetapi memerlukan perubahan budaya besar di tempat masa depan itu dibangun.

Mengapa “Bertindak Cepat dan Menghancurkan Hal-Hal” Tidak Kompatibel dengan AI

“Bertindak cepat dan menghancurkan hal-hal” beroperasi pada dua asumsi utama: satu, bahwa apa pun yang tidak berfungsi pada peluncuran dapat diperbaiki dalam pembaruan selanjutnya; dan dua, bahwa jika Anda “menghancurkan hal-hal”, itu dapat menyebabkan temuan dengan pemikiran kreatif dan di luar kotak yang cukup. Dan sementara banyak inovasi hebat telah muncul dari kesalahan, ini bukan penisilin atau Coca-Cola. Kecerdasan buatan adalah teknologi yang luar biasa kuat yang harus ditangani dengan hati-hati. Risiko pelanggaran data dan penyalahgunaan kriminal terlalu tinggi untuk diabaikan.

Sayangnya, Lembah Silikon memiliki kebiasaan buruk untuk mengagungkan kekacauan proses pengembangan. Perusahaan masih mempromosikan kerja keras tanpa henti, di mana jam panjang dan kurangnya keseimbangan antara kehidupan kerja dan pribadi menjadi perlu untuk membuat karir. Perusahaan rintisan dan pemegang saham menetapkan tujuan yang tidak realistis yang meningkatkan risiko kesalahan dan pemotongan sudut. Batas-batas ditekan ketika, mungkin, mereka tidak boleh. Perilaku ini bergabung menjadi budaya industri yang beracun yang mendorong hype-chasing dengan mengorbankan etika.

Kecepatan pengembangan AI saat ini tidak dapat dilanjutkan dalam budaya ini. Jika AI akan menyelesaikan beberapa masalah paling mendesak di dunia, maka itu harus dilatih pada informasi yang sangat sensitif, dan perusahaan memiliki tanggung jawab kritis untuk melindungi informasi tersebut.

Perlindungan membutuhkan waktu untuk diimplementasikan, dan waktu adalah sesuatu yang Lembah Silikon yakin tidak memiliki. Sudah, kita melihat perusahaan AI melewati perlindungan yang diperlukan demi mengeluarkan produk baru. Ini mungkin memuaskan pemegang saham dalam jangka pendek, tetapi risiko jangka panjang menetapkan organisasi ini untuk kerusakan keuangan besar di masa depan – tidak hanya kerusakan nama baik yang telah mereka bangun.

Ada juga risiko serius yang terkait dengan pelanggaran hak cipta dan IP, seperti yang dibuktikan oleh berbagai gugatan federal yang sedang berlangsung yang melibatkan AI dan hak cipta. Tanpa perlindungan yang memadai terhadap pelanggaran hak cipta dan pelanggaran IP, mata pencaharian orang-orang berisiko.

Untuk perusahaan rintisan AI yang ingin meluncurkan pengembangan dan masuk ke pasar, ini tampak seperti banyak hal yang harus diperhitungkan – dan memang benar. Melindungi orang dan informasi membutuhkan kerja keras. Tetapi itu adalah pekerjaan yang tidak dapat dinegosiasikan, bahkan jika itu memaksa pengembang AI untuk lebih berpikir. Bahkan, saya akan berargumen bahwa itu adalah manfaatnya. Bangun solusi untuk masalah sebelum mereka muncul, dan Anda tidak perlu memperbaiki apa pun yang rusak di jalan.

Sebuah Kredo Baru: “Bertindak Strategis untuk Menjadi Tak Terhancurkan”

Bulan lalu, UE menyetujui hukum AI komprehensif pertama di dunia, Undang-Undang Kecerdasan Buatan, untuk mengelola risiko melalui persyaratan transparansi yang luas dan pelarangan teknologi AI yang dianggap risiko yang tidak dapat diterima. Hukum ini mencerminkan pendekatan UE yang historis yang hati-hati terhadap teknologi baru, yang telah mengatur strategi pengembangan AI sejak awal ledakan saat ini. Alih-alih bertindak secara impulsif, mengarahkan semua dolar ventura dan kemampuan teknik mereka ke tren terbaru tanpa perencanaan yang memadai, perusahaan ini menginvestasikan upaya mereka untuk menciptakan sesuatu yang akan bertahan.

Ini bukanlah pendekatan yang berlaku di AS, meskipun banyak upaya regulasi. Di tingkat legislatif, negara-negara individu sebagian besar mengusulkan undang-undang mereka sendiri, mulai dari tidak memadai hingga sangat berlebihan, seperti SB-1047 yang diusulkan California. Sementara itu, perlombaan senjata AI semakin intens, dan Lembah Silikon tetap pada cara lama.

Pengusaha modal ventura hanya memperburuk masalah. Ketika berinvestasi pada perusahaan rintisan baru, mereka tidak bertanya tentang perlindungan dan pemeriksaan keamanan. Mereka ingin mendapatkan produk minimum yang layak secepat mungkin sehingga mereka dapat mengumpulkan cek mereka. Lembah Silikon telah menjadi tempat berkembang biak skema cepat kaya, di mana orang ingin membuat uang sebanyak mungkin, dalam waktu sesingkat mungkin, dengan melakukan sesedikit mungkin pekerjaan – dan mereka tidak peduli dengan konsekuensinya.

Untuk era AI, saya ingin mengusulkan pengganti untuk “bertindak cepat dan menghancurkan hal-hal”: bertindak strategis untuk menjadi tak terhancurkan. Ini mungkin tidak memiliki kekuatan puisi yang sama dengan yang sebelumnya, tetapi itu mencerminkan pola pikir yang SV butuhkan dalam lanskap teknologi saat ini.

Saya optimis bahwa industri teknologi dapat menjadi lebih baik, dan itu dimulai dengan mengadopsi pola pikir yang berfokus pada pelanggan dan berorientasi pada masa depan, yang berfokus pada menciptakan produk yang tahan lama dan memelihara produk tersebut dengan cara yang memupuk kepercayaan dengan pengguna. Pendekatan yang lebih sadar akan membuat orang dan organisasi merasa percaya diri tentang membawa AI ke dalam hidup mereka – dan itu terdengar cukup menguntungkan bagi saya.

Menuju Masa Depan yang Berkelanjutan

Dunia teknologi menderita tekanan yang luar biasa untuk menjadi yang pertama. Pendiri merasa bahwa jika mereka tidak melompat ke tren berikutnya segera, mereka akan melewatkan kesempatan. Tentu saja, menjadi pelopor awal dapat meningkatkan peluang kesuksesan, tetapi menjadi “pertama” tidak boleh datang dengan mengorbankan keamanan dan etika.

Ketika tujuan Anda adalah membangun sesuatu yang tahan lama, Anda akan mencari risiko dan kelemahan dengan lebih teliti. Ini juga cara Anda menemukan peluang baru untuk temuan dan inovasi. Perusahaan yang dapat mengubah kekuatan menjadi kelemahan adalah mereka yang dapat menyelesaikan tantangan besok, hari ini.

Hype-nya nyata, dan era AI baru ini layak untuk hype. Tetapi dalam kegembiraan kita untuk membuka kekuatan teknologi ini, kita tidak dapat mengabaikan perlindungan yang diperlukan yang akan membuat produk ini dapat diandalkan dan tepercaya. AI berjanji untuk meningkatkan hidup kita untuk lebih baik, tetapi juga dapat menyebabkan kerusakan yang tidak terukur jika keamanan dan keselamatan tidak menjadi inti dari proses pengembangan.

Bagi Lembah Silikon, ini harus menjadi panggilan bangun: sudah waktunya untuk meninggalkan pola pikir “bertindak cepat, menghancurkan hal-hal, lalu memperbaikinya nanti” di belakang. Karena tidak ada “nanti” ketika masa depan sudah ada.