Mengapa Lembah Silikon Tidak Dapat “Bertindak Cepat dan Merusak Hal-Hal” Ketika Datang ke AI

Orang mengatakan bahwa Lembah Silikon telah matang melampaui pola pikir yang bersemangat dari “bertindak cepat, merusak hal-hal, lalu memperbaikinya nanti,” dan bahwa perusahaan telah mengadopsi pendekatan yang lebih lambat dan lebih bertanggung jawab untuk membangun masa depan industri kita.

Sayangnya, tren saat ini menceritakan cerita yang berbeda.

Meskipun banyak lip service, cara perusahaan membangun hal-hal belum berubah secara nyata. Perusahaan rintisan teknologi masih berjalan dengan kode singkat dan janji palsu, dan kualitas produk yang menurun menunjukkannya. “Bertindak cepat dan merusak hal-hal” masih sangat banyak menjadi credo Lembah Silikon – dan, bahkan jika itu benar-benar telah mati, ledakan AI telah menghidupkannya kembali dengan kekuatan penuh.

Kemajuan terbaru dalam AI sudah secara radikal mengubah cara kita bekerja dan hidup. Dalam hanya beberapa tahun terakhir, AI telah berubah dari domain profesional ilmu komputer menjadi alat rumah tangga berkat proliferasi cepat alat AI generatif seperti ChatGPT. Jika perusahaan teknologi “bertindak cepat dan merusak hal-hal” dengan AI, mungkin tidak ada pilihan untuk “memperbaikinya nanti”, terutama ketika model dilatih pada data pribadi yang sensitif. Anda tidak dapat menghilangkan bel yang telah berbunyi, dan gema akan bergema di seluruh masyarakat, berpotensi menyebabkan kerusakan yang tidak dapat diperbaiki. Dari deepfakes berbahaya hingga skema penipuan hingga kampanye disinformasi, kita sudah melihat sisi negatif AI muncul.

Pada saat yang sama, teknologi ini memiliki kekuatan untuk mengubah masyarakat kita menjadi lebih baik. Adopsi AI oleh perusahaan akan menjadi revolusioner seperti peralihan ke cloud; perusahaan akan membangun kembali sepenuhnya pada AI, dan mereka akan menjadi jauh lebih produktif dan efisien karena itu. Pada tingkat individu, AI generatif akan menjadi asisten tepercaya kita, membantu kita menyelesaikan kegiatan sehari-hari, bereksperimen secara kreatif dan membuka pengetahuan dan peluang baru.

Masa depan AI dapat menjadi cerah, tetapi memerlukan pergeseran budaya besar di tempat di mana masa depan itu sedang dibangun.

Mengapa “Bertindak Cepat dan Merusak Hal-Hal” Tidak Kompatibel dengan AI

“Bertindak cepat dan merusak hal-hal” beroperasi pada dua asumsi utama: satu, bahwa apa pun yang tidak berfungsi pada peluncuran dapat diperbaiki dalam pembaruan selanjutnya; dan dua, bahwa jika Anda “merusak hal-hal”, itu dapat menyebabkan temuan dengan pemikiran kreatif dan pemecahan masalah di luar kotak. Dan sementara banyak inovasi hebat telah muncul dari kesalahan, ini bukan penisilin atau Coca-Cola. Kecerdasan buatan adalah teknologi yang luar biasa kuat yang harus ditangani dengan hati-hati.

Sayangnya, Lembah Silikon memiliki kebiasaan buruk untuk mengagungkan proses pengembangan yang berantakan. Perusahaan masih mempromosikan kerja keras tanpa henti, di mana jam kerja panjang dan kurangnya keseimbangan antara pekerjaan dan kehidupan menjadi penting untuk membuat karier. Perusahaan rintisan dan pemegang saham mereka menetapkan tujuan yang tidak realistis yang meningkatkan risiko kesalahan dan pemotongan sudut. Batas ditekan ketika, mungkin, seharusnya tidak. Perilaku ini bergabung menjadi budaya industri yang beracun yang mendorong pengejaran hype dengan mengorbankan etika.

Pace pengembangan AI saat ini tidak dapat berlanjut dalam budaya ini. Jika AI akan menyelesaikan beberapa masalah paling mendesak di dunia, maka akan harus dilatih pada informasi yang sangat sensitif, dan perusahaan memiliki tanggung jawab kritis untuk melindungi informasi tersebut.

Pengamanan memerlukan waktu untuk diimplementasikan, dan waktu adalah sesuatu yang Lembah Silikon yakin tidak memiliki. Sudah, kita melihat perusahaan AI melewati pengamanan yang diperlukan untuk kepentingan mengeluarkan produk baru. Ini mungkin memuaskan pemegang saham dalam jangka pendek, tetapi risiko jangka panjang menetapkan organisasi ini untuk kerusakan keuangan besar di masa depan – tidak untuk menyebutkan keruntuhan total dari setiap kepercayaan yang telah dibangun.

Ada juga risiko serius yang terkait dengan pelanggaran hak cipta dan pelanggaran IP, seperti yang dibuktikan oleh berbagai gugatan federal yang sedang berlangsung yang melibatkan AI dan hak cipta. Tanpa perlindungan yang tepat terhadap pelanggaran hak cipta dan pelanggaran IP, penghidupan orang-orang berisiko.

Bagi perusahaan rintisan AI yang ingin melewati pengembangan dan masuk ke pasar, ini tampak seperti banyak hal yang harus diperhitungkan – dan memang demikian. Melindungi orang dan informasi memerlukan kerja keras. Tapi itu adalah pekerjaan yang tidak dapat dinegosiasikan, bahkan jika itu memaksa pengembang AI untuk lebih berpikir. Bahkan, saya akan berargumen bahwa itu adalah manfaatnya. Bangun solusi untuk masalah sebelum mereka muncul, dan Anda tidak perlu memperbaiki apa pun yang rusak di jalan.

Sebuah Kreasi Baru: “Bertindak Strategis untuk Menjadi Tidak Rapuh”

Pada bulan Mei lalu, UE menyetujui hukum AI komprehensif pertama di dunia, Undang-Undang Kecerdasan Buatan, untuk mengelola risiko melalui persyaratan transparansi yang luas dan pelarangan teknologi AI yang dianggap risiko yang tidak dapat diterima. Hukum ini mencerminkan pendekatan UE yang historis yang hati-hati terhadap teknologi baru, yang telah mengatur strategi pengembangan AI sejak awal ledakan saat ini. Alih-alih bertindak tanpa pemikiran, mengarahkan semua dolar ventura dan kemampuan teknik mereka ke tren terbaru tanpa perencanaan yang tepat, perusahaan ini menginvestasikan upaya mereka untuk menciptakan sesuatu yang akan bertahan.

Ini bukanlah pendekatan yang berlaku di AS, meskipun ada banyak upaya untuk mengatur. Di tingkat legislatif, negara bagian individu sebagian besar mengusulkan undang-undang mereka sendiri, mulai dari tidak memadai hingga sangat berlebihan, seperti SB-1047 yang diusulkan California. Sementara itu, perlombaan senjata AI semakin intens, dan Lembah Silikon tetap pada cara lama.

Para pemodal ventura hanya memperburuk masalah. Ketika berinvestasi pada perusahaan rintisan baru, mereka tidak bertanya tentang pengamanan dan pemeriksaan keamanan. Mereka ingin mendapatkan produk minimum yang layak secepat mungkin sehingga mereka dapat mengumpulkan cek mereka. Lembah Silikon telah menjadi tempat berkembang biak skema cepat kaya, di mana orang ingin membuat sebanyak mungkin uang, dalam waktu sesingkat mungkin, dengan melakukan sesedikit mungkin pekerjaan – dan mereka tidak peduli dengan konsekuensinya.

Untuk era AI, saya ingin mengusulkan pengganti untuk “bertindak cepat dan merusak hal-hal”: bertindak strategis untuk menjadi tidak rapuh. Ini mungkin tidak memiliki kekuatan puisi yang sama dengan yang sebelumnya, tetapi itu mencerminkan pola pikir yang SV butuhkan dalam lanskap teknologi saat ini.

Saya optimis bahwa industri teknologi dapat menjadi lebih baik, dan itu dimulai dengan mengadopsi pola pikir yang berfokus pada pelanggan, berorientasi pada masa depan, dan fokus pada menciptakan produk yang tahan lama dan memelihara produk tersebut dengan cara yang memupuk kepercayaan dengan pengguna. Pendekatan yang lebih berpikir akan membuat orang dan organisasi merasa percaya diri tentang membawa AI ke dalam kehidupan mereka – dan itu terdengar cukup menguntungkan bagi saya.

Menuju Masa Depan yang Berkelanjutan

Dunia teknologi menderita tekanan yang luar biasa untuk menjadi yang pertama. Pendiri merasa bahwa jika mereka tidak melompat ke tren terbaru segera, mereka akan melewatkan kesempatan. Tentu saja, menjadi pelopor dapat meningkatkan peluang kesuksesan, tetapi menjadi “pertama” tidak boleh datang dengan mengorbankan keamanan dan etika.

Ketika tujuan Anda adalah membangun sesuatu yang tahan lama, Anda akan berakhir dengan mencari risiko dan kelemahan secara lebih menyeluruh. Ini juga bagaimana Anda menemukan peluang baru untuk temuan dan inovasi. Perusahaan yang dapat mengubah kekuatan menjadi kelemahan adalah mereka yang dapat menyelesaikan tantangan hari ini.

Hype adalah nyata, dan era baru AI layak untuk itu. Tapi dalam antusiasme kita untuk membuka kekuatan teknologi ini, kita tidak dapat melewatkan pengamanan yang diperlukan yang akan membuat produk ini dapat diandalkan dan tepercaya. AI berjanji untuk memperbaiki kehidupan kita untuk lebih baik, tetapi juga dapat menyebabkan kerusakan yang tidak terukur jika keamanan dan keselamatan tidak menjadi inti dari proses pengembangan.

Bagi Lembah Silikon, ini harus menjadi panggilan bangun: sudah waktunya untuk meninggalkan mentalitas “bertindak cepat, merusak hal-hal, lalu memperbaikinya nanti” di belakang. Karena tidak ada “nanti” ketika masa depan sudah ada.