Ledakan AI Telah Mencapai Titik Tengah yang Menentukan: Apa yang Perusahaan Perlu Ketahui

Sekolah menengah pertama tidak pernah menjadi yang terbaik bagi siapa pun – tetapi kita semua harus melewatinya, dengan pertumbuhan dan kesulitan, untuk mencapai versi yang lebih baik dan lebih matang dari diri kita sendiri.

Booming AI saat ini memasuki masa remaja yang berantakan, sesuatu yang disebut para ahli sebagai messy middle antara adopsi dan kematangan. Hype awal telah memudar, dan sekarang, organisasi fokus pada membuat AI benar-benar operasional. Tetapi AI sedang dewasa dalam waktu yang sulit. Prediksi ada di mana-mana, skeptisisme tinggi di antara bisnis dan konsumen, dan pembicaraan tentang gelembung AI yang berkembang telah membuat pemimpin perusahaan waspada, menunggu ledakan yang ditakuti.

Pada saat yang menentukan ini, organisasi harus memisahkan sinyal dari kebisingan – apakah mereka beralih dari eksperimen ke aplikasi praktis, atau mengembangkan aplikasi praktis ke skala operasional. Ini memerlukan fokus pada faktor-faktor yang dapat dikendalikan, seperti infrastruktur dan kesiapan data; mengukur hasil; dan membangun fondasi untuk skala.

Pendekatan Infrastruktur Pertama

Kesiapan AI yang sebenarnya memerlukan infrastruktur yang tepat untuk mendukung penerapan AI yang berkelanjutan. Secara alami, AI telah meningkatkan permintaan layanan cloud: pengeluaran cloud diperkirakan akan meningkat 40% tahun ini, dengan infrastruktur sebagai item terbesar dalam anggaran, dan pusat data baru bermunculan di setiap benua untuk memenuhi permintaan yang meningkat untuk komputasi AI. Pada titik infleksi AI ini, pilihan infrastruktur adalah eksistensial. Infrastruktur menentukan apa yang aman, apa yang memungkinkan, dan apa yang sebenarnya akan menguntungkan bisnis, bukan menciptakan beban pada sumber daya.

Infrastruktur yang berkelanjutan didefinisikan oleh lebih dari hanya biaya dan daya komputasi total. Ketika menentukan di mana dan bagaimana untuk menghosting beban kerja AI mereka, organisasi harus mempertimbangkan masalah efisiensi sumber daya, keamanan, visibilitas, dan harga untuk kinerja. Infrastruktur AI tidak dapat menjadi investasi satu kali, tetapi proses yang berkelanjutan, yang dapat berkembang dengan permintaan setiap proyek.

Ini adalah perubahan yang mencolok dari pendekatan sejarah terhadap pengeluaran cloud. Sebelum booming AI saat ini, organisasi sering bergantung pada penyedia layanan cloud tunggal – biasanya hyperscaler – untuk menghosting operasi berbasis cloud mereka. Sekarang, kompleksitas dan keragaman beban kerja AI telah menantang model ini, terutama karena perusahaan bergerak menuju kasus penggunaan yang lebih praktis, dan cloud alternatif muncul untuk memenuhi permintaan.

Inisiatif AI modern memerlukan daya komputasi yang besar, yang dapat disediakan oleh Big 3. Retakan mulai terlihat ketika semua kekuatan itu menjadi terlalu banyak. Kontrak hyperscaler dapat mahal, membengkak dengan add-on yang tidak perlu, dan mungkin tidak menawarkan keamanan data dan tempat tinggal yang memadai untuk proyek yang sangat sensitif.

Sebagai gantinya, perusahaan dapat memanfaatkan kelas alternatif yang berkembang untuk mengkomposisi tumpukan mereka di seluruh penyedia yang berbeda, jenis GPU, dan pengaturan cloud publik/swasta berdasarkan kebutuhan mereka. Dengan cara ini, mereka tidak membayar untuk fitur yang tidak mereka butuhkan, sambil menyesuaikan cloud mereka untuk apa yang mereka butuhkan.

Pendekatan infrastruktur pertama untuk mencapai kematangan AI adalah tentang menciptakan fondasi yang stabil untuk skala, yang memaksimalkan efisiensi dan utilitas tanpa mengorbankan kekuatan.

Dari Eksperimen ke Aplikasi

Selama beberapa tahun terakhir, bisnis di seluruh dunia telah bereksperimen dengan cara untuk memasukkan AI ke dalam operasi mereka. Didorong oleh rasa ingin tahu dan sedikit hype, mereka telah mendorong batas-batas inovasi, membuka kemungkinan baru untuk efisiensi, dan meningkatkan potensi alat dan model sumber terbuka yang tak terhitung jumlahnya. Mereka juga telah berlari langsung ke kenyataan, mempelajari bahwa filosofi “bergerak cepat dan memecahkan hal-hal” di Silicon Valley tidak selalu cara yang tepat, terutama ketika datang ke teknologi yang kuat seperti AI.

Sekarang, ketika perusahaan muncul dari fase eksperimen ini, kegagalan tidak ada pilihan. Akurasi sangat penting. Kinerja tidak dapat tertinggal. Jika perusahaan ingin membangun kembali fungsi bisnis inti pada kerangka AI, mereka harus berfokus pada “bagian membosankan” yang membuat AI dari eksperimen kreatif menjadi pengganda kekuatan, termasuk:

• Keamanan dan privasi data: Banyak model AI menggunakan data pribadi dan bisnis yang sensitif untuk beroperasi secara efektif. Organisasi perlu yakin bahwa data mereka dihosting secara aman, tanpa risiko replikasi tidak sah atau “exposure AI gelap”.
• Pengelolaan siklus hidup model: Model harus akurat, mutakhir, dan secara teratur dilatih kembali untuk mendukung fungsi bisnis kritis.
• Konsistensi kinerja: Apakah mengirimkan model untuk penggunaan internal atau dalam operasi yang menghadap pelanggan, memastikan kinerja yang konsisten sangat penting untuk efisiensi dan kemudahan penggunaan. Banyak masalah kinerja umum, seperti yang terkait dengan latensi dan downtime, diselesaikan pada tingkat infrastruktur.

Saat ini, hanya 37% dari organisasi yang mengirimkan model generatif baru pada basis bulanan, mingguan, atau harian. Ketika lebih banyak organisasi memasuki fase aplikasi, persentase itu akan meningkat secara dramatis, menciptakan permintaan yang lebih besar untuk daya komputasi – tetapi juga infrastruktur yang disesuaikan dengan model tertentu. Model “ringan” tidak memerlukan fondasi hyperscaler, tetapi jika menggunakan informasi sensitif, mungkin memerlukan tingkat keamanan tersebut. Inilah di mana cloud kustom masuk – dan mengapa infrastruktur harus menjadi pertimbangan utama di tengah pergeseran AI perusahaan.

Dari Aplikasi ke Skala

Untuk bisnis yang lebih jauh di sepanjang kurva kematangan, aplikasi AI yang praktis sudah menjadi bagian dari operasi sehari-hari mereka. Sekarang, mereka bertujuan untuk mengembangkan aplikasi ini untuk menciptakan nilai yang lebih besar dan sepenuhnya mengembangkan perusahaan mereka.

Tekanan sedang, dan keuntungannya jelas: 81% dari organisasi pada tingkat kematangan AI tertinggi melaporkan hasil keuangan yang lebih baik dalam setahun terakhir. Ini adalah fase di mana aplikasi AI menjalani tes stres terbesar. Mereka mungkin lulus tes di lingkungan yang terkendali, tetapi dapat mereka mengkonsumsi lebih banyak data? Berfungsi di wilayah baru? Dan mungkin pertanyaan paling penting: dapat mereka menghasilkan hasil yang signifikan?

Skala adalah tentang tumbuh lebih besar, tetapi dalam beberapa kasus, kurang lebih. Bisnis pada fase ini harus mempertimbangkan apakah model bahasa kecil yang ditargetkan (SLM) mungkin berfungsi lebih baik daripada model bahasa besar yang serba guna (LLM). Inisiatif AI paling sukses ketika mereka dikaitkan dengan masalah bisnis nyata dan dapat menghasilkan hasil yang dapat diukur.

Polanya yang sama terjadi dalam aplikasi dan skala agen AI – frontier berikutnya dari AI otonom. Agen yang melakukan tugas domain-spesifik, yang diberitahu oleh dataset yang sangat fokus dan konsisten, adalah yang benar-benar memiliki dampak nyata di perusahaan. Namun, agen khusus masih memerlukan daya komputasi yang substansial, meskipun tidak sebanyak copilot serba guna. Mengutamakan infrastruktur dari awal akan memungkinkan organisasi untuk mengekstrak ROI yang sebenarnya dari inisiatif AI agen mereka tanpa meledakkan anggaran cloud mereka.

Inovasi dengan Dampak

“Lomba” AI kurang lebih lomba daripada renovasi: jika kita sedang membangun kembali perusahaan, kita ingin melakukannya di atas fondasi yang kuat – jika tidak, dindingnya pasti runtuh. Perusahaan harus mengambil waktu untuk berpikir tentang infrastruktur, memastikan perlindungan data, mengelola siklus hidup model, memantau kinerja, dan mengumpulkan wawasan serta membuat penyesuaian. Kesabaran dan ketekunan adalah kunci untuk menciptakan solusi yang benar-benar berfungsi, tetap aman, dan berfungsi secara konsisten.

Kebaruan dari siklus hype AI mungkin memudar, tetapi organisasi dapat melewati tahun-tahun pertengahan AI yang berantakan dengan menghidupkan tim mereka dengan apa yang paling penting: hasil.