Kasus untuk Desentralisasi Teknologi AI Anda

Banyak dari percakapan tentang pengembangan AI telah didominasi oleh debat filosofis dan futuristik – apakah kita harus mendekati kecerdasan buatan umum, di mana AI akan menjadi cukup maju untuk melakukan tugas apa pun seperti manusia? Apakah itu memungkinkan?

Sementara diskusi tentang percepatan versus deselerasi sangat penting dan tepat waktu dengan kemajuan seperti model Q-star, aspek lain juga penting. Terutama, pentingnya mendesentralisasi tumpukan teknologi Anda, dan bagaimana melakukannya tanpa membuatnya terlalu mahal. Dua tantangan ini dapat terasa bertentangan: membangun dan mengirimkan model sangat mahal, tetapi terlalu bergantung pada satu model dapat berbahaya dalam jangka panjang. Saya tahu tantangan ini secara pribadi sebagai pendiri AI.

Untuk membangun kecerdasan, Anda memerlukan bakat, data, dan komputasi yang dapat diskalakan. Untuk mempercepat waktu ke pasar dan melakukan lebih banyak dengan kurang, banyak perusahaan akan memilih untuk membangun di atas model yang ada, bukan membangun dari awal. Dan pendekatan ini masuk akal ketika apa yang Anda bangun sangat intensif sumber daya. Menambah tantangan ini adalah bahwa, tidak seperti perangkat lunak, sebagian besar keuntungan yang diperoleh dalam AI telah dibuat dengan menambahkan lebih banyak skala, yang memerlukan lebih banyak daya komputasi dan biaya.

Tapi apa yang terjadi ketika perusahaan di mana Anda telah membangun solusi Anda mengalami kegagalan tata kelola atau gangguan produk? Dari sudut pandang praktis, bergantung pada satu model untuk membangun produk Anda berarti bahwa Anda sekarang menjadi bagian dari efek riak negatif untuk apa pun yang terjadi.

Kami juga harus mengingat risiko bekerja dengan sistem yang probabilistik. Kami tidak terbiasa dengan ini dan dunia yang kami tinggali sejauh ini telah dirancang untuk berfungsi dengan jawaban yang pasti. Modelnya cair dalam hal output, dan perusahaan secara terus-menerus menyesuaikan modelnya, yang berarti kode yang Anda tulis untuk mendukung ini dan hasil yang pelanggan Anda andalkan dapat berubah tanpa sepengetahuan atau kendali Anda.

Pengentralisasi juga menciptakan kekhawatiran keamanan karena memperkenalkan satu titik kegagalan. Setiap perusahaan bekerja untuk kepentingan terbaiknya sendiri. Jika ada kekhawatiran keamanan atau risiko dengan model, Anda memiliki kontrol yang jauh lebih sedikit untuk memperbaiki masalah tersebut atau akses yang lebih sedikit ke alternatif.

Di mana itu meninggalkan kita?

AI tanpa diragukan akan memperbaiki cara kita hidup. Ada banyak hal yang dapat dicapai dan diperbaiki, dari cara kita mengumpulkan informasi hingga cara kita memahami sejumlah besar data. Tapi dengan kesempatan itu juga datang risiko. Jika kita terlalu bergantung pada satu model, semua perusahaan membuka diri mereka untuk tantangan keamanan dan produk.

Untuk memperbaiki ini, kita perlu mengurangi biaya inferensi dan membuatnya lebih mudah bagi perusahaan untuk memiliki pendekatan multi-model. Dan tentu saja, semua ini berkaitan dengan data. Data dan kepemilikan data akan penting. Semakin unik, berkualitas, dan tersedia data, semakin berguna itu akan.

Untuk banyak masalah, Anda dapat mengoptimalkan model untuk aplikasi tertentu. Mil yang terakhir dari AI adalah perusahaan yang membangun logika pengaturan, evaluasi, dan lapisan orkestrasi di atas model yang berbeda, mengkhususkannya untuk vertikal yang berbeda.

Telah ada beberapa investasi substansial dalam ruang ini yang membawa kita lebih dekat ke tujuan ini. Putaran pendanaan terbaru Mistal yang mengesankan adalah perkembangan yang menjanjikan menuju alternatif OpenAI. Ada juga perusahaan yang membantu penyedia AI lain membuat multiplexing model lintas menjadi kenyataan dan mengurangi biaya inferensi melalui perangkat keras, perangkat lunak, dan distilasi model, sebagai contoh.

Kita juga akan melihat open-source mengambil alih, dan badan pemerintah harus memungkinkan open-source untuk tetap terbuka. Dengan model open-source, lebih mudah untuk memiliki kontrol yang lebih besar. Namun, kesenjangan kinerja masih ada.

Saya menganggap kita akan berakhir di dunia di mana Anda akan memiliki model junior yang dioptimalkan untuk melakukan tugas yang kurang kompleks dengan skala besar, sedangkan model super-inteligent yang lebih besar akan bertindak sebagai orakel untuk pembaruan dan akan semakin banyak menghabiskan komputasi untuk memecahkan masalah yang lebih kompleks. Anda tidak perlu model dengan satu triliun parameter untuk merespons permintaan layanan pelanggan. Saya menyamakan ini dengan tidak memiliki eksekutif senior yang mengelola tugas yang dapat ditangani oleh seorang magang. Seperti kita memiliki banyak peran untuk rekan kerja manusia, sebagian besar perusahaan juga akan bergantung pada koleksi model dengan berbagai tingkat kecerdasan.

Untuk mencapai keseimbangan ini, Anda perlu memiliki pemecahan tugas yang jelas dan benchmarking, mempertimbangkan waktu, kompleksitas komputasi, biaya, dan skala yang diperlukan. Bergantung pada kasus penggunaan, Anda dapat memprioritaskan sesuai dengan itu. Tentukan kebenaran dasar, hasil ideal untuk perbandingan, dan contoh data input dan output, sehingga Anda dapat menjalankan berbagai prompt untuk mengoptimalkan dan mendapatkan hasil terdekat dengan kebenaran dasar.

Jika perusahaan AI dapat berhasil mendesentralisasi tumpukan teknologi mereka dan membangun di atas model yang berbeda, kita dapat memperbaiki keamanan dan keandalan alat ini dan dengan demikian memaksimalkan dampak positif AI. Kita tidak lagi berada di tempat untuk debat teoretis – sudah waktunya untuk fokus pada bagaimana menggunakan AI untuk membuat teknologi ini lebih efektif dan tangguh.