Microsoft Mengalihkan Beban Kerja AI Office ke Model MAI untuk Mengurangi Biaya OpenAI dan Anthropic

Microsoft (MSFT ) mengalihkan beberapa beban kerja AI Office ke model MAI, mengurangi biaya OpenAI dan Anthropic sambil menjaga Copilot pada strategi model campuran.

Microsoft telah memulai pengalihan beberapa beban kerja AI Office ke model MAI internal untuk mengurangi biaya model luar. 

Pengalihan ini memengaruhi beberapa tugas di Excel dan Outlook, sementara OpenAI dan Anthropic masih menangani sebagian besar lalu lintas Copilot. 

Langkah ini menunjukkan bahwa Microsoft mengubah biaya penerapan AI menjadi prioritas bisnis yang lebih besar.

Microsoft Mengalihkan Lebih Banyak Tugas Office ke Model MAI

Microsoft sekarang menggunakan model MAI internal untuk puluhan ribu prompt setiap minggu di aplikasi Office. 

Beban kerja ini mencakup tugas-tugas tertentu di Excel dan Outlook, menurut Bloomberg. Namun, perusahaan masih mengandalkan OpenAI dan Anthropic untuk banyak permintaan produksi yang kompleks.

Perubahan ini tidak menandai pemutusan hubungan dengan mitra AI luar sepenuhnya. Sebaliknya, Microsoft menggunakan strategi model campuran di seluruh perangkat lunak produktivitasnya. 

Perusahaan dapat mengalihkan tugas yang lebih sederhana ke sistem yang lebih murah dan menyimpan model yang lebih kuat untuk pekerjaan yang lebih berat.

Pendekatan ini penting karena Copilot mengonsumsi sejumlah besar daya komputasi. 

Setiap permintaan pengguna menggunakan token, kapasitas GPU, memori, jaringan, dan sistem keamanan. Seiring dengan pertumbuhan adopsi, penghematan kecil per prompt dapat mengurangi biaya operasional yang besar.

Dorongan MAI Mengikuti Peluncuran Model Build

Microsoft memperkenalkan tujuh model MAI di konferensi pengembang Build pada bulan Juni. Lineup ini termasuk model untuk pengkodean, penalaran, transkripsi, generasi gambar, dan pekerjaan suara. 

Perusahaan memposisikan sistem-sistem tersebut sebagai pilihan yang lebih murah untuk beban kerja perusahaan tertentu.

Kepala AI Mustafa Suleyman telah mendorong perusahaan untuk mengurangi ketergantungan pada model Anthropic. Ia mengatakan bahwa Microsoft ingin mengurangi dan akhirnya menghilangkan biaya tersebut dari waktu ke waktu. Pesan tersebut menempatkan ekonomi model di pusat strategi AI perusahaan.

Microsoft juga telah membuat model MAI tersedia di GitHub Copilot. Selain itu, model transkripsinya akan mendukung Teams dan produk lainnya dalam penerapan mendatang. 

Langkah-langkah ini menunjukkan upaya yang lebih luas untuk meletakkan AI internal di seluruh alat kerja sehari-hari.

Menurut tweet dari Mario Nawfal, Microsoft juga melakukan pemutusan hubungan kerja sekitar 4.800 orang. Tweet tersebut mengatakan bahwa pengurangan tersebut memengaruhi sekitar 2% dari tenaga kerja global perusahaan. Ia juga mengatakan bahwa tim penjualan dan Xbox mengalami beberapa pengurangan terbesar.

Kontrol Biaya Menjadi Keunggulan AI

Microsoft mengatakan bahwa pemutusan hubungan kerja tersebut tidak disebabkan oleh AI yang langsung menggantikan pekerjaan. Namun, perusahaan telah mengakui bahwa AI terus mengubah cara kerja dilakukan. Pada saat yang sama, mereka terus menghabiskan banyak uang untuk infrastruktur AI.

Pengalihan Office memberi Microsoft lebih banyak kontrol atas biaya AI dan pengiriman produk. Mereka dapat menjalankan model mereka sendiri di Azure dan mengurangi pembayaran kepada penyedia luar. 

Mereka juga dapat memilih model berdasarkan biaya, kecepatan, kebutuhan data, dan kesulitan tugas.

Strategi ini menjaga OpenAI dan Anthropic di dalam tumpukan produk, tetapi mengubah peran mereka. Microsoft sekarang tampaknya memperlakukan model luar sebagai bagian dari portofolio yang lebih luas. Portofolio tersebut memberi perusahaan lebih banyak ruang untuk mengelola margin saat penggunaan AI tumbuh.

Bagi pelanggan perusahaan, perubahan ini menunjukkan pergeseran pasar AI yang lebih luas. Perusahaan sekarang ingin sistem yang memberikan kinerja yang tepat pada harga yang berkelanjutan. Microsoft bertaruh bahwa kesuksesan AI Office akan bergantung pada penerapan yang efisien, bukan hanya kekuatan model.