Pertumbuhan Jumlah Perusahaan Teknologi yang Dibatalkan karena AI Washing

Pada 2024, 15 perusahaan teknologi AI ditekan oleh regulator karena melebih-lebihkan kemampuan produk mereka, dan jumlah tersebut telah lebih dari dua kali lipat dari 2023. Pengajuan terkait AI meningkat dan perusahaan teknologi bisa terjebak dalam perselisihan jika mereka tidak memahami regulasi yang muncul dan bagaimana menghindarinya.

Apa yang Salah dengan Pemasaran AI Hari Ini?

Sementara banyak orang familiar dengan frasa “greenwashing”, baru-baru ini muncul bentuk baru dari hipe sekitar kecerdasan buatan, dan itu disebut “AI washing”. Menurut BBC, fenomena AI washing dapat didefinisikan sebagai klaim menggunakan AI ketika sebenarnya metode komputasi yang kurang canggih digunakan. Mereka menjelaskan bahwa AI washing juga dapat terjadi ketika perusahaan melebih-lebihkan seberapa operasional AI mereka atau ketika perusahaan menggabungkan produk atau kemampuan bersama. Misalnya, ketika “perusahaan hanya memasang AI chatbot pada perangkat lunak operasional non-AI yang ada”.

Klaim AI yang dilebih-lebihkan berbahaya bagi pengguna dan pemangku kepentingan lainnya. Tiga kekhawatiran yang jelas tentang AI washing adalah:

• Pengguna membayar untuk sesuatu yang tidak mereka dapatkan
• Pengguna mengharapkan hasil yang tidak dapat dicapai
• Pemangku kepentingan perusahaan tidak tahu apakah mereka berinvestasi pada bisnis yang benar-benar berinovasi dengan AI

AI washing adalah masalah yang tumbuh ketika perusahaan teknologi bersaing untuk pangsa pasar yang lebih besar. Sebanyak 40% perusahaan yang menggambarkan diri mereka sebagai startup AI pada 2019 tidak memiliki teknologi kecerdasan buatan. Tekanan untuk menawarkan teknologi canggih lebih besar sekarang daripada lima tahun yang lalu.

Apa yang Mendorong AI Washing?

Para ahli memiliki beberapa teori tentang apa yang menyebabkan fenomena ini tumbuh. Douglas Dick, kepala teknologi risiko muncul di KPMG di Inggris, mengatakan kepada BBC bahwa itu adalah kurangnya definisi AI dan ambiguitas yang membuat AI washing memungkinkan.

Para ahli di Berkely percaya bahwa diskursus budaya organisasi bertanggung jawab atas AI washing, dan alasan utama untuk fenomena ini termasuk:

• Kurangnya pengetahuan teknis AI di kalangan kepemimpinan senior
• Tekanan untuk inovasi terus-menerus
• Short-termism dan hipe
• Ketakutan akan ketinggalan (FOMO)

AI washing juga dapat didorong oleh pendanaan. Investor ingin melihat inovasi konsisten dan mengungguli kompetitor. Bahkan jika merek belum sepenuhnya mengembangkan kemampuan AI, mereka dapat menarik perhatian investor dengan alat otomatisasi setengah jadi untuk mendapatkan modal tambahan.

Dengan pasar AI global yang diperkirakan akan mencapai sekitar $250M pada akhir 2025, mudah untuk memahami mengapa kereta penuh, dan startup yang ingin mendapatkan pendanaan dengan cepat menempelkan label AI pada apa saja. Sayangnya, regulator telah memperhatikan.

Perusahaan Teknologi AI Dituduh AI Washing

Perusahaan yang mengklaim menggunakan kecerdasan buatan sering hanya menggunakan teknik komputasi dan otomatisasi canggih. Kecuali infrastruktur ilmu data AI yang sebenarnya ada dengan algoritma pembelajaran mesin, jaringan saraf, pengolahan bahasa alami, pengenalan gambar, atau beberapa bentuk Gen AI, perusahaan mungkin hanya memasang cermin asap dengan klaim AI mereka.

Salah satu perusahaan teknologi HR AI yang disebut Joonko ditutup oleh SEC karena praktik penipuan.

Belajar dari Joonko

Joonko mengklaim bahwa mereka dapat membantu pemberi kerja mengidentifikasi near-hires sehingga pemberi kerja dapat menarik kandidat yang lebih beragam ke depan recruiter dan memiliki kesempatan lebih besar untuk direkrut. Ide tersebut adalah bahwa ini akan menciptakan kandidat yang lebih beragam untuk ditempatkan di depan recruiter dan memiliki kesempatan lebih besar untuk direkrut. Joonko sangat sukses dalam memasarkan AI-nya sehingga Eubanks menulis tentang Joonko dalam buku pertamanya, dan perusahaan tersebut mengumpulkan $27 juta dalam pendanaan VC antara 2021 dan 2022.

Ketika SEC menuduh mantan CEO Joonko dengan penipuan keamanan AI, itu karena dia telah salah menggambarkan jumlah dan nama pelanggan mereka. Dia mengklaim bahwa Joonka menjual ke kartu kredit global, perjalanan, dan merek mewah, dan memalsukan pernyataan bank dan pesanan pembelian untuk investor. CEO tersebut menerima tuduhan pidana tambahan atas tuduhan SEC terhadap perusahaan.

Belajar dari Codeway

Pada 2023, Codeway dituduh karena iklan menyesatkan di Instagram yang mengklaim bahwa AI mereka dapat memperbaiki foto yang buram. Iklan tersebut berbunyi “Perbaiki gambar Anda dengan AI” dan ketika ditantang oleh seorang pengadu, perusahaan gagal menunjukkan bagaimana aplikasi mereka dapat memperbaiki gambar yang buram tanpa bantuan proses peningkatan foto digital lainnya. Otoritas Standar Periklanan (ASA) mengabulkan keluhan tersebut dan melarang perusahaan untuk menjalankan iklan tersebut atau iklan lain yang serupa.

Contoh Lain

Di AS, FTC dan SEC baru-baru ini melakukan tindakan penegakan hukum, termasuk:

• Beberapa skema bisnis dihentikan setelah mengklaim bahwa orang dapat menggunakan AI untuk membuat uang dengan toko online
• Tuntutan sebesar lebih dari 190k dilakukan untuk layanan pengacara robot yang tidak efektif
• Perusahaan yang disebut Rytr LLC salah mengklaim bahwa mereka dapat membuat konten yang dihasilkan AI
• Tindakan penyelesaian terhadap IntelliVision Technologies untuk klaim yang menyesatkan tentang pengenalan wajah AI
• Delphia Inc. dan Global Predictions Inc. dituduh membuat klaim palsu tentang AI di situs web dan akun media sosial mereka

Regulasi yang Muncul

Pertumbuhan teknologi AI dan AI washing telah menarik perhatian regulator di seluruh dunia. Di Inggris, ASA sudah menetapkan preseden dengan mengajukan tuntutan terhadap iklan AI yang tidak terbukti.

Di Kanada, regulator menargetkan klaim yang tidak terbukti tentang AI serta bahan pemasaran yang menyesatkan atau terlalu mempromosikan teknologi AI. Administrator Sekuritas Kanada merilis pengumuman staf pada 7 November 2024 yang membagikan beberapa contoh apa yang mereka anggap sebagai AI washing:

• Perusahaan AI yang mengklaim bahwa penerbit mereka mengganggu industri mereka dengan teknologi AI paling canggih dan modern yang tersedia
• Perusahaan AI yang mengklaim bahwa mereka adalah pemimpin global dalam kategori AI mereka
• Perusahaan AI yang melebih-lebihkan penggunaan atau pentingnya mereka untuk industri

Di AS, ada regulasi spesifik negara bagian, seperti audit bias AI wajib di New York City yang setiap perusahaan teknologi AI yang beroperasi di sana harus miliki. Namun, tidak ada regulasi federal komprehensif yang membatasi pengembangan atau penggunaan AI. Pada Desember 2024, Kongres AS sedang mempertimbangkan lebih dari 120 tagihan AI yang berbeda. Regulasi tersebut akan mencakup semua mulai dari akses AI ke senjata nuklir hingga hak cipta, tetapi mereka akan bergantung pada langkah-langkah sukarela daripada protokol ketat yang dapat memperlambat kemajuan teknologi. Sementara tagihan tersebut diperdebatkan, ada patchwork hukum federal AS dalam departemen tertentu, seperti Administrasi Penerbangan Federal yang mengatakan bahwa AI di aviasi harus ditinjau.

Jangan Menjadi Pemalsu AI

Ketika regulator terus menegakkan berbagai tindakan terhadap pelaku AI washing, perusahaan teknologi harus memperhatikan. Setiap perusahaan yang mengklaim membuat teknologi AI yang sebenarnya harus dapat membuktikan klaim mereka. Tim pemasaran mereka harus menghindari melebih-lebihkan kemampuan produk AI perusahaan, serta hasil, pelanggan, dan pendapatan. Setiap perusahaan yang tidak yakin tentang teknologi atau pemasarannya harus meninjau legislasi yang muncul secara lokal dan dalam pasar yang mereka jual. Konsumen atau perusahaan yang mempertimbangkan untuk membeli teknologi AI harus melihat sangat dekat pada produk sebelum membelinya. Dengan kasus AI washing 2024 masih dalam tahap awal litigasi, cerita masih berkembang, tetapi satu hal yang pasti, Anda tidak ingin perusahaan Anda menjadi bagian darinya.