Explainability Bisa Ngarengsekeun Masalah AI Unggal Industri urang: Kurangna Transparansi

ku: Migüel Jetté, VP Biantara R&D, blk.

Dina tahap nascent na, AI mungkin geus bisa beristirahat dina laurels of newness. Henteu kunanaon pikeun diajar mesin diajar lalaunan sareng ngajaga prosés opak dimana itungan AI teu mungkin pikeun konsumen rata-rata nembus. Éta robah. Kusabab langkung seueur industri sapertos palayanan kaséhatan, kauangan sareng sistem kaadilan kriminal mimiti ngungkit AI ku cara anu tiasa gaduh dampak nyata dina kahirupan masarakat, langkung seueur jalma hoyong terang kumaha algoritma dianggo, kumaha data sumberna, sareng ngan ukur. kumaha akurat kamampuhna. Upami perusahaan hoyong tetep di payuneun inovasi di pasarna, aranjeunna kedah ngandelkeun AI anu bakal dipercanten ku pamiarsa. AI explainability mangrupakeun bahan konci pikeun deepen hubungan éta.

Katerangan AI bénten sareng prosedur AI standar sabab nawiskeun jalma cara ngartos kumaha algoritma pembelajaran mesin nyiptakeun kaluaran. AI anu tiasa dijelaskeun nyaéta sistem anu tiasa masihan jalma hasil poténsial jeung kakurangan. Éta mangrupikeun sistem pembelajaran mesin anu tiasa nyumponan kahayang manusa pikeun kaadilan, akuntabilitas sareng hormat ka privasi. AI anu tiasa dijelaskeun penting pikeun usaha ngawangun kapercayaan sareng konsumén.

Nalika AI ngembang, panyadia AI kedah ngartos yén kotak hideung henteu tiasa. Model kotak hideung didamel langsung tina data sareng sering henteu pamekar anu nyiptakeun algoritma tiasa ngaidentipikasi naon anu nyababkeun kabiasaan diajar mesin. Tapi konsumen anu ati-ati henteu hoyong kalibet ku hal anu teu tiasa ditembus éta henteu tiasa dipertanggungjawabkeun. Jalma-jalma hoyong terang kumaha algoritma AI ngahontal hasil anu khusus tanpa misteri input sumber sareng kaluaran anu dikontrol, khususna nalika kasalahan itungan AI sering disababkeun ku bias mesin. Nalika AI janten langkung maju, jalma-jalma hoyong aksés kana prosés diajar mesin pikeun ngartos kumaha algoritma éta ngahontal hasil khususna. Pamingpin di unggal industri kedah ngartos yén engké atanapi engké, jalma moal deui resep aksés ieu tapi nungtut salaku tingkat transparansi anu diperyogikeun.

Sistem ASR sapertos asisten anu diaktipkeun sora, téknologi transkripsi sareng jasa sanés anu ngarobih ucapan manusa kana téks khususna. diganggu ku bias. Nalika palayanan dianggo pikeun ukuran kaamanan, kasalahan kusabab aksen, umur atanapi latar tukang, tiasa janten kasalahan anu parah, janten masalahna kedah dilaksanakeun sacara serius. ASR tiasa dianggo sacara efektif dina kaméra awak pulisi, contona, pikeun ngarékam sareng nranskripsikeun interaksi sacara otomatis - nyimpen catetan anu, upami ditranskripsi sacara akurat, tiasa nyalametkeun nyawa. Prakték kajelasan bakal meryogikeun yén AI henteu ngan ukur ngandelkeun set data anu dibeli, tapi milarian ngartos karakteristik audio anu asup anu tiasa nyababkeun kasalahan upami aya. Naon profil akustik? Aya noise dina latar tukang? Naha panyaturna ti nagara non-Inggris atanapi ti generasi anu ngagunakeun kosakata anu AI henteu acan diajar? Pembelajaran mesin kedah proaktif dina diajar langkung gancang sareng éta tiasa ngamimitian ku ngumpulkeun data anu tiasa ngatasi variabel ieu.

Kabutuhanna janten atra, tapi jalan pikeun nerapkeun metodologi ieu moal salawasna gaduh solusi anu gampang. Jawaban tradisional pikeun masalahna nyaéta pikeun nambihan langkung seueur data, tapi solusi anu langkung canggih bakal diperyogikeun, khususna nalika set data anu dibeli seueur perusahaan anu nganggo sacara inherently bias. Ieu kusabab sajarahna, sesah ngajelaskeun kaputusan khusus anu dilakukeun ku AI sareng éta kusabab sifat pajeulitna modél tungtung-ka-tungtung. Nanging, urang ayeuna tiasa, sareng urang tiasa ngamimitian ku naroskeun kumaha jalma-jalma kaleungitan kapercayaan ka AI di tempat munggaran.

Inevitably, AI bakal nyieun kasalahan. Perusahaan kedah ngawangun modél anu sadar kana kakurangan poténsial, ngaidentipikasi iraha sareng dimana masalah éta lumangsung, sareng nyiptakeun solusi anu terus-terusan pikeun ngawangun modél AI anu langkung kuat:

1. Nalika aya anu salah, pamekar kedah ngajelaskeun naon anu kajantenan sareng ngamekarkeun rencana saharita pikeun ngaronjatkeun model ngurangan kahareup, kasalahan sarupa.
2. Pikeun mesin leres terang naha éta leres atanapi salah, para ilmuwan kedah nyieun loop eupan balik supados AI tiasa diajar kakuranganana sareng mekar.
3. Cara séjén pikeun ASR ngawangun kapercayaan nalika AI masih ningkat nyaéta nyieun sistem nu bisa nyadiakeun skor kapercayaan, sareng nawiskeun alesan kunaon AI kirang percaya diri. Contona, pausahaan ilaharna ngahasilkeun skor ti enol nepi ka 100 pikeun ngagambarkeun imperfections AI sorangan jeung ngadegkeun transparansi jeung konsumén maranéhanana. Dina mangsa nu bakal datang, sistem bisa nyadiakeun katerangan post-hoc naha audio ieu nangtang ku nawiskeun metadata leuwih ngeunaan audio, kayaning tingkat noise ditanggap atawa aksen kirang dipikaharti.

Transparansi tambahan bakal nyababkeun pangawasan manusa anu langkung saé pikeun latihan sareng kinerja AI. Beuki kami kabuka ngeunaan dimana urang kedah ningkatkeun, langkung tanggung jawab kami pikeun ngalakukeun tindakan pikeun perbaikan éta. Contona, panalungtik bisa hayang nyaho naha téks erroneous ieu kaluaran ngarah bisa mitigate masalah, bari transcriptionist a meureun hoyong bukti naha ASR misinterpreted input pikeun mantuan kalawan assessment maranéhanana validitas na. Ngajaga manusa dina loop tiasa ngirangan sababaraha masalah anu paling atra anu timbul nalika AI henteu dicentang. Éta ogé tiasa nyepetkeun waktos anu diperyogikeun pikeun AI pikeun nangkep kasalahanna, ningkatkeun sareng pamustunganana ngabenerkeun dirina sacara real waktos.

AI boga kamampuhan pikeun ngaronjatkeun kahirupan masarakat tapi ngan lamun manusa ngawangun éta pikeun ngahasilkeun bener. Urang kedah henteu ngan ukur tanggung jawab sistem ieu tapi ogé jalma-jalma di tukangeun inovasi. Sistem AI kahareupna dipiharep bakal patuh kana prinsip anu ditetepkeun ku jalma, sareng ngan dugi ka ayeuna urang bakal ngagaduhan sistem anu dipercaya ku masarakat. Waktosna pikeun netepkeun dasar sareng narékahan pikeun prinsip-prinsip éta ayeuna bari tungtungna tetep manusa ngalayanan diri urang sorangan.