Yaron Singer, CEO di Robust Intelligence & Professor of Computer Science di Harvard University - Wawancara Series

Yaron Singer nyaéta CEO AKAL Teguh sareng Profesor Ilmu Komputer sareng Matematika Terapan di Harvard. Yaron dipikanyaho pikeun hasil terobosan dina pembelajaran mesin, algoritma, sareng optimasi. Sateuacanna, Yaron damel di Google Research sareng nampi gelar PhD ti UC Berkeley.

Naon anu mimitina narik anjeun kana widang élmu komputer sareng pembelajaran mesin?

Perjalanan kuring dimimitian ku matématika, anu nyababkeun kuring kana élmu komputer, anu nyetél kuring dina jalur pikeun diajar mesin. Math mimitina narik minat kuring kusabab sistem axiomatic na masihan kuring kamampuan pikeun nyiptakeun dunya anyar. Kalayan élmu komputer, kuring diajar ngeunaan bukti eksistensial, tapi ogé algoritma di tukangeunana. Tina sudut pandang kreatif, élmu komputer mangrupikeun ngagambar wates antara naon anu urang tiasa sareng henteu tiasa laksanakeun.

Kapentingan kuring dina mesin learning geus salawasna geus rooted dina minat data nyata, ampir aspék fisik eta. Nyokot hal-hal tina dunya nyata sareng modeling aranjeunna pikeun ngajantenkeun hal anu bermakna. Urang sacara harfiah tiasa ngarékayasa dunya anu langkung saé ngalangkungan modél anu bermakna. Janten math masihan kuring dasar pikeun ngabuktikeun hal-hal, élmu komputer ngabantosan kuring ningali naon anu tiasa sareng henteu tiasa dilakukeun, sareng diajar mesin ngamungkinkeun kuring pikeun modél konsép ieu di dunya.

Nepi ka ayeuna anjeun janten Profesor Élmu Komputer sareng Matematika Terapan di Universitas Harvard, naon sababaraha hal penting anjeun tina pangalaman ieu?

Anu paling penting kuring janten anggota dosen di Harvard nyaéta ngembangkeun napsu pikeun ngalakukeun hal-hal anu ageung. Harvard tradisional boga fakultas leutik, jeung ekspektasi ti fakultas lagu ulayat nyaéta pikeun tackle masalah badag sarta nyieun widang anyar. Anjeun kudu wani. Ieu tungtungna janten préparasi anu saé pikeun ngaluncurkeun ngamimitian nyiptakeun kategori anu nangtukeun rohangan énggal. Abdi henteu kedah nyarankeun ngaliwat jalur tenurial Harvard heula-tapi upami anjeun salamet éta, ngawangun ngamimitian langkung gampang.

Naha anjeun tiasa ngajelaskeun momen 'aha' anjeun nalika anjeun sadar yén sistem AI anu canggih rentan ka data anu goréng, sareng sababaraha implikasi anu berpotensi jauh?

Nalika kuring mahasiswa pascasarjana di UC Berkeley, kuring nyandak sababaraha waktos pikeun ngamimitian ngamimitian anu ngawangun modél pembelajaran mesin pikeun pamasaran dina jaringan sosial. Ieu deui dina 2010. Urang tadi jumlahna masif data ti média sosial, sarta kami disandi sakabeh model ti scratch. Implikasi kauangan pikeun pangecér cukup signifikan ku kituna urang nuturkeun kinerja modél sacara raket. Kusabab kami nganggo data tina média sosial, aya seueur kasalahan dina input, ogé drift. Urang nempo yén kasalahan pisan leutik nyababkeun parobahan badag dina kaluaran modél sarta bisa ngahasilkeun hasil finansial goréng pikeun retailers ngagunakeun produk.

Nalika kuring dialihkeun kana damel di Google+ (pikeun urang anu émut), kuring ningali épék anu sami. Leuwih nyirorot, dina sistem kawas AdWords nu dijieun prediksi ngeunaan likelihood jalma ngaklik dina hiji iklan keur kecap konci, urang noticed nu kasalahan leutik dina input model ngakibatkeun prediksi pisan goréng. Nalika anjeun nyaksian masalah ieu dina skala Google, anjeun sadar yén masalahna universal.

Pangalaman ieu pisan ngawangun fokus panalungtikan kuring, sareng kuring nyéépkeun waktos di Harvard pikeun nalungtik naha modél AI ngalakukeun kasalahan sareng, anu penting, kumaha mendesain algoritma anu tiasa nyegah modél tina ngalakukeun kasalahan. Ieu, tangtosna, nyababkeun langkung seueur momen 'aha' sareng, pamustunganana, nyiptakeun Kecerdasan Teguh.

Naha anjeun tiasa ngabagikeun carita genesis balik Robust Intelligence?

AKAL Teguh dimimitian ku panalungtikan ngeunaan naon anu mimitina masalah téoritis: naon jaminan anu urang tiasa gaduh pikeun kaputusan anu dilakukeun nganggo modél AI. Kojin éta murid di Harvard, sarta kami digawé babarengan, mimitina nulis makalah panalungtikan. Janten, éta dimimitian ku tulisan tulisan anu ngagariskeun naon anu dasarna mungkin sareng teu mungkin, sacara téoritis. Hasil ieu engké diteruskeun kana program pikeun ngarancang algoritma sareng modél anu kuat pikeun gagal AI. Urang teras ngawangun sistem anu tiasa ngajalankeun algoritma ieu dina prakna. Saatos éta, ngamimitian perusahaan dimana organisasi tiasa nganggo sistem sapertos kieu mangrupikeun léngkah anu alami.

Seueur masalah anu ditanggulangi ku Robust Intelligence nyaéta kasalahan jempé, naon ieu sareng naon anu matak bahaya?

Sateuacan masihan definisi téknis ngeunaan kasalahan jempé, éta patut nyandak léngkah mundur sareng ngartos naha urang kedah paduli ngeunaan AI anu ngalakukeun kasalahan di tempat munggaran. Alesan anu urang paduli kana modél AI anu ngalakukeun kasalahan nyaéta akibat tina kasalahan ieu. Dunya urang ngagunakeun AI pikeun ngajadikeun otomatis kaputusan kritis: saha anu meunang pinjaman bisnis sareng naon tingkat bunga, saha anu nampi asuransi kasehatan sareng dina tingkat naon, lingkungan mana anu kedah patroli pulisi, saha anu paling dipikaresep janten calon luhur pikeun padamelan, kumaha urang kudu ngatur kaamanan bandara, jeung saterusna. Kanyataan yén modél AI pisan rawan kasalahan hartosna yén dina ngajadikeun otomatis kaputusan kritis ieu kami ngagaduhan seueur résiko. Di Robust Intelligence kami nyauran ieu "Riko AI" sareng misi kami di perusahaan nyaéta ngaleungitkeun Risk AI.

Kasalahan jempé mangrupikeun kasalahan modél AI dimana modél AI nampi input sareng ngahasilkeun prediksi atanapi kaputusan anu salah atanapi bias salaku kaluaran. Janten, dina permukaan, sadayana sistem katingalina OK, sabab modél AI ngalakukeun naon anu sakuduna dilakukeun tina sudut pandang fungsional. Tapi prediksi atanapi kaputusan éta salah. Kasalahan ieu jempé sabab sistem henteu terang yén aya kasalahan. Ieu tiasa langkung parah tibatan kasus dimana modél AI henteu ngahasilkeun kaluaran, sabab tiasa nyandak waktos anu lami pikeun organisasi sadar yén sistem AI na lepat. Teras, résiko AI janten gagal AI anu tiasa gaduh akibat anu parah.

Robust Intelligence parantos ngararancang AI Firewall, ideu anu saacanna dianggap teu mungkin. Naha ieu tantangan téknis sapertos kitu?

Salah sahiji alesan AI Firewall nyaéta tangtangan sapertos kitu kusabab éta ngalawan paradigma komunitas ML. Paradigma komunitas ML saméméhna nyaéta pikeun ngabasmi kasalahan, anjeun kedah nyayogikeun langkung seueur data, kalebet data anu goréng pikeun modél. Ku ngalakukeun éta, modél bakal ngalatih diri sareng diajar kumaha ngabenerkeun kasalahanana. Masalah sareng pendekatan éta nyababkeun akurasi modél turun sacara dramatis. Hasil anu paling dipikanyaho pikeun gambar, contona, nyababkeun akurasi modél AI turun tina 98.5% dugi ka 37%.

AI Firewall nawiskeun solusi anu béda. Urang decouple masalah ngaidentipikasi kasalahan tina peran nyieun prediksi a, hartina firewall bisa difokuskeun hiji tugas husus: nangtukeun naha titik data bakal ngahasilkeun prediksi erroneous.

Ieu tangtangan sorangan alatan kasusah méré prediksi dina titik data tunggal. Aya seueur alesan kunaon model ngalakukeun kasalahan, janten ngawangun téknologi anu tiasa ngaduga kasalahan ieu sanés tugas anu gampang. Kami pisan untung boga insinyur urang ngalakukeun.

Kumaha sistem tiasa ngabantosan nyegah bias AI?

Bias modél asalna tina bédana antara data modél anu dilatih sareng data anu dianggo pikeun ngaramalkeun. Balik deui ka résiko AI, bias mangrupikeun masalah utama anu disababkeun ku kasalahan jempé. Contona, ieu téh mindeng masalah jeung populasi underrepresented. Hiji model bisa boga bias sabab geus katempo data kirang ti éta populasi, nu nyirorot bakal mangaruhan kinerja model eta jeung akurasi prediksi na. AI Firewall tiasa ngingetkeun organisasi kana bédana data ieu sareng ngabantosan modél nyandak kaputusan anu leres.

Naon sababaraha résiko anu sanés pikeun organisasi anu dicegah ku firewall AI?

Sakur perusahaan anu nganggo AI pikeun ngajadikeun otomatis kaputusan, khususna kaputusan kritis, sacara otomatis ngenalkeun résiko. Data goréng tiasa sakedik sapertos input nol tibatan hiji sareng masih ngahasilkeun akibat anu signifikan. Naha résiko éta prediksi médis anu salah atanapi ramalan palsu ngeunaan pinjaman, AI Firewall ngabantosan organisasi pikeun nyegah résiko sadayana.

Aya deui anu anjeun hoyong bagikeun ngeunaan Robust Intelligence?

Kecerdasan Teguh ngembang pesat sareng urang kéngingkeun seueur calon anu hébat anu ngalamar posisi. Tapi hiji hal anu kuring hoyong ngantebkeun pikeun jalma anu nimbangkeun ngalamar nyaéta kualitas anu paling penting anu urang milarian calon nyaéta gairah pikeun misi. Urang tiasa pendak sareng seueur calon anu kuat sacara téknis, janten leres-leres ngartos naha aranjeunna leres-leres gairah pikeun ngaleungitkeun résiko AI pikeun ngajantenkeun dunya janten tempat anu langkung aman sareng langkung saé.

Di dunya anu urang badé angkat, seueur kaputusan anu ayeuna dilakukeun ku manusa bakal otomatis. Naha urang resep atanapi henteu, éta kanyataan. Kumargi kitu, sadayana urang di Robust Intelligence hoyong kaputusan otomatis dilakukeun sacara tanggung jawab. Janten, saha waé anu gumbira pikeun ngadamel dampak, anu ngartos kumaha ieu tiasa mangaruhan kahirupan masarakat, mangrupikeun calon anu urang milarian pikeun gabung sareng Robust Intelligence. Kami milarian gairah éta. Kami milarian jalma anu bakal nyiptakeun téknologi ieu anu bakal dianggo ku sakumna dunya.

Hatur nuhun pikeun wawancara anu saé, kuring resep diajar ngeunaan pandangan anjeun pikeun nyegah bias AI sareng peryogi firewall AI, pamiarsa anu hoyong diajar langkung seueur kedah nganjang. AKAL Teguh.