ไบรอัน ซาทิอานาธาน ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีและผู้ร่วมก่อตั้ง Iterate.ai – ชุดบทสัมภาษณ์

ไบรอัน ซาทิอานาธาน เป็นประธานเจ้าหน้าที่ฝ่ายเทคนิคและผู้ร่วมก่อตั้ง Iterate.ai ผู้สร้างแพลตฟอร์ม Interplay ที่ใช้โค้ดต่ำสำหรับการสร้างแอปพลิเคชัน AI ที่รวดเร็วขึ้นในอุตสาหกรรมต่างๆ ก่อนหน้านี้ ซาทิอานาธานเคยทำงานที่ Apple (AAPL ) ในโครงการเทคโนโลยีที่เกิดขึ้นใหม่หลายโครงการ รวมถึงระบบปฏิบัติการ Mac และ iPhone รุ่นแรก

สิ่งใดที่ดึงดูดคุณให้ทำงานกับเทคโนโลยี AI ในตอนแรก?

ผมสนใจการเรียนรู้ที่ขับเคลื่อนด้วยอัลกอริทึมมาโดยตลอด และเริ่มทำงานกับระบบ AI ตั้งแต่สมัยเรียนมหาวิทยาลัย นอกจากนี้ ฉันยังใช้เวลาหลายปีในการสร้างเทคโนโลยีการเข้ารหัสลับและความปลอดภัยอื่นๆ สำหรับ Apple รวมถึงเทคโนโลยีการบีบอัดวิดีโอสำหรับบริษัทที่ฉันร่วมก่อตั้ง เทคโนโลยีการเข้ารหัสลับและวิดีโอทั้งสองอย่างนี้ต้องใช้อัลกอริทึมอย่างมาก ซึ่งทำให้การเรียนรู้ของฉันในด้าน AI/ML เร็วขึ้น ในปี 2016 ฉันเริ่มเล่นกับเฟรมเวิร์ก AI ที่เปิดแหล่งที่มา/GPU และพบว่าพวกมันพัฒนาไปมากใน 5 ปีที่ผ่านมา ทั้งในด้านอัลกอริทึมและความสามารถในการทำการจำแนกประเภทที่หลากหลายขึ้น จากนั้นฉันก็รู้สึกว่ามีความจำเป็นในการทำให้ AI ใช้งานง่ายขึ้นสำหรับทุกคน

คุณมีมุมมองที่เข้มแข็งเกี่ยวกับอคติทางความคิดและอคติข้อมูลใน AI คุณสามารถแบ่งปันมุมมองเหล่านี้ได้หรือไม่?

อคติ AI เกิดขึ้นเมื่อนักวิศวกรปล่อยให้มุมมองและความเชื่อส่วนตัวของตนเองส่งผลต่อชุดข้อมูลการฝึกอบรม AI ซึ่งจะบ่อนทำลายสิ่งที่พวกเขาพยายามทำกับ AI โดยทั่วไป อิทธิพลนี้จะไม่รู้ตัว ดังนั้นพวกเขาอาจไม่ทราบว่าอคติได้ซึมซับเข้าไปในชุดข้อมูลของตนแล้ว หากไม่มีการตรวจสอบและสมดุลที่มีประสิทธิภาพ ข้อมูลสามารถถูกจำกัดให้เฉพาะจุดเน้นหรือประชากรที่นักวิศวกรมีแนวโน้มที่จะพิจารณาเท่านั้น แม้ว่านักวิศวกรจะมีคุณภาพและปริมาณข้อมูลที่ดี แต่อคติในข้อมูลสามารถทำให้ผลลัพธ์ที่ AI ส่งมอบไม่ถูกต้องและในหลายกรณีไม่มีประโยชน์

รายงานของ Gartner ประมาณการว่า จนถึงปี 2030 85% ของโครงการ AI จะให้ผลลัพธ์ที่ไม่ถูกต้องเนื่องจากอคติ ซึ่งเป็นช่องว่างที่ต้องก้าวข้าม บริษัทที่ลงทุนใน AI และตัดสินใจเชิงกลยุทธ์โดยอาศัย AI แต่ถูกหลอกลวงโดยข้อสรุปที่ไม่ถูกต้องที่มีเหตุจากอคติ อาจเสี่ยงต่อความล้มเหลวที่มีค่าใช้จ่ายสูงและความเสียหายต่อชื่อเสียงของตน เมื่อ AI กำลังเปลี่ยนแปลงจากเทคโนโลยีที่เกิดขึ้นใหม่ไปสู่รากฐานที่มีอยู่ทั่วไปทั้งในแอปพลิเคชันที่เผชิญกับลูกค้าและกระบวนการภายใน การเอาอคติออกไปเป็นสิ่งจำเป็นสำหรับการบรรลุศักยภาพที่แท้จริงของ AI ในอนาคต

มีวิธีใดบ้างที่จะป้องกันไม่ให้อคติเหล่านี้ปรากฏขึ้น?

อคติ AI ต้องถูกตรวจจับและกำจัดออกไปอย่างเป็นระบบและเชิงรุก อคติอาจถูกเขียนไว้ในอัลกอริทึมโดยตรง ความไม่ถูกต้องอาจถูกนำเข้ามาผ่านอคติทางความคิดที่เพิกเฉยต่อข้อมูลที่จำเป็น อคติจากการรวมกันคือความเสี่ยงอีกอย่างหนึ่ง โดยที่การตัดสินใจเล็กๆ น้อยๆ จะบวกกันเป็นผลลัพธ์ AI ที่เอนเอียง

การตรวจจับและกำจัดอคติ AI ในทุกรูปแบบต้องใช้เฟรมเวิร์ก เครื่องมือ กระบวนการ และนโยบายที่สร้างขึ้นเพื่อลดปัญหาเหล่านี้ได้อย่างมีประสิทธิภาพ ตัวอย่างเช่น เฟรมเวิร์ก AI เช่น Aletheia Framework ของ Rolls Royce และ เฟรมเวิร์ก AI ของ Deloitte ที่ได้รับการสนับสนุนโดยมาตรฐานที่บังคับใช้อัตโนมัติ สามารถส่งเสริมแนวปฏิบัติที่ไม่มีอคติในการพัฒนาและใช้งานแอปพลิเคชัน AI เครื่องมือเช่น AI Fairness 360 และ IBM Watson OpenScale สามารถรับรู้และกำจัดอคติและรูปแบบอคติในโมเดลและสายงานประมวลผลการเรียนรู้ของเครื่อง สุดท้าย กระบวนการที่ทดสอบข้อมูลกับเมตริกอคติที่กำหนดไว้ รวมถึงนโยบายที่ให้การกำกับดูแลเพื่อป้องกันอคติผ่านแนวปฏิบัติที่บังคับใช้ ทำให้องค์กรสามารถตรวจสอบจุดบอดและลดอคติ AI ได้อย่างเป็นระบบ

คุณเป็น CTO และผู้ร่วมก่อตั้ง Iterate.ai คุณสามารถเล่าเรื่องราวของการก่อตั้งได้หรือไม่?

เรื่องราวนี้เริ่มต้นในปี 2013 เมื่อผู้ร่วมก่อตั้ง Jon Nordmark (ซีอีโอของเรา) และฉันทำหน้าที่เป็นสมาชิกคณะกรรมการของตัวเร่งการเติบโตในยุโรปตะวันออกที่ตั้งอยู่ในยูเครน ซึ่งออกแบบมาเพื่อช่วยให้ผู้ประกอบการสร้างและดำเนินธุรกิจสตาร์ทอัพในลักษณะของ Silicon Valley ประสบการณ์เหล่านี้กับบริษัทใหม่ที่น่าประทับใจนำเราไปสู่ความคิดในการจับคู่สตาร์ทอัพมีแนวโน้มแต่มีชื่อเสียงน้อยกับองค์กรขนาดใหญ่ที่ต้องการการสนับสนุนนวัตกรรม จากนั้นเราจึงเปิดตัว Iterate Studio โดยเสนอเครื่องมือค้นหาสตาร์ทอัพสำหรับองค์กรในการค้นหาพันธมิตรสตาร์ทอัพตามความสามารถนวัตกรรมที่องค์กรขนาดใหญ่เหล่านั้นต้องการ ในปี 2015 บริษัทเปลี่ยนชื่อเป็น Iterate.ai เพื่อเน้นย้ำถึงการคัดเลือกสตาร์ทอัพโดยใช้ AI ของเรา ปัจจุบัน ฐานข้อมูล Signals ของเรามีดัชนีเทคโนโลยีสตาร์ทอัพมากกว่า 15.7 ล้านรายการตามปัจจัยต่างๆ (และใช้ AI ที่เป็นกรรมสิทธิ์เพื่อทำให้เกิดขึ้นในขนาดนี้)

เราขยายกิจการในปี 2017 และเปิดตัวเวอร์ชันแรกของแพลตฟอร์มพัฒนาแอปพลิเคชัน Interplay ที่ใช้โค้ดต่ำของเรา Interplay มีระดับซอฟต์แวร์ที่ขับเคลื่อนด้วย AI ที่ปรับปรุงชุดเทคโนโลยีเดิมขององค์กรให้ทันสมัยโดยการเปิดใช้งานการดึงและวางเทคโนโลยีนวัตกรรมในขณะที่เร่งการพัฒนาซอฟต์แวร์ 10 เท่า แพลตฟอร์มที่ใช้โค้ดต่ำมีองค์ประกอบที่สร้างไว้แล้ว 475 องค์ประกอบ เพื่อให้ผู้ใช้สามารถผสมผสานและจับคู่เทคโนโลยีที่ต้องการเพื่อเริ่มสร้างแอปพลิเคชันได้อย่างรวดเร็ว AI คือแก่นกลางของแพลตฟอร์ม รวมถึงองค์ประกอบโค้ดต่ำอื่นๆ สำหรับ IoT การบูรณาการข้อมูล และแม้กระทั่งบล็อกเชน

Iterate.ai เป็นแพลตฟอร์มที่ใช้โค้ดต่ำสำหรับการพัฒนาแอปพลิเคชันที่มี AI คุณสามารถอธิบายแอปพลิเคชัน AI ที่สามารถสร้างได้บ้าง?

แพลตฟอร์มที่ใช้โค้ดต่ำของเราสามารถสร้างแอปพลิเคชัน AI สำหรับการใช้งานที่หลากหลายจริงๆ Ulta Beauty (ULTA ) ผู้ค้าปลีกความงามระดับโลกมูลค่าพันล้านดอลลาร์ ใช้แพลตฟอร์มของเราเพื่อสร้าง แชทบอทค้าปลีกอัจฉริยะ ในเวลาเพียงสองสัปดาห์ ในทางกลับกัน แชทบอทแบบดั้งเดิมมีศูนย์กลางอยู่ที่คีย์เวิร์ด และแอปพลิเคชันแชทบอทของซัพพลายเออร์ส่วนใหญ่ไม่สามารถรวมเข้ากับระบบ Legacy เพื่อเข้าถึงข้อมูลลูกค้าหรืออนุญาตให้เปลี่ยนไปใช้การสนับสนุนจากมนุษย์ได้อย่างราบรื่น แชทบอทอัจฉริยะของ Ulta ได้กำจัดปัญหาเหล่านี้ด้วยการประมวลผลภาษาธรรมชาติและความสามารถในการรับรู้ “ความตั้งใจ” ของลูกค้าเพื่อให้คำตอบที่แม่นยำ แพลตฟอร์มของเราทำให้ Ulta สามารถสร้างเครื่องยนต์ AI ของแชทบอทได้ภายในไม่กี่ชั่วโมง และตั้งค่า ปรับแต่ง และปรับปรุงการฝึกอบรมและการตอบสนองของแชทบอทได้อย่างรวดเร็ว

อีกตัวอย่างหนึ่งคือ Jockey ใช้แพลตฟอร์มของเราเพื่อสร้างคำถามที่พบบ่อยซึ่งขับเคลื่อนด้วย AI ที่พร้อมตอบสถานการณ์บริการลูกค้าที่ค่อนข้างซับซ้อนและมีความเป็นอัตวิสัยได้โดยอัตโนมัติและสำเร็จ แพลตฟอร์มยังช่วยให้เครือข่ายร้านสะดวกซื้อและสถานีบริการน้ำมันทั่วโลกตอบสนองต่อการระบาดด้วยปั๊มน้ำมันไร้สัมผัส โดยอาศัยการจดจำภาพป้ายทะเบียนรถของลูกค้าด้วย AI ความสามารถของเรายังสนับสนุนกลยุทธ์รักษาความปลอดภัยในร้านค้าที่ยึดกล้องเป็นศูนย์กลาง แอปพลิเคชัน AI ที่ฝึกแล้วสามารถตรวจจับภัยคุกคามและอาวุธภายนอกร้าน สั่งล็อกร้านเพื่อปกป้องลูกค้า และติดต่อเจ้าหน้าที่ได้

ในทางปฏิบัติต้องเขียนโค้ดน้อยเพียงใด? ผู้ใช้จำเป็นต้องมีทักษะการพัฒนาอย่างไร?

ในความคิดเห็นของผม กฎ 80/20 ใช้ได้ 80% ของกรณีการใช้งาน AI ที่ใช้ได้แล้วมีโมเดลและชุดข้อมูลการฝึกอบรมที่กำหนดไว้แล้ว องค์กรแบบดั้งเดิมสามารถใช้แพลตฟอร์มโค้ดต่ำ (เช่น Interplay ของเรา) และใช้งานกรณีเหล่านี้ได้อย่างง่ายดาย ตัวอย่างเช่น:

• FAQ ที่ขับเคลื่อนด้วย AI
• ตัวค้นหาสินค้าที่ขับเคลื่อนด้วย AI
• การแนะนำสินค้าและการจัดกลุ่มสินค้า
• OCR
• การระบุสินค้าด้วยภาพ
• การวิเคราะห์ข้อมูลแบบตาราง: สิ่งต่างๆ เช่น AOV การวิเคราะห์ตะกร้า การคาดการณ์การสูญเสียลูกค้า ฯลฯ
• การตรวจจับวัตถุ/การแยกออก
• ความคงอยู่ของวัตถุ

กรณีเหล่านี้สามารถใช้งานได้โดยวิศวกรที่มีความรู้ด้านการเขียนโค้ดบนเซิร์ฟเวอร์และความเข้าใจพื้นฐานเกี่ยวกับ API ของการเรียนรู้ของเครื่อง มันคล้ายกับเทคนิคการสตรีมวิดีโอ การเข้ารหัสลับ และการจัดการคีย์ที่ใช้กันอย่างแพร่หลายผ่าน API วันนี้ วิศวกรส่วนใหญ่ที่ใช้ API เหล่านี้มักไม่ทราบว่ามันทำงานอย่างไรข้างใน

ทำไมการเขียนโค้ดต่ำจึงสำคัญสำหรับการขยายเทคโนโลยี AI?

ธุรกิจที่ต้องการความสามารถ AI ในการพัฒนาแอปพลิเคชันสามารถเผชิญกับความท้าทายที่สำคัญเมื่อไม่ใช้โค้ดต่ำ ในโลกปัจจุบันมีวิศวกร AI เพียง 300,000 คน และมีเพียง 60,000 คนที่เป็นนักวิทยาศาสตร์ข้อมูล ด้วยเหตุนี้ บุคลากรที่จำเป็นต่อการพัฒนาและขยายโซลูชัน AI จึงมีค่าใช้จ่ายสูงและยังเพิ่มขึ้น ในทางกลับกัน การพัฒนาโค้ดต่ำทำให้สามารถเข้าถึง AI ได้จริงๆ ด้วยโค้ดต่ำ ผู้พัฒนาซอฟต์แวร์ 25 ล้านคนในโลกและแม้กระทั่งผู้ที่ไม่มีการฝึกอบรมก็สามารถใช้เครื่องยนต์ AI ได้อย่างง่ายดาย ปรับแต่งความสามารถ และสร้างและขยายโซลูชันที่มีประสิทธิภาพ

กลับไปที่แพลตฟอร์ม Signals ที่มีพลังงาน AI ของ Iterate.ai มีแนวโน้มที่น่าสนใจอะไรบ้าง?

เรากำลังเห็นการเติบโตอย่างรวดเร็วใน 5 แรงขับเคลื่อนของนวัตกรรม: AI IoT บล็อกเชน ข้อมูล และโซลูชันสตาร์ทอัพใหม่ๆ ทั้งหมดนี้เป็นตลาดขนาดใหญ่ เราเห็นจุดข้อมูลหลายพันจุดเกี่ยวกับข่าวสาร สิทธิบัตร และผลิตภัณฑ์ใหม่ๆ ของสตาร์ทอัพในทุกวัน Interplay ถูกสร้างขึ้นเพื่อใช้ประโยชน์จากแรงขับเคลื่อนเหล่านี้ด้วยการรวมองค์ประกอบที่สร้างไว้แล้วเพื่อใช้ประโยชน์จากแรงขับเคลื่อนที่เติบโตขึ้นเหล่านี้

มีอะไรอีกไหมที่คุณต้องการแบ่งปันเกี่ยวกับ Iterate.ai?

ฉันคิดว่ายังมีความเข้าใจผิดเกี่ยวกับโค้ดต่ำและบทบาทในการสร้างแอปพลิเคชัน AI มันไม่แปลกที่จะเห็นมืออาชีพด้าน IT ถามว่ากลยุทธ์โค้ดต่ำสามารถตอบสนองความต้องการของตนสำหรับการขยายขนาดระดับองค์กร ความยืดหยุ่น และความปลอดภัยได้หรือไม่ ฉันคิดว่าโค้ดต่ำที่มีจุดมุ่งหมายเพื่อการสร้างต้นแบบ แต่ถูกนำไปใช้ไม่ถูกต้องเป็นเครื่องมือสำหรับการใช้งานการผลิต ได้ทำให้เกิดความคลางแคลงใจนี้ ทั้งนี้ แพลตฟอร์มโค้ดต่ำที่ถูกต้องสามารถสร้างและสนับสนุนแอปพลิเคชัน AI ที่พร้อมสำหรับการผลิตได้อย่างแน่นอน องค์กรควรตรวจสอบอย่างรอบคอบในการเลือกเครื่องมือโค้ดต่ำ โดยตรวจสอบให้แน่ใจว่าเครื่องมือเหล่านั้นมีระดับความปลอดภัยที่โปร่งใสและครอบคลุม และมีประวัติที่พิสูจน์แล้วในการส่งมอบแอปพลิเคชันที่ระดับองค์กร

ขอขอบคุณสำหรับสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Iterate.ai เพื่อเรียนรู้เพิ่มเติม