โรนี โอฮาโยน์ ซีอีโอและผู้ก่อตั้ง DeepKeep – ซีรีส์สัมภาษณ์

โรนี โอฮาโยน์ ซีอีโอและผู้ก่อตั้ง DeepKeep เป็นนักประกอบการและนักเทคโนโลยีที่มีประสบการณ์ยาวนานในด้าน AI ความปลอดภัยของระบบอัตโนมัติ และเทคโนโลยีวิดีโอขนาดใหญ่ เขาได้ก่อตั้งและนำบริษัทหลายแห่งในด้านเหล่านี้ รวมถึงบทบาทสำคัญในด้านการเชื่อมต่อยานพาหนะอัตโนมัติ การถ่ายทอดวิดีโอสด และวิศวกรรมขั้นสูง พร้อมด้วยงานวิชาการก่อนหน้านี้ในด้านวิศวกรรมคอมพิวเตอร์

DeepKeep เป็นแพลตฟอร์มความปลอดภัย AI ที่ได้รับการออกแบบมาเพื่อช่วยให้ธุรกิจต่างๆ ป้องกัน AI, AI ที่สร้างขึ้น, LLMs, ระบบการมองเห็นคอมพิวเตอร์ และระบบหลายรูปแบบตลอดวงจรชีวิตของพวกมัน บริษัทมุ่งเน้นไปที่การระบุช่องโหว่, การปิดกั้นภัยคุกคาม, การป้องกันปัญหา เช่น การรั่วไหลของข้อมูลและการจัดการคำสั่ง, การสนับสนุนการปฏิบัติตามกฎระเบียบ และการให้บริการตรวจสอบอย่างต่อเนื่องเพื่อให้แน่ใจว่าระบบ AI ที่เชื่อถือได้, มีความยืดหยุ่น และได้รับการป้องกัน

คุณได้นำนวัตกรรมสำคัญในด้านการถ่ายทอดวิดีโอ, การเชื่อมต่อยานพาหนะอัตโนมัติ และระบบ AI มาแล้ว มีอะไรในอาชีพของคุณที่ทำให้คุณเชื่อว่าความท้าทายที่สำคัญที่คุณต้องแก้ไขต่อไปคือการรักษาความปลอดภัยของ AI ในองค์กร?

ฉันเคยได้รับแรงบันดาลใจในการแก้ไขปัญหาที่มีผลกระทบสูงซึ่งเปลี่ยนแปลงอุตสาหกรรมไปตลอดหลายปี ฉันสังเกตเห็นว่ามีรูปแบบที่เกิดขึ้นซ้ำๆ ซึ่งเทคโนโลยีใหม่ๆ โดยเฉพาะ AI มักจะก้าวหน้าไปมากกว่ามาตรการรักษาความปลอดภัย ทำให้เกิดช่องโหว่สำคัญขึ้น

การนำ AI ไปใช้ในองค์กร โดยเฉพาะอย่างยิ่งการเพิ่มขึ้นของโมเดลภาษาขนาดใหญ่ (LLMs) และ AI ที่มีเจตนา ทำให้เกิดพื้นที่เสี่ยงใหม่ๆ และธุรกิจหลายแห่งรู้สึกว่าตนเองไม่พร้อมหรือไม่มั่นใจในการใช้ระบบเหล่านี้อย่างปลอดภัยและเชื่อถือได้ ประสบการณ์ของฉันในระบบ AI เน้นย้ำถึงความสำคัญของการรวมความปลอดภัยเข้ากับแก่นกลางของเทคโนโลยีเหล่านี้ เพื่อให้แน่ใจว่าไม่เพียงแต่จะสร้างสรรค์ แต่ยังเชื่อถือได้และให้ผลลัพธ์ที่เชื่อถือได้เพื่อสนับสนุนธุรกิจอย่าง积极 นี่เป็นเหตุผลที่ทำให้เราก่อตั้ง DeepKeep โดยมุ่งเน้นไปที่การรักษาความปลอดภัยของระบบ AI เพื่อให้ธุรกิจสามารถนำ AI ไปใช้เพื่อเพิ่มผลผลิตและเติบโตของธุรกิจโดยไม่กระทบต่อความปลอดภัยหรือความเป็นส่วนตัว

เมื่อคุณและผู้ร่วมก่อตั้งได้เริ่ม DeepKeep ในปี 2021 มีจุดอ่อนด้านความปลอดภัย AI ใดที่ทำให้คุณรู้สึกว่ามีความจำเป็นอย่างยิ่งที่จะต้องมีแพลตฟอร์มที่เฉพาะเจาะจง และวิธีการนั้นได้กำหนดทิศทางของบริษัทในระยะแรกๆ อย่างไร?

หลังจากทำงานกับ AI ในด้านการมองเห็นคอมพิวเตอร์ ซึ่งต้องใช้ความพยายามมากในการรับรองว่ามีความน่าเชื่อถือและแข็งแกร่ง เราได้สร้างวิธีแก้ปัญหาเพื่อให้แน่ใจถึงความไว้วางใจและความปลอดภัยในโมเดลการมองเห็นคอมพิวเตอร์

ในปี 2021 ก่อนที่จะมีการระเบิดของ LLM เราได้เริ่ม DeepKeep เพื่อแก้ไขความเสี่ยงเหล่านี้ในโมเดลการมองเห็นคอมพิวเตอร์

คุณสามารถพาเราไปสู่ต้นแบบแรกได้หรือไม่—สิ่งที่มันทำ, ทีมมีขนาดเล็กเพียงใด และคุณได้ตรวจสอบว่าคุณกำลังเดินไปในทางที่ถูกต้องอย่างไร?

เมื่อเราก่อตั้ง DeepKeep การมุ่งเน้นยังคงอยู่ที่ AI แบบดั้งเดิม—การมองเห็นคอมพิวเตอร์, โมเดลตาราง และ NLP ในระยะแรกๆ ก่อนที่จะมีการเพิ่มขึ้นของโมเดลภาษาขนาดใหญ่ โพรโตไทป์แรกของเราคือระบบสำหรับการทดสอบความแข็งแกร่งของโมเดลการมองเห็นคอมพิวเตอร์จากการโจมตีแบบก่อการร้าย

กรณีการใช้งานแรกๆ มาจากอุตสาหกรรมยานยนต์, การประกันภัย และการบริการทางการเงิน ซึ่งพฤติกรรมที่ผิดปกติของโมเดลอาจก่อให้เกิดความเสี่ยงในการดำเนินงานที่แท้จริง เราเป็นทีมเล็กๆ มีคนประมาณ 8 คน ซึ่งช่วยให้เราสามารถพัฒนาและสร้างโพรโตไทป์ที่ใช้งานได้จริงในระยะเวลาสั้นๆ

เราได้ตรวจสอบว่าเรากำลังเดินไปในทางที่ถูกต้องโดยการพูดคุยกับลูกค้าที่มีศักยภาพโดยตรง ซึ่งพวกเขามักจะเน้นย้ำถึงความแข็งแกร่งของการโจมตีแบบก่อการร้ายเป็นปัญหาใหม่ที่เกิดขึ้น ในช่วงเวลาเดียวกัน แฟรมเวิร์กอย่าง MITRE’s ATLAS ซึ่งเผยแพร่ครั้งแรกในปี 2021 ได้เริ่มปรากฏขึ้น ซึ่งเป็นสัญญาณสำคัญจากภายนอกว่าด้านความปลอดภัยของ AI และการสร้างแบบจำลองภัยคุกคามแบบก่อการร้ายกำลังจะเติบโต การสอดคล้องกันระหว่างข้อเสนอแนะจากลูกค้าและทิศทางของอุตสาหกรรมทำให้เรามั่นใจว่าเรากำลังเดินไปในทางที่ถูกต้อง

DeepKeep ได้รับการออกแบบตั้งแต่เริ่มต้นเพื่อรักษาความปลอดภัยของระบบ AI มากกว่าซอฟต์แวร์แบบดั้งเดิม คุณได้จัดลำดับความสำคัญของโมเดลและพื้นผิวการโจมตีใดๆ ก่อน?

ตั้งแต่เริ่มต้น เรารู้ว่าการรักษาความปลอดภัยของ AI ในองค์กรต้องการการเปลี่ยนแปลงในแบบจำลอง ในขณะที่หลายองค์กรมีความเข้าใจที่ดีในการทดสอบการเจาะระบบและการประเมินสำหรับโมเดลที่พวกเขาใช้ เราเข้าใจว่าการกระทำเหล่านั้นเป็นเพียงจุดเริ่มต้นเท่านั้น

แม้ว่าการรักษาความปลอดภัยของ AI แบบสแตนด์อโลน เช่น โชคบอท AI ด้วยการโจมตีแบบก่อการร้ายแบบดั้งเดิมจะเป็นจุดเริ่มต้นของอุตสาหกรรม แต่เราก็เริ่มพัฒนาวิธีแก้ปัญหาเพื่อรักษาความปลอดภัยของแอปพลิเคชัน AI ที่กำหนดเองและตัวแทน AI และจะพัฒนาต่อเพื่อรักษาความปลอดภัยของขั้นตอนต่อไปซึ่งตัวแทนเหล่านี้โต้ตอบกันและสร้างเครือข่ายการโต้ตอบ AI ที่ซับซ้อนมากขึ้นเพื่อรักษาความปลอดภัย

เราเปิดใช้งานการสแกนโมเดลทั่วทั้งโมเดลทุกประเภท แต่ยังป้องกันภัยคุกคามที่เร่งด่วน เช่น การโจมตีแบบก่อการร้าย, การรั่วไหลของข้อมูล, การใช้งานที่ผิดปกติ และการกัดกร่อนความไว้วางใจ โดยการโจมตีแบบก่อการร้ายต่อโมเดลและใช้การป้องกันที่รักษาความปลอดภัยของคำสั่ง AI และคำตอบ

สิ่งสำคัญคือ เรายังรักษาความปลอดภัยของ “ชั้นเซมานติก” ของ AI โดยการทำความเข้าใจบริบทที่โมเดลเหล่านี้ทำงาน ซึ่งทำให้โมเดลเหล่านี้ไม่สามารถถูกจัดการได้ง่ายๆ

มีการเปลี่ยนแปลงทางเทคนิคหรือกลยุทธ์ใดที่สำคัญที่สุดที่คุณทำระหว่างช่วงการก่อตั้งและทิศทางผลิตภัณฑ์ปัจจุบันของ DeepKeep?

หนึ่งในการตัดสินใจที่สำคัญที่สุดคือการขยายออกไปนอกเหนือจากความปลอดภัยของโมเดลแบบดั้งเดิมไปยังด้านความปลอดภัยของแอปพลิเคชัน AI

เรายังตัดสินใจที่จะให้ความยืดหยุ่นในการใช้งานอย่างเต็มที่ รวมถึงการเปิดใช้งานบนคลาวด์ที่ไม่ผูกพัน, ระบบภายในองค์กร และโซลูชันแบบแยกออกจากเครือข่าย ทำให้องค์กรสามารถใช้งาน DeepKeep ในสภาพแวดล้อมใดๆ ก็ได้

DeepKeep ให้ความสำคัญเท่าเทียมกันต่อความปลอดภัยและความน่าเชื่อถือ เมื่อไหร่ที่จุดเน้นคู่นี้กลายเป็นแก่นกลางของอัตลักษณ์ของบริษัท?

การเน้นไปที่ความปลอดภัยและความน่าเชื่อถือเท่าเทียมกันกลายเป็นกระบวนการที่ชัดเจนเมื่อเริ่มสร้างความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับลูกค้าและความต้องการของพวกเขา

เมื่อทำงานกับโมเดล AI ความปลอดภัยและความไว้วางใจไปพร้อมๆ กันและเล่นบทบาทที่สำคัญเท่าๆ กัน เนื่องจากท้ายที่สุด ทั้งสองสามารถนำไปสู่ผลลัพธ์ที่เป็นอันตรายและทำลายล้างได้

เครื่องมือรักษาความปลอดภัยแบบดั้งเดิมไม่ได้รับการออกแบบมาเพื่อการฉีดคำสั่ง, การหลอกลวง, การรั่วไหลของข้อมูล หรือการดัดแปลงโมเดล คุณเห็นธุรกิจต่างๆ ต่อสู้กับเวกเตอร์ภัยคุกคามที่เกิดขึ้นใหม่เหล่านี้อย่างไร และปัญหาเหล่านี้มีอิทธิพลต่อสถาปัตยกรรมของ DeepKeep อย่างไร?

จากภัยคุกคามที่เกิดขึ้นใหม่ การฉีดคำสั่งและรั่วไหลของข้อมูลเป็นข้อกังวลที่เร่งด่วนที่สุดที่เราเห็นธุรกิจต่างๆ ต่อสู้กัน เมื่อแอปพลิเคชัน AI และตัวแทน AI ถูกผสมผสานเข้ากับกระบวนการทางธุรกิจ ความเสี่ยงของการดัดแปลงคำสั่งและการเปิดเผยข้อมูลที่ละเอียดอ่อนโดยไม่ตั้งใจจะเพิ่มขึ้น

ปัญหาเหล่านี้ทำให้เราได้ออกแบบ DeepKeep โดยมุ่งเน้นไปที่ความปลอดภัยตามบริบท โดยปกป้องไม่เพียงแต่โมเดลเท่านั้น แต่ยังรวมถึงการไหลของข้อมูลและปฏิสัมพันธ์ทั้งหมดภายในระบบ AI

แพลตฟอร์มของคุณรวมการป้องกัน, การทดสอบแบบก่อการร้าย และชั้นการป้องกันข้อมูล ด้านเทคนิคแล้ว สิ่งใดที่พิสูจน์แล้วว่าเป็นเรื่องที่ยากที่สุดในการสร้างขึ้นในระดับองค์กร และคุณได้เรียนรู้อะไรบ้างขณะสร้างระบบที่ต้องปรับตัวให้เข้ากับโมเดล AI ที่เปลี่ยนแปลงอย่างรวดเร็ว?

แต่ละชั้น—การป้องกัน, การทดสอบแบบก่อการร้าย และการป้องกันข้อมูล—มาพร้อมกับความท้าทายด้านวิศวกรรมของตนเอง แต่เราพบว่าความท้าทายที่ทุกชั้นมีร่วมกันคือสิ่งที่ยากที่สุด

ประการแรก คือความเร็วของการเปลี่ยนแปลง: ความเสี่ยงใหม่ๆ, การหลบหนี และเทคนิคการโจมตีใหม่ๆ เกิดขึ้นอย่างต่อเนื่อง ดังนั้น สิ่งใดๆ ที่คงที่จึงกลายเป็นเรื่องเก่าไปอย่างรวดเร็ว ประการสอง คือการนำบริบทไปใช้: ในองค์กร ไม่มีวิธีแก้ปัญหาแบบ “หนึ่งขนาดเหมาะกับทุกคน” เนื่องจากทุกแอปพลิเคชันมีนโยบายที่แตกต่างกัน ความไว้วางใจของข้อมูล และพฤติกรรมของผู้ใช้ที่แตกต่างกัน

เพื่อแก้ไขความท้าทายแรก เราได้สร้างสถาปัตยกรรมแบบโมดูลาร์ที่มีส่วนประกอบแบบปลั๊กอิน ทำให้เราสามารถเพิ่มการโจมตีใหม่ๆ ให้กับเครื่องยนต์การทดสอบแบบก่อการร้ายหรือการป้องกันใหม่ๆ ให้กับไฟร์วอลล์ได้อย่างรวดเร็วและไม่ทำให้ระบบหยุดชะงัก

และเพื่อแก้ไขความท้าทายที่สอง เราได้ออกแบบระบบที่มีความตระหนักรู้ถึงบริบท โดยวิเคราะห์สภาพแวดล้อมของแอปพลิเคชันและปรับมาตรการรักษาความปลอดภัยที่เกี่ยวข้องโดยอัตโนมัติ ซึ่งจำเป็นเมื่อโมเดล AI และกรณีการใช้งานพื้นฐานเปลี่ยนแปลงอย่างรวดเร็ว

ความสามารถสองประการนี้—ความยืดหยุ่นและการตระหนักรู้ถึงบริบท—เป็นกุญแจสำคัญในการดำเนินงานในระดับองค์กรและรักษาความปลอดภัยของระบบ AI ที่เปลี่ยนแปลงอย่างรวดเร็ว

ความปลอดภัยของ AI เป็นสาขาที่กำลังพัฒนา คุณเห็นช่องว่างใดๆ ภายในองค์กรในปัจจุบัน—ไม่ว่าจะเป็นนโยบาย, เครื่องมือ, หรือความเข้าใจความเสี่ยง—ที่มีอิทธิพลต่อการออกแบบสแต็คความปลอดภัยของ DeepKeep และกระบวนการเปิดใช้งานลูกค้า?

ช่องว่างเหล่านี้แตกต่างกันไปตามอุตสาหกรรม, ขนาดของบริษัท และความ숙ของการนำ AI ไปใช้

หนึ่งในช่องว่างที่ใหญ่ที่สุดที่เราเห็นในองค์กรขนาดใหญ่ในปัจจุบันคือการขาดโซลูชันเดียวที่ครอบคลุมความต้องการด้านความปลอดภัยของ AI ทั้งหมด หลายธุรกิจตระหนักถึงความจำเป็นในการมีโซลูชันความปลอดภัย AI แต่เมื่อการนำ AI ไปใช้เพิ่มขึ้น ความต้องการการรักษาความปลอดภัยที่เพิ่มขึ้นก็เพิ่มขึ้นด้วย

เมื่อตลาดเติบโตขึ้น เราได้ระบุช่องว่างอีกประการหนึ่ง ซึ่งก็คือองค์กรต่างๆ กำลังมองหาเครื่องมือรักษาความปลอดภัยที่มีการปรับแต่งและไม่แบบธรรมดาเพื่อปกป้องตัวแทนและแอปพลิเคชันของตน

หากเรามองไปข้างหน้า 5 ปี คุณคาดหวังว่าความเสี่ยงของ AI ในองค์กรมจะพัฒนาไปอย่างไร และคุณเชื่อว่า DeepKeep ต้องอยู่ในตำแหน่งใดเพื่อที่จะอยู่เหนือความเสี่ยงในอนาคต?

ฉันคาดหวังว่าความเสี่ยง AI ที่ใหญ่ที่สุดใน 5 ปีข้างหน้าจะพัฒนาไปพร้อมกับการก้าวหน้าของความเป็นอิสระของ AI เมื่อตัวแทนเหล่านี้กลายเป็นส่วนหนึ่งของการดำเนินธุรกิจที่ซับซ้อนและสามารถทำงานที่ซับซ้อนได้ ความเสี่ยงต่อการละเมิดความปลอดภัยและการใช้ในทางที่ผิดจะเพิ่มขึ้น

เพื่อที่จะอยู่เหนืออนาคต เราจะทำให้ DeepKeep พัฒนาไปพร้อมๆ กับระบบ AI ที่ซับซ้อนที่เพิ่มขึ้น เพื่อให้แน่ใจว่าเราสามารถให้การป้องกันในขณะทำงานทั่วทั้งหลายโมเดล AI และสนับสนุนแนวโน้มที่เพิ่มขึ้นของการตัดสินใจโดยใช้ AI

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม DeepKeep เพื่อเรียนรู้เพิ่มเติม