Jonathan Dambrot, CEO & Co-Founder của Cranium AI – Phỏng vấn

Jonathan Dambrot là CEO & Co-Founder của Cranium AI, một doanh nghiệp giúp các đội an ninh mạng và khoa học dữ liệu hiểu rõ mọi nơi mà AI ảnh hưởng đến hệ thống, dữ liệu hoặc dịch vụ của họ.

Jonathan là cựu Đối tác tại KPMG, lãnh đạo ngành an ninh mạng và tầm nhìn. Trước khi gia nhập KPMG, anh đã lãnh đạo Prevalent trở thành một nhà lãnh đạo ngành trong quản lý rủi ro bên thứ ba trước khi được bán cho Insight Venture Partners vào cuối năm 2016. Vào năm 2019, Jonathan đã chuyển giao vai trò CEO của Prevalent khi công ty này tiếp tục phát triển dưới sự lãnh đạo mới. Anh đã được trích dẫn trong nhiều ấn phẩm và thường xuyên nói chuyện với các nhóm khách hàng về xu hướng trong CNTT, an ninh thông tin và tuân thủ.

Bạn có thể chia sẻ câu chuyện về sự hình thành của Cranium AI?

Tôi đã có ý tưởng về Cranium vào khoảng tháng 6 năm 2021 khi tôi là một đối tác tại KPMG, lãnh đạo dịch vụ an ninh bên thứ ba trên toàn cầu. Chúng tôi đã xây dựng và cung cấp các giải pháp được hỗ trợ bởi AI cho một số khách hàng lớn nhất của mình, và tôi nhận thấy rằng chúng tôi không làm gì để bảo vệ chúng khỏi các mối đe dọa đối thủ. Vì vậy, tôi đã hỏi câu hỏi tương tự với các lãnh đạo an ninh mạng tại các khách hàng lớn nhất của chúng tôi, và câu trả lời tôi nhận được cũng không tốt. Nhiều đội an ninh mạng chưa bao giờ nói chuyện với các nhà khoa học dữ liệu – họ nói các ngôn ngữ hoàn toàn khác nhau khi nói đến công nghệ và cuối cùng không có khả năng nhìn thấy AI đang chạy trên toàn doanh nghiệp. Tất cả những điều này kết hợp với sự phát triển ngày càng tăng của các quy định là yếu tố kích hoạt để xây dựng một nền tảng có thể cung cấp bảo mật cho AI. Chúng tôi đã bắt đầu làm việc với KPMG Studio incubator và đưa một số khách hàng lớn nhất của chúng tôi vào làm đối tác thiết kế để hướng dẫn sự phát triển đáp ứng nhu cầu của các doanh nghiệp lớn. Vào tháng 1 năm nay, Syn Ventures đã tham gia để hoàn thành vòng tài trợ hạt giống, và chúng tôi đã tách ra độc lập với KPMG vào tháng 3 và chính thức ra mắt vào tháng 4 năm 2023.

Cranium AI Card là gì và nó cung cấp những thông tin quan trọng nào?

Cranium AI Card cho phép các tổ chức thu thập và chia sẻ thông tin về tính tin cậy và tuân thủ của các mô hình AI của họ với cả khách hàng và cơ quan quản lý, cũng như có cái nhìn sâu sắc về bảo mật của hệ thống AI của nhà cung cấp. Cuối cùng, chúng tôi nhằm mục đích cung cấp cho các đội an ninh mạng và tuân thủ khả năng hình dung và theo dõi bảo mật của AI trong chuỗi cung ứng của họ, đồng bộ hóa các hệ thống AI của họ với các yêu cầu và khuôn khổ tuân thủ hiện tại và sắp tới, và dễ dàng chia sẻ rằng các hệ thống AI của họ là an toàn và đáng tin cậy.

Các vấn đề tin cậy mà người dùng gặp phải với AI là gì và chúng được giải quyết như thế nào với giải pháp này?

Người dùng thường muốn biết những gì đằng sau AI mà họ đang sử dụng, đặc biệt là khi ngày càng nhiều quy trình làm việc hàng ngày của họ bị ảnh hưởng bởi AI theo một cách nào đó. Chúng tôi nhằm mục đích cung cấp cho khách hàng của mình khả năng trả lời các câu hỏi mà họ sẽ sớm nhận được từ khách hàng của mình, chẳng hạn như “Làm thế nào để quản lý?”, “Những gì được thực hiện để bảo mật dữ liệu và mô hình?” và “Thông tin này đã được xác thực chưa?”. AI Card cung cấp cho các tổ chức một cách nhanh chóng để giải quyết những câu hỏi này và chứng minh sự minh bạch và đáng tin cậy của các hệ thống AI của họ.

Vào tháng 10 năm 2022, Văn phòng Khoa học và Công nghệ của Nhà Trắng (OSTP) đã xuất bản một Kế hoạch cho Quyền của AI, trong đó chia sẻ một lộ trình không ràng buộc cho việc sử dụng AI có trách nhiệm. Bạn có thể thảo luận về quan điểm cá nhân của mình về ưu và nhược điểm của dự luật này?

Mặc dù việc Nhà Trắng thực hiện bước đầu tiên này trong việc định nghĩa các nguyên tắc hướng dẫn cho AI có trách nhiệm là rất quan trọng, chúng tôi không tin rằng nó đã đi đủ xa để cung cấp hướng dẫn cho các tổ chức và không chỉ cá nhân lo lắng về việc kháng cáo quyết định dựa trên AI. Hướng dẫn quy định trong tương lai nên không chỉ dành cho các nhà cung cấp hệ thống AI, mà còn cho người dùng để họ có thể hiểu và tận dụng công nghệ này một cách an toàn và bảo mật. Cuối cùng, lợi ích chính là các hệ thống AI sẽ an toàn hơn, bao gồm hơn và minh bạch hơn. Tuy nhiên, nếu không có khuôn khổ rủi ro cho các tổ chức chuẩn bị cho quy định trong tương lai, có thể làm chậm tốc độ đổi mới, đặc biệt là trong những trường hợp mà việc đáp ứng các yêu cầu minh bạch và giải thích là không khả thi về mặt kỹ thuật.

Cranium AI hỗ trợ các công ty tuân thủ Quyền của AI như thế nào?

Cranium Enterprise giúp các công ty phát triển và cung cấp các hệ thống an toàn và bảo mật, đây là nguyên tắc chính đầu tiên trong Quyền của AI. Ngoài ra, AI Card giúp các tổ chức đáp ứng nguyên tắc thông báo và giải thích bằng cách cho phép họ chia sẻ chi tiết về cách các hệ thống AI của họ thực sự hoạt động và dữ liệu nào họ đang sử dụng.

Khung quản lý rủi ro AI của NIST là gì và Cranium AI sẽ giúp các doanh nghiệp đạt được nghĩa vụ tuân thủ AI cho khuôn khổ này như thế nào?

Khung quản lý rủi ro AI của NIST là một khuôn khổ cho các tổ chức để quản lý tốt hơn các rủi ro liên quan đến AI. Nó tuân theo một cấu trúc rất giống với các khuôn khổ khác của họ bằng cách phác thảo các kết quả của một chương trình quản lý rủi ro thành công cho AI. Chúng tôi đã ánh xạ AI Card của mình đến các mục tiêu được nêu trong khuôn khổ để hỗ trợ các tổ chức theo dõi cách các hệ thống AI của họ phù hợp với khuôn khổ và vì nền tảng doanh nghiệp của chúng tôi đã thu thập rất nhiều thông tin này, chúng tôi có thể tự động điền và xác thực một số trường.

Đạo luật AI của EU là một trong những quy định AI đáng kể nhất mà chúng ta đã thấy trong lịch sử gần đây, tại sao các công ty phi EU nên tuân thủ?

Tương tự như GDPR cho quyền riêng tư dữ liệu, Đạo luật AI sẽ thay đổi cơ bản cách các doanh nghiệp toàn cầu phát triển và vận hành các hệ thống AI của họ. Các tổ chức dựa ngoài EU vẫn cần phải chú ý và tuân thủ các yêu cầu, vì bất kỳ hệ thống AI nào sử dụng hoặc ảnh hưởng đến công dân châu Âu sẽ thuộc về các yêu cầu, bất kể thẩm quyền của công ty.

Cranium AI đang chuẩn bị cho Đạo luật AI của EU như thế nào?

Tại Cranium, chúng tôi đã theo dõi sự phát triển của Đạo luật AI từ đầu và đã thiết kế sản phẩm AI Card của mình để hỗ trợ các công ty đáp ứng các yêu cầu tuân thủ. Chúng tôi cảm thấy mình có một khởi đầu tuyệt vời nhờ sự nhận thức sớm về Đạo luật AI và cách nó đã phát triển qua các năm.

Tại sao AI có trách nhiệm nên trở thành một ưu tiên cho các doanh nghiệp?

Tốc độ mà AI đang được tích hợp vào mọi quy trình kinh doanh và chức năng có nghĩa là mọi thứ có thể mất kiểm soát nhanh chóng nếu không được thực hiện một cách có trách nhiệm. Ưu tiên AI có trách nhiệm ngay từ đầu của cuộc cách mạng AI sẽ cho phép các doanh nghiệp mở rộng quy mô hiệu quả hơn và không gặp phải các vấn đề lớn và các vấn đề tuân thủ sau này.

Visions của bạn cho tương lai của Cranium AI là gì?

Chúng tôi nhìn thấy Cranium trở thành vua thể loại thực sự cho AI an toàn và đáng tin cậy. Mặc dù chúng tôi không thể giải quyết mọi thứ, chẳng hạn như các thách thức phức tạp như sử dụng AI có đạo đức và giải thích, chúng tôi nhằm mục đích hợp tác với các nhà lãnh đạo trong các lĩnh vực khác của AI có trách nhiệm để thúc đẩy một hệ sinh thái giúp khách hàng của chúng tôi dễ dàng bao quát tất cả các lĩnh vực của AI có trách nhiệm. Chúng tôi cũng nhằm mục đích hợp tác với các nhà phát triển các giải pháp AI tạo sinh đổi mới để hỗ trợ bảo mật và tin cậy của các khả năng này. Chúng tôi muốn Cranium cho phép các công ty trên toàn cầu tiếp tục đổi mới một cách an toàn và đáng tin cậy.

Cảm ơn cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Cranium AI.